Vlákno názorů k článku
Geoffrey Hinton říká, že s pravděpodobností 10-20 % lidstvo vymře do 30 let kvůli AI od František Ryšánek - Začnu se bát ve chvíli, kdy se veškeré...

Začnu se bát ve chvíli, kdy se veškeré zásobování populace potravinami zkoncentruje do jediného nezálohovaného systému s minimem lidské obsluhy a údržby, nad jehož provozem a údržbou lidi časem ztratí kontrolu / přehled, zmizí možnost návratu k manuálnímu provozu (třeba protože zanikne povolání řidičů kamionů a člověkem řiditelná auta). Ta věc nemusí ani pojmout zlý úmysl - úplně stačí, když nějak banálně selže a nedokáže se sama opravit.

Po nějakou dobu třeba AI bude pokračovat ve vývoji technologií (HW+SW) po svém, lidi ztratí zájem / motivaci / kapacitu se na dalším vývoji podílet. V momentě, kdy zmizí lidi, kteří chápou jak to celé funguje, a drží v ruce klíče od té věci, je zaděláno na průser.

Tohoto scénáře se myslím už nedožiju, ale moje děti nebo vnoučata třeba ano.

Na to téma se dá vymyslet obrovská spousta Sci-Fi zápletek...

Třeba: bohatý globální sever (západ?) si vybuduje civilizaci blahobytu, o kterou se bezezbytku postará technologie. Nejdřív nebude muset pracovat kdo nechce, nakonec nebude pracovat vůbec nikdo. Motivace ke vzdělání půjde do kopru. Obrana proti vnějším nepřátelům (národům, které nemají přístup k technologii) bude zajištěna taky nějakou technologií = obyvatelé "zóny blahobytu" ztratí schopnost bojovat. Nějakou dobu se nebudou konat války, protože "blahobytní osvícení" si dobyvačnou válku o území zakážou, a "barbaři venku za hradbami" si do útoku netroufnou. Ale časem třeba dojde k tomu, že obranná složka technologické infrastruktury okorá a odumře (nebude se válčit, proto jí nebude věnována patřičná pozornost) a až to jednoho dne "barbarům" dojde, hádejte jak to dopadne...

Nebo: ruská invaze na ukrajinu skončila dohodou o klidu zbraní a zamrznutím konfliktu. Během následujících asi 10 let nejen obě válčící strany, vysílené konfliktem, ale především celý zbytek světa, potichu a mimo zájem médií zapracovali na technologii levných dronů. Motory, baterie, systémy řízení autonomního letu a navedení na cíl, komunikační a "výsadkové" systémy, software pro ovládání rojů a operační/stra­tegické vedení boje, všelijaké speciality a vychytávky... vojenské sklady se potichu naplnily malými drony na jedno použití, globálně v průměru 10 ks na hlavu. A po létech klidu povstal z voleb v jedné poklidné zemi sebevědomý vůdce, který se rozhodl svou zásobu vrtulek vyzkoušet - jestli je ještě k něčemu. Přece ji jenom tak bez užitku neodepíšeme? V následujících několika hodinách a dnech se prověřilo, komu dlouhým skladováním zkřehly plastové vrtule a nosníky, kdo dbal na dobíjení a rotaci uskladněných baterií, kdo udržoval v pohotovosti systémy velení. Jedna věc, po které tentokrát nikdo ani nevzdechl, byly historické arzenály jaderných zbraní, tolik populární ještě v předchozí válce (alespoň jako strašák). Různé země dle svého národního vkusu tyto arzenály mezitím buď demontovaly, nebo bezpečně zakonzervovaly, nebo ponechaly svému osudu (obehnaly sklady štěpného materiálu výstražnou páskou - aby se někdo omylem neozářil) - každopádně nikoho už ani nenapadlo, pokusit se je použít.

Západ nebo východ... obojí tě stahne z kůže a odhodí jak kus masa... ;)

-> František Ryšánek:
Kdesi jsem četl, že ke zničení lidstva vůbec není potřeba, aby roboti s lidmi bojovali. Stačí, když jim budou pomáhat.

Čas ukáže, kolik je na této predikci pravdy.

A co se týče toho zásobování potravinami, na šikanu zemědělců Bruselem, Britskou vládou, Americkou vládou i těmi našimi šašky... jsem dosud nezapomněl. Třeba kvůli metanu aka prdění krav, kvůli dusíkatým hnojivům, neškodnému CO2 a podobným blbostem. (čímž neříkám, že regulace nejsou potřeba, jsou, ale vocamcaď pocamcaď bez fanatismu a bláznivých ekoideologií, bez postihování důchodkyň, co prodávají přebytky ze svých 3 jabloní, nebo chlápka, co měl drzost prodávat špek ze svého prasete bez udání původu...).