Vlákno názorů k článku Co můžeme čekat od umělé inteligence? Nikdo neví, ale džin z lahve už utekl od Bez Podezdívky - Asi bych s Davidem v mnohém souhlasil. Vnímám...

Asi bych s Davidem v mnohém souhlasil. Vnímám tam ale ještě jinou rovinu problémů, a to bezmezná důvěra v "AI" a chybějící arbitr. Tím chci říct, že v určitých případech může být "AI" užitečný nástroj produkující vstupy pro člověka. Jinými slovy, člověk si nechá od "AI" něco poradit nebo nagenerovat a použije to dál, přičemž se nad tím kriticky zamyslí a zhodnotí, jestli to náhodou není úplná blbost nebo tendenční manipulace. A pokud půjde o nějaké rozhodování (soudy a podobné), bude to zase člověk, kdo bude mít poslední slovo.

Protože pokud bychom začali na "AI" zcela spoléhat a svěřovat jí rozhodovací pravomoci, dočkáme se dříve nebo později dost nepěkných výsledků (a může to být vinou špatného vzorku dat, na kterém se trénovala, nebo třeba nějakou tendenční manipulací jejího provozovatele).

Dalším dost zásadním průšvihem bude, že při výpadku nebo nedostupnosti "AI" budeme namydlení (nikdo nic nebude vědět, nikdo se nebude nic učit, protože "AI" vše najde/přeloží/pře­tlumočí/zařídí) a těžko se bude hledat někdo, kdo to bude mít "v hlavě". A s tím se blízce pojí i potenciální masové hloupnutí lidstva, kteréžto bude pro určité skupiny společnosti nakonec velice žádoucí.

> Dalším dost zásadním průšvihem bude, že při výpadku nebo nedostupnosti "AI" budeme namydlení

Tohle ale není nic nového, ani specifického pro AI nebo IT. Jak je něco +-spolehlivé, tak si na to zvykneme spoléhat a jsme v pasti.
Potkal jsem kamna na dřevo, ve kterých se bez elektřiny nedalo topit. Bez napájení větráku by se spálily.
Tenké trubky v radiátorech, které závisí na oběhovém čerpadle, jsou něco podobného.

V tom máš samozřejmě naprostou pravdu. Jen ta míra složitosti a potenciální nahraditelnosti je někde jinde.

Složitosti možná, ale s nahraditelností je to velký špatný. Při nějakém zimním blackoutu bychom třeba tady na sídlišti byli totálně nahraní.