Vlákno názorů k článku
Geoffrey Hinton říká, že s pravděpodobností 10-20 % lidstvo vymře do 30 let kvůli AI od JaaaJ - Spíš než zánik bych si tipnul, že nastane...

Spíš než zánik bych si tipnul, že nastane problém s přístupem k informacím - pokud bude snadné je ve velkém dolovat z volně dostupných zdrojů, které existují především z návštěvnosti a přeprodávat jinde (což se v případě LLM děje), tak zdroje časem vyschnou, nebo se schovají za paywall, aby uchránily vlastní existenci.

Podobný problém jako s google náhledy, aniž by člověk navštívil daný zdroj. Pro koncového uživatele jednodušší, ale obávám se, že brzy dojdou zdroje, které AI systémy budou moci "vydrancovat".

Ostatně... aféra Cambridge Analytica byl jenom začátek toho, co nás v době systému schopných masivně zpracovávat obrovská množství dat, nevyhnutelně čeká.

Problém s přístupem k informacím může taky nastat kvůli kontaminaci informačních zdrojů balastem generovaným AI. To je problém pro učení AI i pro lidi.

Už teď to je místy vidět. S kvalitou generovaných výstupů bude těžší ty od AI rozpoznat. AI leckdy umí produkovat úplné kraviny, stejně jako člověk, ale mnohem přesvědčivěji :)

Jsem rad, ze nam sam nakonec potvrzujete, ze generujete kraviny :-)

https://arxiv.org/abs/2305.17493