Vlákno názorů k článku
Mozilla představila vlastního AI asistenta jménem Orbit od Humanoid č. 1264054 - poruchový - Já se obecně obávám jedné věci - že...

Já se obecně obávám jedné věci - že lidi začnou brát výstupy trénovaných jazykových modelů aka AI za pravdu. Tato množina bude koreloval s lidmi, kteří berou za pravdu třeba blábolení politiků (lhostejno kterých, blábolivou tam maj víceméně všichni), tedy bude jich fakt hodně.

Dokud je to pomůcka, u které předpokládáte, že blábolí, tak to jde, ale až se začnou lidi tlouct po hlavách výstupy AI coby svaté pravdy, tak to bude moc špatný. Nota bene když lze ze strany provozovatele výstupy efektivně překrucovat
(ať už výběrem zdrojových informací pro učení, tak zadrátovaným biasem).

Dále tu vidím problém s tím, jak přistupovat k informačním webům. Jestli jako jejich provozovatel se s tím mám dál patlat, nebo se na to vykašlat, protože mi tam stejně žádný uživatel nepřijde, jelikož mne jednou za den, týden, měsíc vykrade AI a všichni se ptají jí. A ona se neobtěžuje ani dodat pitomý zdroj informace, i když oba víme, že jinde to vzít nemohla, protože jinde tu problematiku tak detailně nezpracovávají...

2. 1. 2025, 15:35 editováno autorem komentáře

Ono už se to děje. A ti dotyční se k tomu dokonce otevřeně přiznávají a často to dokonce považují za správné.

To je přesně to, co mě děsí - "AI odpovídače" místo dosavadních vyhledávačů a dopad na tvůrce webu (stránek o čemkoliv).
Vrátím se nějaké čtvrtstoletí zpět - podle mne bylo cca 90% uživatelů netu přinejmenším středoškolsky vzdělaných (velká část studentů na vysoké) a jejich hnacím motorem byla pozitivní touha rozvíjet (sebe i internet a jeho obsah). V té době se daly provozovat diskuse bez registrace, běžně si lidé na v komunikaci (web/mail) tykali a/ale to s úctou. Weby se nijak zvlášť nechránily proti napadení - "kdo by a proč chtěl něco ničit?" atd. A to celé fungovalo právě proto, jací byli uživatelé.
Dnešní situace je naprosto odlišná. Na síti je obecně vzato celá populace (strukturou, ne absolutními čísly). A vzhledem k tomu, že jasná majorita populace je slušně řečeno neskonale hloupá, je toho odrazem i fungování sítě.
Už současný stav je pro mne nevyhovující. Nástup "AI" do segmentu vyhledávání informací ale podle mne web zabije. Kdo bude (pro koho) vydávat články, studie, jakékoli původní informace, když se k jejich dílu vlastně skoro nikdo nedostane, protože jejich obsah vykrade "AI odpovídač"?
Ano, dalo by se to popsat taky tak, že návštěvníků info-webů bude zase asi tolik co před čtvrtstoletím, protože řádový násobek návštěvnosti (stávající stav) zmizí jednoduše proto, že klasický dnešní uživatel sítě se jen hlasem zeptá mobilu a dostane nějakou odpověď (a je vlastně jedno, jak relevantní) a tím celá akce končí. Na web, kam někdo informace vložil téměř nikdo nepřijde a hodnotu informací zpeněží "AI odpovídač". Toto nikdo dlouhodobě dělat nebude - nedává to finanční smysl. A nedává to smysl ani pro hobbysty, kteří dnes provozují zájmové weby (bez reklam) či pomáhají na fórech čistě pro radost z podpory komunity - pokud je bude někdo permanentně vykrádat a odklánět potenciální zájemce o oblast zájmu.
Myslím, že se web hodně změní a nebude to dobrá změna. Aby měli běžní uživatelé co konzumovat, musí existovat prostředí, které motivuje jiné, aby informace poskytovali. Pokud to vzdají autoři informací (protože jim bude sebráno ohodnocení jejich práce), nebude co konzumovat. To bude kompenzováno destilací zbývajících informací, což budou povětšinou sra*ky ze sociálních sítí.
Není to pěkný pohled do křišťálové koule.

Prakticky vzato to může v nějakém (samozřejmě zcela nereálném) extrému dojít do stádia, kdy bude existovat jen jeden suchý encyklopedický web jako zdroj informací, řekněme třeba Wikipedia, pár zdrojů nějakých aktuálních záležitostí (což dneska už hravě splní i Twitter aj.), to všechno budou přežvejkávat AI modely stylem otázka - odpověď, pochopitelně zůstanou sociální sítě jako celek pro exhibici jednotlivce a skupin, a shopy. Ano, není v tom prostor pro současnou rozmanitost, ovšem ono se díky sociálním sítím nad ní smráká už teď. Plížívě, pomalu. AI to bude obrovsky akcelerovat. A smrt nastane nahrazením vyhledávání odpověďmi AI u Googlu/Seznamu.

A já už teď přemýšlím, jestli dál investovat do svého projektíku čas a peníze (hlavně ten čas), protože AI mne už vykradla, a webík je výhledově v podstatě zbytečnej...

3. 1. 2025, 09:45 editováno autorem komentáře

Viděl bych to optimističtěji, ubyde webů, kteří jenom recyklují informace od jinud a dotazů uživatelů na stokrát zodpovězené otázky. Jinak ty weby s původními informacemi budou muset pořád existovat, jinak si to bude muset LLM cucat z prstu a to by taky nefungovalo, že jo.

Haha, ty si myslíš, že by přinejmenším masovým konzumentům bez schopnosti alespoň trošku kriticky myslet nevadily odpovědi vycucané z prstu?

No nefungovalo, ale je to niečo ako tragédia obecnej pastviny.
LLM si najprv všetko vycucajú a potom sa zistí, že už niet z čoho cucať. Ale tak ako tráva na obecnej pastvine nevyrastie, ak ju budú zúfale dopásavať stáda hladných oviec, nebudú môcť vyrásť ani tie zdroje, pokiaľ teda nebude možná nejaká iná cesta monetizácie tej novej tvorby (aby to nemohla vycucať AI a profitovať na tom ona namiesto tvorcu)...

Já se obecně obávám jedné věci - že lidi začnou brát výstupy trénovaných jazykových modelů aka AI za pravdu. Nebojte, jakmile to začne jít tímhle směrem, on se ochotně nějaký třeba i nikým nevolený mameluk rád ujme toho, aby to zreguloval. Zregulovali Google, zregulují i to, co má AI vracet.