Vlákno názorů k článku
ChatGPT časem odpovídá jinak
od xsoft - ono se z "nactecni tuny knizek" blbe zjistuje,...
-
Ono tu "inteligenci" chatu demonstruje mnohem líp primitivní úloha - "Kolik slov má tato věta." Nevím jak GPT-4, ale GPT-3.5 dává vždy zcela halucinogenní výsledek. Stejnětak naprostý nesmysl vrátí při požadavku "Z předchozí věty uber dvě slova."
Ukazuje to dle mého, že se vůbec nejedná o inteligenci, ale o tupého "šprta". Nadrtí se zpaměti hromadu textu, díky tomu dokáže spojovat věci, které jsou v zmíněné v různých textech. Ale naprosto chybí hlubší *pochopení*. Systém prostě *nechápe*, jak funguje aritmetika. Přečetl si, které číslo přichází po 1 a které po 2, ale pokud v textu nikde nenašel, které číslo následuje po milionu, už to prostě nedokáže zkonstruovat. Proto je potřeba integrace s CAS (WolframAlpha apod.), což ale ukazuje na to, že se opravdu nejedná o inteligenci, ale pouze a jen jazykový model.
31. 7. 2023, 09:58 editováno autorem komentáře
-
Presne tak, LLM vôbec nie je AI... "AI" je len buzz-word pre marketing, ale AI vôbec neexistuje a ešte dlho existovať nebude.
ChatGPT v podstate funguje spôsobom že bol trénovaný na napríklad textoch:
Ahoj, ako sa máš? Ja sa mám dobre.
Ahoj, ako sa máš? Totálne špatne.
Ahoj, ako sa máš? Celkom to ujde.
Ahoj, ako sa máš? Ja sa mám dobre.
Ahoj, ako sa máš? Ja sa mám dobre.
Ahoj, ako sa máš? Ja sa mám dobre.
Ahoj, ako sa máš? Celkom to ujde.A keď sa následne ChatGPT spýtaš:
Ahoj ako sa máš? Tak ono to odpovie "Ja sa mám dobre." s 57% pravdepodobnosťou, "Celkom to ujde" s 28% pravdepodobnosťou a "Totálne špatne." s 14% pravdepodobnosťou.
V podstate opakovaná opica... aj keď nie úplne je to tak, ono to netrénuje na celých vetách ale po tokenoch, ktoré sú len časti viet alebo slov. V podstate to má tabuľku s akou pravdepodobnosťou nasleduje ktoré slovo po predchádzajúcom, a to tam doplní. Ak je tých slov viacej, tak entropia sa zvyšuje práve tým, že po prvom môže vygenerovať 7 rôznych druhých slov, a po druhom trebárs 11 iných slov, ale pre každý z tých 7, teda 77 kombinácií a tak ďalej. Výsledkom je že sa to tvári že to formuje vety a že to vie dať jednu informáciu mnohými rôznymi spôsobmi. Ale je to len primitívny algoritmus, ktorý vlastne reálne nič nerobí, len to vyberá slová (alebo lepšie povedané časti textu, e.g. tokeny) z modelu a dajak to formuje do viet.
ChatGPT absolútne nemá žiadne ale vôbec žiadne tušenie čo vlastne je významom tých viet a čo vlastne sa pýtaš. Vôbec nevie rozmýšľať, nemá žiadnu logiku, žiadnu kreativitu, žiadne vedomie ani vôbec nerozumie kontextu.
AI neexistuje a ešte dlho nebude. ChatGPT je len "vymakanejšie prediktívne písanie", ktoré doplní texty a je tam vyššia entropia a dokáže doplniť odpoveď na takmer každú otázku len preto že to bolo natrénované na tak obrovskom množstve existujúceho textu. Ale ak sú trénovacie dáta chybné, tak by LLM vždy vrátilo stejné chybné odpovede, len inak zformulované. Proste to je len vyhľadávač v existujúcich textoch.
Language Modely existovali už dlhú dobu, akurát teraz je to Large Language Model, teda tých dát je tam omnoho viac, to je celé. Navyše čím väčší model, tým náchylnejší na chyby a nepresnosti. A to aj odpovedá výsledku ChatGPT, kde presnosť na mnoho rôznych otázok nedosahuje ani 2%.
> The todays "AI" is tool with 98% accuracy but 2% precision.
To že "zhruba" je odpoveď správna v 98% prípadoch aj keď s kopou nepresností, je nič. Ale to že len v 2% prípadoch je odpoveď úplne presná, to je čo by sme chceli mať vyššiu hodnotu. Pravdou ale je že i "zhruba" správana odpoveď u ChatGPT je na nízkych hodnotách a "presnosť" skutočne bližšie k 30%, a precíznosť v podstate desatinách percenta. To je čo je ChatGPT dnes. V podstate nepoužiteľný nástroj ak potrebujete presné informácie. A ak potrebuje len zhruba správnu odpoveď, od ktorej sa viete odkopnúť, tak je to občas použiteľné, ale vyžaduje si to overiť odpoveď po každom dotaze.
Je to fajn na také najbežnejšie vyskytujúce sa texty a otázky. Ale čokoľvek špecifickejšie a proste to nemá zmysel ani používať.
