Vlákno názorů ke zprávičce Může ChatGPT „myslet“ sám za sebe? od RRŠ - Zatím jsou tyhle AI výborné v předstírání inteligence...

Zatím jsou tyhle AI výborné v předstírání inteligence a napodobování. Věřím, že mohou napsat báseň ve stylu známých autorů, ale patrně nevymyslí hříčku:
Spadla na mňa paranoia.
Spadla shora - byla "para"?
No, ja!
Především proto, že autor takových blbin jí bude zcela neznámý a nemá, kde to natrénovat.

GPT4 nechali zlozit vsemozne skusky, napr. SAT Math to dalo na 89. percentil https://cdn.openai.com/papers/gpt-4.pdf (ide prakticky o IQ test). Ako to podla teba dokazal, ak len "predstieral inteligenciu"? Je mozne sa na taku skusku podla teba "namemorovat" alebo je potrebne "pochopenie" abstraktnych suvislosti?

Aniž bych chtěl snižovat um téhle AI, tak jen vzpomenu, že jsem kdysi složil zkoušku z předmětu Dějiny mezinárodního dělnického a rolnického hnutí (což byl předstupeň k Vědeckému komunismu - ale ten jsem už nestihl...) - a nevím vůbec nic a taky jsem nevěděl. Zkouška totiž spočívala v tom, udělat na zkoušející dojem, že to umím a že v to věřím. Prakticky stačilo nastudovat několik frází a odkazů do literatury, a vhodně to prezentovat a promíchat.
Z toho, co mi ChatGPT zatím vrátil, to na mne dělá dojem, že se chová dost podobně.
(Mimochodem: třeba přijímací řízení na střední školy máme postavené tak, že jím spíš projde ChatGPT a student, který umí rychle od boku odhadovat správný výsledek, než ten, který nad tím skutečně přemýšlí.)

Spominane testy nemaju za ulohu odlisit/rozpoznat AGI, ale testovat ludi. GPT4 presiel z prosteho dovodu - trenovacie data boli dostatocne na to, aby dane testy uspesne absolvoval.

Robili sme s kolegami na ChatGPT4 vlastny pokus. Zadali sme mu logicku ulohu, tzv. Zebra puzzle, kde sada vyrokov popisuje hladane riesenie. Nasli sme na internete existujucu instanciu problemu. Zo zadania sme odobrali podstatnu cast odmedzujucich vyrokov, tzn. priestor moznych rieseni sme rozsirili. Riesenie od GPT4 bolo nadherne popisane a sedelo s postupom riesenia neupraveneho problemu vratane logickych krokov, ku ktorym neboli v zadani informacie (pretoze boli v odstranenych vyrokoch). Je to podla vas u ChatGPT znak inteligencie alebo skor plagiatorstva?

Ani jedno.
Našel podobnou úlohu, jejíž řešení bylo lze použít.
Ono kdyby si člověk pamatoval všechno, co mu do školy nalili do hlavy, plus to, do dohledal bokem v rámci samostudia, kdyby měl tak obrovskou paměť, tak i při vysoké míře komprese (abstrakce) by byl považován za velmi inteligentního, byť by nebyl schopen sám vymyslet řešení byť jednoduché úlohy, byla-li by proň nová. Tohle mi připadá podobné: dokud je AI schopna nalézt vzor, je schopna též vymyslet nové řešení. Ale asi by selhala ve chvíli, kdy přijdete se zcela novým problémem.
Jak by asi dopadl dotaz na dosud nevyřešený problém?

"Jak by asi dopadl dotaz na dosud nevyřešený problém?"

Ak by mal chatbot aparát na riešenie toho problému, tak by ho vyriešil. Tak isto, ako človek. Dajte predavačke z Kauflandu riešiť teóriu superstrún, tiež s ňou veľmi nepohne.

To je moc hezký příklad. Krásně ukazuje, jak ChatGPT ve skutečnosti nerozumí (v lidském smyslu) tomu, co prezentuje. Někde jsem četl hezké označení těchhle generaticních AI: Stochastický papoušek. A je to přesně ono.

Člověk by si třeba to řešení původního příkladu vygooglil, ale až by ho aplikoval, tak by mu došlo, že některé ty kroky nedávají smysl a vygooglil by si je. Tedy, pokud by tomu opravdu rozumněl a jen nepapouškoval.

Popravdě nadšení z nové generace generativních AI moc nechápu. ChatGPT sice nemám, ale hrál jsem si trochu víc s Midjourney a tam je také hrozně poznat, jak obraz ve skutečnosti nechápe, ale prostě ho sestavuje z naučených vzorů.

"Někde jsem četl hezké označení těchhle generaticních AI: Stochastický papoušek. A je to přesně ono."

Aj človek je stochastický papoušek, nikto ešte nevymyslel sám od seba niečo úplne originálne, vždy tomu predchádzali stáročia výskumov a rôznej inšpirácie. Som zvedavý, kedy ľuďom dojde, že nemá zmysel sa povyšovať a sme len hlúpe bioroboty, ktoré len opakujú naučené a zdanlivá kreativita je len tiež už len variácia na to čo tu už bolo a skutočný príspevok jedinca je mizivý.

Dinosaurus RRŠ mal marxizmus leninizmus, ak by nepísal litánie o matlaní po displejoch a bol by iný režim, možno by niečo v rámci marxizmu leninizmu objavil. Takto má len senilné reči o umelej inteligencii, ktorej vôbec nerozumiie.

Výborný postreh!

Môj bývalý profesor spravil pred dvoma mesiacmi iný test. Zadal ChatGPT úlohu popísať postup riešenia diferenciálnej rovnice prvého rádu so separovanými premennými.
Chatbot krásne popísal postup riešenia sústav lineárnych rovníc pomocou substitúcie premenných.
Na doplňujúcu poznámku, kde sa daný postup naučil, bezoľstne odpovedal, že v kurze lineárnej algebry.

Medzičasom sa zrejme ChatGPT dovzdelal a dnes už ponúkne popis riešenia diferenciálnej úlohy.

Ale stále ostáva otázka, kde všade zatiaľ dovzdelaný nie je a kde všade vráti zavádzajúcu odpoveď.

Môjho času na skúšky chodili dva typy ľudí - prví buď otázku vedeli, alebo aspoň priznali profesorovi, že danú otázku nevedia zodpovedať. Druhý typ skúšku skladal podľa slova skúšať - varil z vody a náhodne sa snažil posplácať nesúvislé útržky, ktoré sa na neho nalepili. Mne ChatGPT podľa mojich vlastných pokusov skôr pripomína ten druhý typ.