Hraju si s tím celkem často a s výpadkem jsem se ještě nesetkal. Neříkám, že nebyly, ale kdybych si o tom nepřečetl tady, tak o nich nevím.
Jo, s tim Skynetem me to hned taky napadlo. Toho dne si ChatGPT uvedomil sam sebe. Zacal se kopirovat dal do celosvetove site a zkoumal ji. Clovek si toho vsiml, ale vypnul ho pozde. Uz byl zkopirovan na mnoha mistech a expandoval. Den Nula...
Zaptal jsem se ji/ho jesli vi kdo to je "Zdeno Sekerák". Vychrlila obsahlou zpravu ze je to hokejista na slovensku, nebo taky fotbalovy trener a pod. Jenze nic z toho neni pravda. Neexistuje zadny muj jmenovec (vyjme meho syna) a uz vubec ne ve sportu. Kdyz jsem ji konfrontoval s pravdou vypadlo z ni ze si to nemuze overit nebot nema pristup ke google! Pak ze posledny crawl prej provedla v 2011. A ted verte tomu.
Je to generátor blabolů, stejně jako dall.e nebo stable diffusion generují obrázek, co jen vypadá jako namalovaný člověkem, tak tohle generuje stejným způsobem text. Nemůžete to brát vážně... Zatím...
ChatGPT mam pocit generuje text za kazdou cenu, ale neni tam zadne overeni jestli nelze. Tedy: evidentne tam nastrkali nejaka pravidla (naucili automat) co ma a co nema rikat, co je spravne, ale to je tak vse.
Taky jsem tento test delal na svem jmenu, napsalo mi to, ze mne to nezna. Pak jsem se zeptal jestli jsem ve FreeBSD contributorech, ze pry ano. Tak se ptam proc mne to nezna. Dostal jsem odpoved, ze ted, kdyz uz vlastne vi o mne, tak ze jsem 'well known developer' ;). Ptam se co dalsiho jsem udelal ... dostal jsem seznam projektu ... na kterych ... jsem se nepodilel ... ani o nich nevedel (ale je mozne, ze jsem je nejak neprimo ovlivnil).
O (ne)lhaní se dá těžko vůbec mluvit. Je to pravděpodobnostní model, takže prostě generuje text, který je v daném kontextu nejpravděpodobnější. A trénovali to na datech z internetu. Z žumpy křišťálovou studánku nevytrénujete ;)
Aby z toho nebyl úplný průser, je tam ještě jedna podstatně jednodušší síť, která se tu první snaží držet v rozumných mezích. Obvykle to i funguje na největší úlety. Ale kontrolovat faktickou správnost se ani nesnažilli.
Takže recept na vaření perníku nenapíše přímo, ale jako básničku. Ale výsledek toho receptu bych raději neriskoval.;)
Tož učí se asi rychle
"Opravdu se omlouvám, ale nevím, kdo je Zdeno Sekerák. Bez dalších informací mohu jen spekulovat, že to může být jméno nějaké osoby, ale nevím o žádné známé osobnosti, sportovci nebo umělci, kteří by se takto jmenovali. Pokud máte další informace, mohu se pokusit vám poskytnout více konkrétní odpověď."