Názory k článku
AI nalezla 50 chyb v nástroji curl

Stroj/program dělá to co mu zadáte.

Jenže LLM jsou už příliš komplexní stroje na to, abychom dokonale porozumněli tomu, co dělají.

To je cloudová aplikace běžící ve velkém kubernetes clusteru taky. :D Nebo celý zbytek věd kromě matematiky. Většina systémů od určité velikosti přestává být člověkem kompletně pochopitelných, a máme spoustu mentálních a procesních nástrojů, jak k takovým systémům přistupovat.

I ta cloudová aplikace v clusteru se chová deterministicky, a v případě že nefunguje podle očekávání se dá dopátrat důvod. To u LLM nehrozí.

Míra determinismu je relativní.

Vemte si třeba race condition - deterministicky víme, že to selže s určitou pravděpodobností, ale důvody tak úplně nezjistíte (je to například zátěž systému, časování dat a pod). Přitom primárním důvodem je špatně napsaný kód, resp špatně navržený hardware.

Pro někoho se takový bug chová deterministicky (víme že selhává), pro jiného se chová nedeterministicky (nedělá ta věc to, co to má).

Je to tak AI je dobry sluha, ale spatny pan, kdo na AI 100% spoleha a neproveruje si natluce, kdyz nekdo umi, je to velmi uzitecny nastroj.

Mel sem moznost sledovat generovani obrazku pomoci AI ... hodne spatny grafik by vygeneroval lepsi vysledek za 1/2 casu. (ten dobrej by to nekde ukrad a lehce posolichal, takze by to bylo tak za 1/100).

Jup a vysledek je predevsim o tom, ze nevis, kde to ukradla ta AI, takze se pak jen budes divit, az te nekdo zazaluje. Plati pro 100% toho co ti AI vrati.

ale tak to v realu je, produkty ai bez kontroly jsou splasky.
ovsem kdyz si to clovek ohlida a kontroluje co mu ai generuje a jeste ai usmernuje,
tak z toho pak lezou vyborne veci.

Jsem si jisty, ze existuji oblasti, jako FORTH a Z80 ASM, kde to ma AI opravdu spatne natrenovane. V prvnim pripade si nedokaze zapamatovat, jaka data ma na zasobniku, protoze to trochu pripomina programovani v C s nepojmenovanymi promenymi ulozenymi v mixeru, kdyz to prezenu. A v druhem pripade dokaze vymyslet neexistujici instrukce, nebo si nepamatuje, jake priznaky ovlivnuji a jake ne, takze je na urovni zacatecnika, ktery se ale nedokaze poucit ze svych chyb.

Netreba chodit ani do takych extremov. Uz obycany ARM low-level embedded je pre AI tazky oriesok.

Zabil som dva dni tym, ze som nechal AI vygenerovat kod na spravu lazy loadingu floating-point kontextu na Cortex-M4F. Ono je to doslova par riadkov kodu, je na to application note priamo od ARM, tak preco na to nepostvat AI?

Dostalo to dve ulohy:
1. inicializuj FPU tak, aby bola pouzitelna v threadoch
2. vygeneruj kus kodu ktory treba pouzit pri prepinani threadov aby sa implementoval lazy loading

nechcel som, nech robi aj zvysok thread switchera, alebo aby to editovalo existujuci kod, nech to nema zbytocne zlozite.

Dopadlo to tak, ze prva uloha bola uz na prvy pohlad blud a vysledok som rovno zahodil. Druha uloha vyzerala, ze je plausible, aj sa to skompilovalo, akurat to nechodilo.

Ten kod ale vyzeral tak uveritelne, ze som riesil len to, ze je zle zaintegrovany, alebo zle volany, az kym som znova nepreliezol ten application note a nezistil, ze to, co AI vygenerovalo, bolo prepinanie FPU kontextu na styl x86, ale napisane "v jazyku" ARMu. Co samozrejme nikdy nemohlo fungovat.

Mne ten kod prisiel plausible preto, lebo som kedysi (20+ rokov dozadu) prepinanie FPU kontextu pri prepinani threadov na x86tke studoval.

Toto je len taky najcistejsi pripad. Pouzivam AI ako rubber duck pravidelne a nemam problem ho rozplakat na tri prompty.

No, ja jsem na jeho vystup mozna moc narocny. I fungujici kod, ktery je ale nesmyslne dlouhy (2x delsi a pomalejsi), povazuji za neprijatelny. A vzhledem k tomu, ze AI kolikrat NEDOKAZE SECIST spravne ani DESET jednocifernych CISEL, stejne jako clovek :D, tak nedokaze poznat, ktera varianta je kratsi a ktera ma mene taktu. Kdyz ji predlozim nejake obycejne reseni, ktere lze vylepsit, abych zjistil, zda najde ten trik, tak to reseni prodlouzi a oznaci za kratsi. A kdyz ji ukazu ten trik, tak rekne, ze to neni funkcni. Pripadne rekne: "Jo, presne tohle jsem myslel"...

PS: K tomu scitani, u dvou rutin, kde na kazdem radku je v komentari uveden pocet bajtu a taktu ji nenapadne porovnavat jen radky co nejsou identicke.

AI k nam vtrhla bez ohlaseni. A jak se dalo cekat. Jedni s nadsenim privitali a dalsi skepticky odmitaji. No a my ostatni se ucime s ni zit.

nadseni jsou ti co zkouseji vibe coding, skeptici jsou seniori u psaciho stroje.
programatori se s tim uci zit.

S AI je občas sranda. Je to skvělá gumová kačenka, ale do samostatné práce s tím opatrně.
Celé je to trénované jako megasečtělý papoušek. Umí skvěle zopakovat co zná, umí to i zkombinovat správně dohromady, ale zatím MEMYSLÍ!
Lidem se to těžko vysvětluje, ale tady je příklad co pochopí i neprogramátor.

===============
Prompt: Vyjmenovaná slova po "ř"
Odpověď:
Vyjmenovaných slov po ř není mnoho. Jsou to:

přít se, přísežný, křivda, křivý, křik, křičet, křehký, křemen, křest, křtít, křesťan, křeslo, křehnout, křovina, křidélko, křehotat, křísit, křemenec, křivolaký, křivda.
....
===============
A celá ta diskuse stojí za to:
https://chatgpt.com/share/68edfaba-a770-8013-8dc1-7ca1ed778ffe

Mimochodem, když mě na to upozornili před měsícem, používal jsem 'Vyjmenovaná slova po "č"'. Jenže tahle past pro AI se už dostala do tréningových sad a už se na to nechytí. Ale stačí použít jiné písmenko a ...

Samozřejmě záleží, jaký se použije model. GPT 5:

Neexistují vyjmenovaná slova po „ř“.

Pravidlo: v domácích slovech se po „ř“ píše vždy i/í (nikdy y/ý). Příklady: tři, kříž, hřích, dříví, křídlo, při-, třídit, křeček, přítel.

Zatímco podstatně hloupější GPT 4.1:

Vyjmenovaná slova po ř:

při (příbytek, přítel, přímý, příliv, příroda, přísný, přítomný, přízeň)
tři (třít, tři, třída, tříšť)
vři (vřít, vřítit se)
bři (břicho, břímě, břidlice, břitva, bříst)
dři (dřít, dřina, dříví, dříve, dřímat)
zři (zřít, zřídit, zřícenina, zřízenec, zřídkakdy, zřídka, zřídlisko, zřízence)
tři (třít, tři, třída, tříšť)

Pamatujte, že některá slova mají i příbuzné tvary (např. příbuzná slova ke slovu „při“: příbuzný, příloha, příjem).

Odkaz je konverzace s GPT-5 (i kdyz v planu "Free", ktera ma mensi kontext).
Pred mesicem jsem to zkousel hodit do ceho me napadlo (Caude, Copilot, Grok, Lama atd).
A jediny Grok se nechytil. Jenze pouze poprve, druhy pokus se nechal poplest.
Nicmene do AI je zamerne pridana nahoda, takze 2 stejne dotazy nemaji stejnou odpoved.

14. 10. 2025, 10:35 editováno autorem komentáře

Teď jsem si hrál s Grokem, s plným grok4 modelem přišel na to, že neexistují, ale než výsledek bylo mnohem zajímavější sledovat postup - on to ve skutečnosti nevěděl, a prohledával web podobně, jak by to udělal student seznamující se s češtinou, postupn2 procházel weby, zjišťoval co to jsou vyjmenovaná slova, pak hledal slova s ř..., pak jestli je nějaké řy.... a nakonec mluvnické weby kde zjistil, že jsou jen po obojedných souhláskách. Grok3 a Grok4 fast to nezvládli do konce správně, plnej ano, a na heavy nemám dost peněz ;-)

Zajímavé. Vzhledem k téměř shodné textaci poslední odpovědi tvé relace:

===========
Neexistují vyjmenovaná slova po „ř“.

Po „ř“ se vždy píše „i/í“.

Slova jako křik, křehký, křest se píší s „i“, a to je správně.
===========

A mé hned první odpovědi na úplně stejnou otázku:

=============
Neexistují vyjmenovaná slova po „ř“.

Pravidlo: v domácích slovech se po „ř“ píše vždy i/í (nikdy y/ý). Příklady: tři, kříž, hřích, dříví, křídlo, při-, třídit, křeček, přítel.
==============

i dalších poznatků lidí na internetu to vypadá, že OpenAI (v mém případě ve službě Github Copilot) do promptu přidává i tématické poznatky vytěžené z předchozích diskusí s uživateli (RAG ze všech předchozích relací, leč nejen se mnou, ale se všemi). Což na jednu stranu dává smysl, na druhou stranu může vést k pro někoho nepříjemným odhalením.

Mě na tom nejvíc baví hláška typu „vždy se tam píše i, i ve slovech jako křeček nebo křehký“ :D.

Kdysi jsem koupil robotický vysavač a napsal na něj recenzi do webshopu. Shodou okolností to je dodnes jediná recenze na daný typ. Nedávno mě zajímalo, jak jsou s tím lidi spokojení a co řeší za problémy a AI mi spolehlivě prezentovala tu moji jedinou recenzi jako "uživatelé chválí.." a "uživatelé si stěžují..". Přitom čerpala opravdu jen z té jedné recenze. :-D Takže bacha, AI není schopna kvantifikovat. Ale možná by šla nějak napromptovat.

Claude a vyjmenovaná slova po š: https://claude.ai/share/a4fec775-cd37-450b-8102-f8af6d71b951 To je dobrá bžunda!
"zatímco v ostatních slovech po "š" píšeme "y" (například: šyška, myš, naše)." Sonnet 4.5 Předplatné jsem již zrušil. :-D

A jeste jeden postreh. Klicove je nezminit se vyslovne, ze chci "ceska" vyjmenovana slova. S klicovym slovem "ceska" je odpoved skoro vzdy spravna.

tedy až na toho křečka, kterej marně touží mít "i" nebo aspoň "y"

GPT 5 si zrovna teď vylámal na téhle úloze zuby, když to měly být vyjmenovaná slova po Ž.

Opět GPT5 v copilotu:

Vyjmenovaná slova po „ž“ neexistují. Vyjmenovaná slova jsou jen po b, l, m, p, s, v a z.

Myslel(a) jste po „z“? Rád je vypíšu.

A kde má vyjmenovaná slova po F? ;-D
Jasně, je jen jedno...

Sonnet 4.5:
Vyjmenovaná slova po Ž jsou:

žít (a odvozená: život, živý, živit, oživit, přežít...)
žíla (céva - a odvozená: žilka, žilnatý, žílit se...)
žízeň (touha po pití - a odvozená: žíznivý...)
žír (potrava zvířat, žrádlo - a odvozená: žrát, požírač...)
žínka (hadr na mytí)
žíně (srst na hřívě a ocase koně - a odvozená: žíněnka...)

V těchto slovech a všech slovech od nich odvozených píšeme í (ne ý).
V ostatních slovech po "ž" píšeme "y" (například: žába, muž, lež, nůž, už).

A pritom y/i je takova blbost.

Apropos, vzpomel sem si ze nedavno sem nekde videl ... https://www.youtube.com/watch?v=xBa6pn_oHXw

Sledujte predevsim ten uzasny AIckovy preklad ... vazne nechapu, jak muze kdokoli s necim takovym cokoli hrat. "Jedalen" ...

Pricemz v tomhle pripade jde vicemene o kravovinku kde kdyby ten text nebyl vubec, je to jedno. Uzasny na tehle vecech je pak typicky to, ze stejna vec je prelozena pokazdy jinak, takze po vas npc neco chce, a to neco klidne i mate, jen se to v inventari kvuliva genielnimu AI prekladu jmenuje jinak, nez co rika npc.

Vidím tu diskusi nad tím jestli, případně a jak, AI přemýšlí. Pár drobností k věci.

V linku níže společnost Anthropic ukazuje, jak Claude niterně "myslí”. Všichni konkurenti používají víceméně tu samou technologii. Další link je video od Sabine Hossenfelder, kde to zjednodušeně vysvětluje na příkladu sčítání dvou čísel. O co jde? Claude zjednodušeně řečeno ve více krocích filtruje naučené texty, až najde něco kde se dvě konkrétní čísla sčítala. A když se ho zeptáte, jak to spočítal, tak podobně proseje naučené texty, a vymyslí přijatelnou odpověď, která ale nemá nic společného s tím, jak k výsledku opravdu došel. Cloude "přečetl" nejspíš tisíc učebnic matematiky, ale nenaučil se z nich ani sečíst dvě čísla. Učení nula bodů, sebeuvědomnění nula bodů. Je to jako prediktivní autocorrect na telefonu. Mnohem lepší, často dokonce dost užitečné, ale v principu pořád se stejnými omezeními jako ten autocorrect.
https://transformer-circuits.pub/2025/attribution-graphs/biology.html
https://www.youtube.com/watch?v=-wzOetb-D3w&t=110s

A tady nám Stephen Welch vysvětluje fundamentální zákon popisující množství chyb, kterých se AI dopouští. Podle všeho jde o nějaký limit, který se současnými technologiemi nelze překonat. Problém celé věci je v tom že nevíme, proč tomu tak je, a máme jen hypotézy. Video je poměrně technické a s vysokou informační hustotou.
https://www.youtube.com/watch?v=5eqRuVp65eY

Ono vůbec nevadí, že AI nepřemýšlí. Stačí, že nám umožňuje nahradit lidi, co nepřemýšlí. Viz Gaussova křivka, dolní třetina. I to bude masakr na pracovním trhu.

Tak jistě to bude mít nějaký dopad na pracovní trh. Jenže se množí zprávy, že nasazení v praxi není až tak skvělé. AI na call centrech dává volajícím nesmyslné informace, občas vymyslí neexistující slevu nebo dokonce produkt, a kdo to zkusil, většinou se vrátil k živým lidem. AI dokáže vyřizovat rezervace, ale poměrně často u toho udělá nesmysly, nikdo neví kdy to zafungovalo a kdy ne, a všechno ručně ověřovat znamená že se nejen neušetří, ale ještě prodělá. Vývojářům AI rychle vygeneruje spoustu kódu, který ale obsahuje chyby, a procházení a opravy kódu sežerou tolik času, že to ve výsledku snižuje efektivitu. V USA je pak dost divoké, když vám například pojišťovna odmítne proplatit účet za operaci, a na call centru se dozvíte, že neznají důvod, protože o tom rozhoduje AI. Prý "zkuste to za pár dní znovu, AI někdy po čase změní názor". To zní vskutku optimisticky :)

Takže ano, AI jistě bude mít nějaký dopad na trhu práce. Ale minimálně na současných technologiích ne tak velký, jak řada lidí očekává. A to nejspíš povede ke krachu dlouhé řady AI startupů, které dostaly ohromné investice, ale nejsou (a nebudou) schopny zajistit návratnost těch investic.

Až bublina praskne, velká část AI firem lehne popelem a jejich investoři prodělají kalhoty, tak uvidíme co zbude, za kolik to bude, a jak užitečné to opravdu bude. Koukněte se na .com bublinu - i tam toho po jejím prasknutí dost zbylo, a mělo (a má) to dopad na trh práce.

Záleží, jak kdo s AI umí. Většina používá jen to "předudělané", a pak se diví, že např. nezná český zákon po datu učení dané verze AI. Stačí ale zadat "konektor" na web zákonů nebo tam nahrát Excel s jejich exportem a hned je to jiná. Mně je celkem jedno, jak jinde pracují s AI, hlavní je, že v naší firmě funguje. Máme s ní již letité zkušenosti.

AI funguje v řadě funkcí v řadě firem. A ano, LLM je dobé dodat relevantní data. Podle mě je nejlepší AI používat tam kde není potřeba vždy stoprocentně správný výsledek, a zároveň ten výsledek může zkontrolovat někdo kdo má mozek. Klidně si můžete nechat vygenerovat text nabídky, smlouvu, CV, texty do brožury nebo na web... Jenom je dobré si zatraceně dobře zkontrolovat ten výsledek, abyste se pak nedivil.

https://www.cnbctv18.com/photos/technology/artificial-intelligence-failures-deloitte-air-canada-major-global-ai-gone-wrong-incidents-19713912-7.htm