Názory k článku
AI nalezla 50 chyb v nástroji curl
-
SinuhetStříbrný podporovatelJenže LLM jsou už příliš komplexní stroje na to, abychom dokonale porozumněli tomu, co dělají.
-
KateStříbrný podporovatel
I ta cloudová aplikace v clusteru se chová deterministicky, a v případě že nefunguje podle očekávání se dá dopátrat důvod. To u LLM nehrozí.
-
Míra determinismu je relativní.
Vemte si třeba race condition - deterministicky víme, že to selže s určitou pravděpodobností, ale důvody tak úplně nezjistíte (je to například zátěž systému, časování dat a pod). Přitom primárním důvodem je špatně napsaný kód, resp špatně navržený hardware.
Pro někoho se takový bug chová deterministicky (víme že selhává), pro jiného se chová nedeterministicky (nedělá ta věc to, co to má).
-
Lépe řečeno klasická kvantovka má problémy jak s relativitou, tak i s interakcemi (a k tomu se poměrně dost fyziků v soukromí (a někteří s definitivou i mimo) přizná, že axiom měření, který jediný přináší nedeterminismus, je celkem problematický ), a QFT je pokud vím díky unitaritě naprosto deterministická, což vede třeba k information loss paradoxu u černých děr.
To, že nelze změřit úplný stav systému je otázka ortogonální.
-
Ne, moderní počítače už nejsou zcela deterministické. Stále sice mohu celkem oprávněně očekávat, že například nějaký výpočet dopadne pokaždé stejně, pokud má stejné vstupy. Ale doba výpočtu, kterou potřebuje, nebude konstantní, protože do ní vstupuje spousta pseudonáhodných i skutečně náhodných vlivů. Třeba zda jsou data právě v cache, jestli zrovna probíhá jiný přenos na sběrnici (a to pomíjím možnost, že mezitím přijde přerušení).
Pokud někdo tvrdí, že to jen vypadá náhodně, ale že jde vlastně o velmi složitý deterministický automat, mýlí se. Příkladem skutečně náhodného děje je přenos dat mezi dvěma místy s odlišnými hodinami. Tyto hodiny nemusí a často ani nejsou soudělné ani svázané, takže do hry vstupují dva oscilátory - dvě "clock domény" - mezi nimiž se přenos musí synchronizovat. A protože oscilátory mají jitter, který je zčásti skutečně náhodný (kvantový původ), promítá se náhoda i do doby přenosu.
A i malý šum ve složitém systému má dalekosáhlé důsledky. S rozlišením na jednotky cyklů procesoru tedy nelze říct, jak dlouho trvá i jen málo složitější výpočet, protože se do něj náhoda - přímo či nepřímo - vždy nějak dostane.
-
ad determinismus - no nevím, to, že neznáme počáteční podmínky (kvantový systém z principu, u klasických chaotických systémů via Lyapunův exponent) neznamená, že je to nedeterministické, ale jen, že je to nepredikovatelné.
Ale na to ani netřeba složitý distribuovaný počítačový systém, ono stačí vhodně rychle kapající kohoutek a to i v ideálním případě bez šumů a vnějších vlivů, pořád je plně deterministický, ale nepredikovatelný...
-
KateStříbrný podporovatel
Race můžu najít, opravit, vyřešit. U LLM můžu upravit prompt a možná to začne fungovat líp. Možná hůř. Možná začne adorovat Hitlera, jako "opravený" grok.
-
Filip JirsákStříbrný podporovatelTo samé ale platí pro komplexní konvenční systémy. Navíc i u konvenčních systémů může být správné fungování založené na použití náhody – třeba u kryptografie nebo řešení kolizí.
-
Co jsou to "konvenční systémy"? Google mi napsal tohle:
Konvenční systémy jsou typy elektronické požární signalizace (EPS), které detekují požár pomocí požárních hlásičů zapojených do smyček. Jsou vhodné pro menší až středně velké objekty s jednoduchou dispozicí a skládají se z ústředny a signalizačních zařízení, které po aktivaci hlásiče spustí poplach. -
Filip JirsákStříbrný podporovatel
konvenční = běžný, tradiční, obvyklý, všední. V tomto případě tedy takové systémy, jaké byly běžné před nástupem AI.
-
Mel sem moznost sledovat generovani obrazku pomoci AI ... hodne spatny grafik by vygeneroval lepsi vysledek za 1/2 casu. (ten dobrej by to nekde ukrad a lehce posolichal, takze by to bylo tak za 1/100).
Jup a vysledek je predevsim o tom, ze nevis, kde to ukradla ta AI, takze se pak jen budes divit, az te nekdo zazaluje. Plati pro 100% toho co ti AI vrati.
-
Jsem si jisty, ze existuji oblasti, jako FORTH a Z80 ASM, kde to ma AI opravdu spatne natrenovane. V prvnim pripade si nedokaze zapamatovat, jaka data ma na zasobniku, protoze to trochu pripomina programovani v C s nepojmenovanymi promenymi ulozenymi v mixeru, kdyz to prezenu. A v druhem pripade dokaze vymyslet neexistujici instrukce, nebo si nepamatuje, jake priznaky ovlivnuji a jake ne, takze je na urovni zacatecnika, ktery se ale nedokaze poucit ze svych chyb.
-
Netreba chodit ani do takych extremov. Uz obycany ARM low-level embedded je pre AI tazky oriesok.
Zabil som dva dni tym, ze som nechal AI vygenerovat kod na spravu lazy loadingu floating-point kontextu na Cortex-M4F. Ono je to doslova par riadkov kodu, je na to application note priamo od ARM, tak preco na to nepostvat AI?
Dostalo to dve ulohy:
1. inicializuj FPU tak, aby bola pouzitelna v threadoch
2. vygeneruj kus kodu ktory treba pouzit pri prepinani threadov aby sa implementoval lazy loadingnechcel som, nech robi aj zvysok thread switchera, alebo aby to editovalo existujuci kod, nech to nema zbytocne zlozite.
Dopadlo to tak, ze prva uloha bola uz na prvy pohlad blud a vysledok som rovno zahodil. Druha uloha vyzerala, ze je plausible, aj sa to skompilovalo, akurat to nechodilo.
Ten kod ale vyzeral tak uveritelne, ze som riesil len to, ze je zle zaintegrovany, alebo zle volany, az kym som znova nepreliezol ten application note a nezistil, ze to, co AI vygenerovalo, bolo prepinanie FPU kontextu na styl x86, ale napisane "v jazyku" ARMu. Co samozrejme nikdy nemohlo fungovat.
Mne ten kod prisiel plausible preto, lebo som kedysi (20+ rokov dozadu) prepinanie FPU kontextu pri prepinani threadov na x86tke studoval.
Toto je len taky najcistejsi pripad. Pouzivam AI ako rubber duck pravidelne a nemam problem ho rozplakat na tri prompty.
-
No, ja jsem na jeho vystup mozna moc narocny. I fungujici kod, ktery je ale nesmyslne dlouhy (2x delsi a pomalejsi), povazuji za neprijatelny. A vzhledem k tomu, ze AI kolikrat NEDOKAZE SECIST spravne ani DESET jednocifernych CISEL, stejne jako clovek :D, tak nedokaze poznat, ktera varianta je kratsi a ktera ma mene taktu. Kdyz ji predlozim nejake obycejne reseni, ktere lze vylepsit, abych zjistil, zda najde ten trik, tak to reseni prodlouzi a oznaci za kratsi. A kdyz ji ukazu ten trik, tak rekne, ze to neni funkcni. Pripadne rekne: "Jo, presne tohle jsem myslel"...
PS: K tomu scitani, u dvou rutin, kde na kazdem radku je v komentari uveden pocet bajtu a taktu ji nenapadne porovnavat jen radky co nejsou identicke.
-
S AI je občas sranda. Je to skvělá gumová kačenka, ale do samostatné práce s tím opatrně.
Celé je to trénované jako megasečtělý papoušek. Umí skvěle zopakovat co zná, umí to i zkombinovat správně dohromady, ale zatím MEMYSLÍ!
Lidem se to těžko vysvětluje, ale tady je příklad co pochopí i neprogramátor.===============
Prompt: Vyjmenovaná slova po "ř"
Odpověď:
Vyjmenovaných slov po ř není mnoho. Jsou to:přít se, přísežný, křivda, křivý, křik, křičet, křehký, křemen, křest, křtít, křesťan, křeslo, křehnout, křovina, křidélko, křehotat, křísit, křemenec, křivolaký, křivda.
....
===============
A celá ta diskuse stojí za to:
https://chatgpt.com/share/68edfaba-a770-8013-8dc1-7ca1ed778ffeMimochodem, když mě na to upozornili před měsícem, používal jsem 'Vyjmenovaná slova po "č"'. Jenže tahle past pro AI se už dostala do tréningových sad a už se na to nechytí. Ale stačí použít jiné písmenko a ...
-
Zatímco podstatně hloupější GPT 4.1:
Vyjmenovaná slova po ř:
při (příbytek, přítel, přímý, příliv, příroda, přísný, přítomný, přízeň)
tři (třít, tři, třída, tříšť)
vři (vřít, vřítit se)
bři (břicho, břímě, břidlice, břitva, bříst)
dři (dřít, dřina, dříví, dříve, dřímat)
zři (zřít, zřídit, zřícenina, zřízenec, zřídkakdy, zřídka, zřídlisko, zřízence)
tři (třít, tři, třída, tříšť)Pamatujte, že některá slova mají i příbuzné tvary (např. příbuzná slova ke slovu „při“: příbuzný, příloha, příjem).
-
Odkaz je konverzace s GPT-5 (i kdyz v planu "Free", ktera ma mensi kontext).
Pred mesicem jsem to zkousel hodit do ceho me napadlo (Caude, Copilot, Grok, Lama atd).
A jediny Grok se nechytil. Jenze pouze poprve, druhy pokus se nechal poplest.
Nicmene do AI je zamerne pridana nahoda, takze 2 stejne dotazy nemaji stejnou odpoved.14. 10. 2025, 10:35 editováno autorem komentáře
-
Teď jsem si hrál s Grokem, s plným grok4 modelem přišel na to, že neexistují, ale než výsledek bylo mnohem zajímavější sledovat postup - on to ve skutečnosti nevěděl, a prohledával web podobně, jak by to udělal student seznamující se s češtinou, postupn2 procházel weby, zjišťoval co to jsou vyjmenovaná slova, pak hledal slova s ř..., pak jestli je nějaké řy.... a nakonec mluvnické weby kde zjistil, že jsou jen po obojedných souhláskách. Grok3 a Grok4 fast to nezvládli do konce správně, plnej ano, a na heavy nemám dost peněz ;-)
-
Zajímavé. Vzhledem k téměř shodné textaci poslední odpovědi tvé relace:
===========
Neexistují vyjmenovaná slova po „ř“.Po „ř“ se vždy píše „i/í“.
Slova jako křik, křehký, křest se píší s „i“, a to je správně.
===========A mé hned první odpovědi na úplně stejnou otázku:
=============
Neexistují vyjmenovaná slova po „ř“.Pravidlo: v domácích slovech se po „ř“ píše vždy i/í (nikdy y/ý). Příklady: tři, kříž, hřích, dříví, křídlo, při-, třídit, křeček, přítel.
==============i dalších poznatků lidí na internetu to vypadá, že OpenAI (v mém případě ve službě Github Copilot) do promptu přidává i tématické poznatky vytěžené z předchozích diskusí s uživateli (RAG ze všech předchozích relací, leč nejen se mnou, ale se všemi). Což na jednu stranu dává smysl, na druhou stranu může vést k pro někoho nepříjemným odhalením.
-
Kdysi jsem koupil robotický vysavač a napsal na něj recenzi do webshopu. Shodou okolností to je dodnes jediná recenze na daný typ. Nedávno mě zajímalo, jak jsou s tím lidi spokojení a co řeší za problémy a AI mi spolehlivě prezentovala tu moji jedinou recenzi jako "uživatelé chválí.." a "uživatelé si stěžují..". Přitom čerpala opravdu jen z té jedné recenze. :-D Takže bacha, AI není schopna kvantifikovat. Ale možná by šla nějak napromptovat.
-
Claude a vyjmenovaná slova po š: https://claude.ai/share/a4fec775-cd37-450b-8102-f8af6d71b951 To je dobrá bžunda!
"zatímco v ostatních slovech po "š" píšeme "y" (například: šyška, myš, naše)." Sonnet 4.5 Předplatné jsem již zrušil. :-D -
Po D taky dobrý https://claude.ai/share/a4fec775-cd37-450b-8102-f8af6d71b951 Hlavně ten konec: "V ostatních slovech po "d" píšeme "i" (například:ディlo,ディra, naďdit, viďet atd.)."
-
Pardon. Sdílel jsem chat, ale nenapadlo mě, že další pokračování chatu sdíleno nebude. Je zde:
Vyjmenovaná slova po D jsou:dy (předpona, spojka: "dy sem, dy tam")
dým (kouř - a odvozená: dýmka, dýmat, zadýmit...)
dýha (tenká vrstva dřeva)
dýka (bodná zbraň)
dýně (zelenina, tykev)
dýchat (a odvozená: dech, oddech, vydechnout, nádech, vzdech, oddychnout...)
dychtit (a odvozená: dychtivý, dychtivost...)V těchto slovech a všech slovech od nich odvozených píšeme ý (ne i).
Pozor na výjimky:kdy, kdyby, kdykoli a podobné výrazy se píšou s y
ale když a kdežto se píšou s iV ostatních slovech po "d" píšeme "i" (například:ディlo,ディra, naďdit, viďet atd.).
-
Pavel TišnovskýZlatý podporovateltedy až na toho křečka, kterej marně touží mít "i" nebo aspoň "y"
-
Sonnet 4.5:
Vyjmenovaná slova po Ž jsou:žít (a odvozená: život, živý, živit, oživit, přežít...)
žíla (céva - a odvozená: žilka, žilnatý, žílit se...)
žízeň (touha po pití - a odvozená: žíznivý...)
žír (potrava zvířat, žrádlo - a odvozená: žrát, požírač...)
žínka (hadr na mytí)
žíně (srst na hřívě a ocase koně - a odvozená: žíněnka...)V těchto slovech a všech slovech od nich odvozených píšeme í (ne ý).
V ostatních slovech po "ž" píšeme "y" (například: žába, muž, lež, nůž, už). -
Apropos, vzpomel sem si ze nedavno sem nekde videl ... https://www.youtube.com/watch?v=xBa6pn_oHXw
Sledujte predevsim ten uzasny AIckovy preklad ... vazne nechapu, jak muze kdokoli s necim takovym cokoli hrat. "Jedalen" ...
Pricemz v tomhle pripade jde vicemene o kravovinku kde kdyby ten text nebyl vubec, je to jedno. Uzasny na tehle vecech je pak typicky to, ze stejna vec je prelozena pokazdy jinak, takze po vas npc neco chce, a to neco klidne i mate, jen se to v inventari kvuliva genielnimu AI prekladu jmenuje jinak, nez co rika npc.
-
Vidím tu diskusi nad tím jestli, případně a jak, AI přemýšlí. Pár drobností k věci.
V linku níže společnost Anthropic ukazuje, jak Claude niterně "myslí”. Všichni konkurenti používají víceméně tu samou technologii. Další link je video od Sabine Hossenfelder, kde to zjednodušeně vysvětluje na příkladu sčítání dvou čísel. O co jde? Claude zjednodušeně řečeno ve více krocích filtruje naučené texty, až najde něco kde se dvě konkrétní čísla sčítala. A když se ho zeptáte, jak to spočítal, tak podobně proseje naučené texty, a vymyslí přijatelnou odpověď, která ale nemá nic společného s tím, jak k výsledku opravdu došel. Cloude "přečetl" nejspíš tisíc učebnic matematiky, ale nenaučil se z nich ani sečíst dvě čísla. Učení nula bodů, sebeuvědomnění nula bodů. Je to jako prediktivní autocorrect na telefonu. Mnohem lepší, často dokonce dost užitečné, ale v principu pořád se stejnými omezeními jako ten autocorrect.
https://transformer-circuits.pub/2025/attribution-graphs/biology.html
https://www.youtube.com/watch?v=-wzOetb-D3w&t=110sA tady nám Stephen Welch vysvětluje fundamentální zákon popisující množství chyb, kterých se AI dopouští. Podle všeho jde o nějaký limit, který se současnými technologiemi nelze překonat. Problém celé věci je v tom že nevíme, proč tomu tak je, a máme jen hypotézy. Video je poměrně technické a s vysokou informační hustotou.
https://www.youtube.com/watch?v=5eqRuVp65eY -
Tak jistě to bude mít nějaký dopad na pracovní trh. Jenže se množí zprávy, že nasazení v praxi není až tak skvělé. AI na call centrech dává volajícím nesmyslné informace, občas vymyslí neexistující slevu nebo dokonce produkt, a kdo to zkusil, většinou se vrátil k živým lidem. AI dokáže vyřizovat rezervace, ale poměrně často u toho udělá nesmysly, nikdo neví kdy to zafungovalo a kdy ne, a všechno ručně ověřovat znamená že se nejen neušetří, ale ještě prodělá. Vývojářům AI rychle vygeneruje spoustu kódu, který ale obsahuje chyby, a procházení a opravy kódu sežerou tolik času, že to ve výsledku snižuje efektivitu. V USA je pak dost divoké, když vám například pojišťovna odmítne proplatit účet za operaci, a na call centru se dozvíte, že neznají důvod, protože o tom rozhoduje AI. Prý "zkuste to za pár dní znovu, AI někdy po čase změní názor". To zní vskutku optimisticky :)
Takže ano, AI jistě bude mít nějaký dopad na trhu práce. Ale minimálně na současných technologiích ne tak velký, jak řada lidí očekává. A to nejspíš povede ke krachu dlouhé řady AI startupů, které dostaly ohromné investice, ale nejsou (a nebudou) schopny zajistit návratnost těch investic.
Až bublina praskne, velká část AI firem lehne popelem a jejich investoři prodělají kalhoty, tak uvidíme co zbude, za kolik to bude, a jak užitečné to opravdu bude. Koukněte se na .com bublinu - i tam toho po jejím prasknutí dost zbylo, a mělo (a má) to dopad na trh práce.
-
Záleží, jak kdo s AI umí. Většina používá jen to "předudělané", a pak se diví, že např. nezná český zákon po datu učení dané verze AI. Stačí ale zadat "konektor" na web zákonů nebo tam nahrát Excel s jejich exportem a hned je to jiná. Mně je celkem jedno, jak jinde pracují s AI, hlavní je, že v naší firmě funguje. Máme s ní již letité zkušenosti.
-
AI funguje v řadě funkcí v řadě firem. A ano, LLM je dobé dodat relevantní data. Podle mě je nejlepší AI používat tam kde není potřeba vždy stoprocentně správný výsledek, a zároveň ten výsledek může zkontrolovat někdo kdo má mozek. Klidně si můžete nechat vygenerovat text nabídky, smlouvu, CV, texty do brožury nebo na web... Jenom je dobré si zatraceně dobře zkontrolovat ten výsledek, abyste se pak nedivil.
