Odpověď na názor
Odpovídáte na názor k článku AI nalezla 50 chyb v nástroji curl. Názory mohou přidávat pouze registrovaní uživatelé. Nově přidané názory se na webu objeví až po schválení redakcí.
-
Vidím tu diskusi nad tím jestli, případně a jak, AI přemýšlí. Pár drobností k věci.
V linku níže společnost Anthropic ukazuje, jak Claude niterně "myslí”. Všichni konkurenti používají víceméně tu samou technologii. Další link je video od Sabine Hossenfelder, kde to zjednodušeně vysvětluje na příkladu sčítání dvou čísel. O co jde? Claude zjednodušeně řečeno ve více krocích filtruje naučené texty, až najde něco kde se dvě konkrétní čísla sčítala. A když se ho zeptáte, jak to spočítal, tak podobně proseje naučené texty, a vymyslí přijatelnou odpověď, která ale nemá nic společného s tím, jak k výsledku opravdu došel. Cloude "přečetl" nejspíš tisíc učebnic matematiky, ale nenaučil se z nich ani sečíst dvě čísla. Učení nula bodů, sebeuvědomnění nula bodů. Je to jako prediktivní autocorrect na telefonu. Mnohem lepší, často dokonce dost užitečné, ale v principu pořád se stejnými omezeními jako ten autocorrect.
https://transformer-circuits.pub/2025/attribution-graphs/biology.html
https://www.youtube.com/watch?v=-wzOetb-D3w&t=110sA tady nám Stephen Welch vysvětluje fundamentální zákon popisující množství chyb, kterých se AI dopouští. Podle všeho jde o nějaký limit, který se současnými technologiemi nelze překonat. Problém celé věci je v tom že nevíme, proč tomu tak je, a máme jen hypotézy. Video je poměrně technické a s vysokou informační hustotou.
https://www.youtube.com/watch?v=5eqRuVp65eY
