Vlákno názorů k článku
AI nalezla 50 chyb v nástroji curl
od Lael Ophir - Vidím tu diskusi nad tím jestli, případně a...
-
Vidím tu diskusi nad tím jestli, případně a jak, AI přemýšlí. Pár drobností k věci.
V linku níže společnost Anthropic ukazuje, jak Claude niterně "myslí”. Všichni konkurenti používají víceméně tu samou technologii. Další link je video od Sabine Hossenfelder, kde to zjednodušeně vysvětluje na příkladu sčítání dvou čísel. O co jde? Claude zjednodušeně řečeno ve více krocích filtruje naučené texty, až najde něco kde se dvě konkrétní čísla sčítala. A když se ho zeptáte, jak to spočítal, tak podobně proseje naučené texty, a vymyslí přijatelnou odpověď, která ale nemá nic společného s tím, jak k výsledku opravdu došel. Cloude "přečetl" nejspíš tisíc učebnic matematiky, ale nenaučil se z nich ani sečíst dvě čísla. Učení nula bodů, sebeuvědomnění nula bodů. Je to jako prediktivní autocorrect na telefonu. Mnohem lepší, často dokonce dost užitečné, ale v principu pořád se stejnými omezeními jako ten autocorrect.
https://transformer-circuits.pub/2025/attribution-graphs/biology.html
https://www.youtube.com/watch?v=-wzOetb-D3w&t=110sA tady nám Stephen Welch vysvětluje fundamentální zákon popisující množství chyb, kterých se AI dopouští. Podle všeho jde o nějaký limit, který se současnými technologiemi nelze překonat. Problém celé věci je v tom že nevíme, proč tomu tak je, a máme jen hypotézy. Video je poměrně technické a s vysokou informační hustotou.
https://www.youtube.com/watch?v=5eqRuVp65eY -
Tak jistě to bude mít nějaký dopad na pracovní trh. Jenže se množí zprávy, že nasazení v praxi není až tak skvělé. AI na call centrech dává volajícím nesmyslné informace, občas vymyslí neexistující slevu nebo dokonce produkt, a kdo to zkusil, většinou se vrátil k živým lidem. AI dokáže vyřizovat rezervace, ale poměrně často u toho udělá nesmysly, nikdo neví kdy to zafungovalo a kdy ne, a všechno ručně ověřovat znamená že se nejen neušetří, ale ještě prodělá. Vývojářům AI rychle vygeneruje spoustu kódu, který ale obsahuje chyby, a procházení a opravy kódu sežerou tolik času, že to ve výsledku snižuje efektivitu. V USA je pak dost divoké, když vám například pojišťovna odmítne proplatit účet za operaci, a na call centru se dozvíte, že neznají důvod, protože o tom rozhoduje AI. Prý "zkuste to za pár dní znovu, AI někdy po čase změní názor". To zní vskutku optimisticky :)
Takže ano, AI jistě bude mít nějaký dopad na trhu práce. Ale minimálně na současných technologiích ne tak velký, jak řada lidí očekává. A to nejspíš povede ke krachu dlouhé řady AI startupů, které dostaly ohromné investice, ale nejsou (a nebudou) schopny zajistit návratnost těch investic.
Až bublina praskne, velká část AI firem lehne popelem a jejich investoři prodělají kalhoty, tak uvidíme co zbude, za kolik to bude, a jak užitečné to opravdu bude. Koukněte se na .com bublinu - i tam toho po jejím prasknutí dost zbylo, a mělo (a má) to dopad na trh práce.
-
Záleží, jak kdo s AI umí. Většina používá jen to "předudělané", a pak se diví, že např. nezná český zákon po datu učení dané verze AI. Stačí ale zadat "konektor" na web zákonů nebo tam nahrát Excel s jejich exportem a hned je to jiná. Mně je celkem jedno, jak jinde pracují s AI, hlavní je, že v naší firmě funguje. Máme s ní již letité zkušenosti.
-
AI funguje v řadě funkcí v řadě firem. A ano, LLM je dobé dodat relevantní data. Podle mě je nejlepší AI používat tam kde není potřeba vždy stoprocentně správný výsledek, a zároveň ten výsledek může zkontrolovat někdo kdo má mozek. Klidně si můžete nechat vygenerovat text nabídky, smlouvu, CV, texty do brožury nebo na web... Jenom je dobré si zatraceně dobře zkontrolovat ten výsledek, abyste se pak nedivil.
