Ok, ať už se jedná o Mythos nebo jiný AI model, faktem je, že to nalézá velké množství chyb, které vývojáři (i dlouho) přehlíželi. Přijde mi, že by takový model mohl být využit jako dobrý učitel, tzn. na základě odhalených chyb nás - vývojáře učit, co máme tendenci přehlížet. Existuje už něco takového?
Za všechny mluvit nemůžu, ale já to tak mám. A přijde mi, že tohle je největší přínos AI. Nikdy předtím jsem nebyl schopen učit se tak rychle. Dohledávat informace, získávat přehledy, atd.
Problémem je právě to následné ověřování informací, kdy mnozí uživatelé dnes slepě věří všemu od LLM. To je dle mého názoru cesta do pekel.
Pokud vím, zatím AI nenarazila na nový typ chyb, které by měli vývojáři tendenci přehlížet nebo takový typ chyb vůbec neznali. Zatím je rozdíl jenom v tom, že AI dokáže ty chyby hledat řádově rychleji než lidé – to, co dříve trvalo týdny nebo měsíce, dokáže AI vyřešit za desítky minut.
To je podobné jako tvrdit, že se nemám co naučit od kolegy, který našel milion bugů, jen proto, že je všechny v principu umím najít také. To obrovské množství kódu, které AI "viděla" a množství chyb které našla, jí dává unikátní perspektivu, kterou nikdo z masa a kostí nikdy mít nebude. Já si myslím, že se od AI mám co přiučit. Vy si s prominutím dělejte třeba s*ané fíky.
To je podobné jako tvrdit, že se nemám co naučit od kolegy, který našel milion bugů, jen proto, že je všechny v principu umím najít také.
To je jako tvrdit, že se nemáte co naučit od kolegy, který našel milion bugů, který má úplně ty samé znalosti, jako vy (ve skutečnosti menší,. ale to je jedno), akorát umí milionkrát rychleji číst než vy. Ano, opravdu se od něj nemáte co naučit, protože jediná podstatná věc je to milionkrát rychlejší čtení, a to vy prostě nezvládnete, stejně jako žádný jiný člověk.
To obrovské množství kódu, které AI "viděla" a množství chyb které našla, jí dává unikátní perspektivu
Nedává. Ta AI je pořád stejná, ať viděla jednu chybu nebo milion chyb. AI se neučí, když ji používáte – učí se dopředu, při trénování, ale pak při používání už se model nijak nemění. AI si může dělat „poznámky“, že si při používání ukládá nějaké informace, a ty si pak při příštím zpracování přečte – ale to není něco, co by jí dávalo nějakou perspektivu.
Takže u toho vašeho kolegy, co umí milionkrát rychleji číst, si ještě doplňte, že má Alzheimera, a jakmile zdroják přečte a nejde v něm chyby, zapomene, že něco takového dělal.
Já si myslím, že se od AI mám co přiučit.
Začněte třeba přiučením se toho, jak fungují LLM a agenti na nich postavení.