Odpověď na názor

AI bublina je opakem extrému "AI je k ničemu". Realita je někde uprostřed.

Co se procesů, které vyžadují spolehlivost týče: To je velmi složitá problematika. Třeba v radiologii se v rámci experimentální psychologie dělají studie, které sledují a porovnávají chybovost doktorů a AI. Současná situace je taková, že AI má menší chybovost, pokud zpracovává podobná data, na kterých trénovala. Pokud se setká s něčím neobvyklým, tak může dělat ohromné chyby. Na druhou stranu i zkušený doktor může po dvanáctihodinové směně udělat kvůli únavě chyby i v jednoduchých případech. V praxi se to řeší tak, že doktor výstupy z AI musí kontrolovat. I to s sebou nese problém, protože čím více doktor jen kontroluje, tím více jeho mozek ztrácí schopnost patologie samostatně najít.

Obecně by se dalo říct, že chybovost AI lze snížit tak, že se nasadí model B, který kontroluje výstupy modelu A. Pokud model B není s výstupem spokojen, donutí model A k jinému výstupu.

To zní hezky, ale pokud model A generuje tisíce řádek kódu (Google prý takové modely interně používá), pak přeji mnoho štěstí s vývojem a trénováním modelu B, který ten kód umí spolehlivě kontrolovat.