Odpověď na názor

Obávám se, že jste trochu mimo současnou realitu. Je pravda, že LLM jsou generativní, takže informace kombinují. To jej jejich vlastnost, nikoliv nedostatek. Míra kombinování je kontrolována parametrem nazyvaným "teplota". U některých modelů se dá nastavit přímo, u jiných (ChatGPT) ji lze ovlitnit slovním popisem. ChatGPT lze nastavit tak, že u každé odpovědi hlásí "spolehlivost" se slovním popisem, proč je ta spolehlivost taková.

Příklad z praxe: Studenti nižších ročníků na lékařských fakultách v nedávné době začali spontánně používat AI jako zdroj studijních materiálů, protože jim dává rychlé odpovědi. Profesoři jim říkají, aby se učili z knih, ale mladá generace knihy skoro vůbec nečte. Aby nedošlo k úplné katastrofě, tak jsou studenti instruováni, aby alespoň hlásili rozpory mezi informacemi z přednášek a AI. Pokud vím, tak bylo hlášeno jen několik málo problémů, které se týkaly nejnovějšího výzkumu, který byl prezentován na přednášce. Jinak ohromné množství informací, se kterými ti studenti pracují je AI interpretováno správně, protože AI je na těch informacích dobře trénovaná. (OpenAI má přehled o tom, na co se uživatelé ptají, a tak tomu přizpůsobuje trénovací data.)

Pokračování v dalším příspěvku.