AI už dokáže upravovat neuronové sítě bez jejich přetrénování

Umělá inteligence, AI, mozek Autor: Shutterstock

Výzkumníci z MIT představili 2. listopadu 2026 experiment Sparks of Weight-Space Programming, který ukazuje, že pokročilé jazykové modely dokážou nejen analyzovat, ale také přímo upravovat číselné váhy neuronových sítí. Model GPT-6 Astra například dokázal z pouhých parametrů rozpoznat, pro jakou počítačovou hru byla síť natrénována, opravit její chování nebo vytvořit funkční herní síť od nuly.

Nejzajímavější výsledek přinesla úprava jazykového modelu Qwen3.5-0.8B. Astra identifikovala problém, kvůli kterému model opakoval své úvahy a nedokázal dokončit odpovědi. Změnou pouhých 0,016 % jeho vah zvýšila úspěšnost v matematickém benchmarku MATH-500 ze 7,9 % na 48,1 %, a to bez klasického trénování či gradientní optimalizace.

Váhy uvnitř neuronových sítí byly dosud do značné míry považovány za „černou skříňku“ - nepřehlednou změť milionů či miliard čísel, u nichž zpravidla neznáme přesný význam každé jednotlivé hodnoty. Víme, že společně určují chování modelu, ale nedokážeme jednoduše říct, za co konkrétní číslo odpovídá. Právě proto je experiment pozoruhodný: GPT dokázal do této černé skříňky cíleně zasáhnout a změnou vybraných vah dosáhnout požadované úpravy chování, aniž by musel celou síť znovu trénovat.

Důležitá je také otevřenost a ověřitelnost experimentu. Autoři zveřejnili na GitHubu kompletní logy všech prezentovaných experimentů, včetně zadání pro AI, jejích odpovědí, spuštěného kódu, výsledků testování a upravených neuronových sítí. K dispozici jsou také skripty a podklady potřebné k rekonstrukci některých nezahrnutých dat. Výsledky tak nejsou jen nepodloženým tvrzením - ostatní výzkumníci mohou celý postup podrobně prozkoumat, nezávisle ověřovat a experimenty zopakovat.

Experiment naznačuje nový směr vývoje AI, v němž by jazykové modely mohly neuronové sítě opravovat podobně, jako dnes programátoři upravují zdrojový kód. Zatím však jde o rané výsledky a výrazné zlepšení Qwenu spočívalo především v odstranění existující chyby, nikoli v naučení nových matematických schopností.

Tato zprávička byla zaslána čtenářem serveru Root.cz pomocí formuláře Přidat zprávičku. Děkujeme!

Našli jste v článku chybu?

Autor zprávičky