Výzkumníci z MIT představili 2. listopadu 2026 experiment Sparks of Weight-Space Programming, který ukazuje, že pokročilé jazykové modely dokážou nejen analyzovat, ale také přímo upravovat číselné váhy neuronových sítí. Model GPT-6 Astra například dokázal z pouhých parametrů rozpoznat, pro jakou počítačovou hru byla síť natrénována, opravit její chování nebo vytvořit funkční herní síť od nuly.
Nejzajímavější výsledek přinesla úprava jazykového modelu Qwen3.5-0.8B. Astra identifikovala problém, kvůli kterému model opakoval své úvahy a nedokázal dokončit odpovědi. Změnou pouhých 0,016 % jeho vah zvýšila úspěšnost v matematickém benchmarku MATH-500 ze 7,9 % na 48,1 %, a to bez klasického trénování či gradientní optimalizace.
Váhy uvnitř neuronových sítí byly dosud do značné míry považovány za „černou skříňku“ - nepřehlednou změť milionů či miliard čísel, u nichž zpravidla neznáme přesný význam každé jednotlivé hodnoty. Víme, že společně určují chování modelu, ale nedokážeme jednoduše říct, za co konkrétní číslo odpovídá. Právě proto je experiment pozoruhodný: GPT dokázal do této černé skříňky cíleně zasáhnout a změnou vybraných vah dosáhnout požadované úpravy chování, aniž by musel celou síť znovu trénovat.
Důležitá je také otevřenost a ověřitelnost experimentu. Autoři zveřejnili na GitHubu kompletní logy všech prezentovaných experimentů, včetně zadání pro AI, jejích odpovědí, spuštěného kódu, výsledků testování a upravených neuronových sítí. K dispozici jsou také skripty a podklady potřebné k rekonstrukci některých nezahrnutých dat. Výsledky tak nejsou jen nepodloženým tvrzením - ostatní výzkumníci mohou celý postup podrobně prozkoumat, nezávisle ověřovat a experimenty zopakovat.
Experiment naznačuje nový směr vývoje AI, v němž by jazykové modely mohly neuronové sítě opravovat podobně, jako dnes programátoři upravují zdrojový kód. Zatím však jde o rané výsledky a výrazné zlepšení Qwenu spočívalo především v odstranění existující chyby, nikoli v naučení nových matematických schopností.