Vlákno názorů k článku Biologické algoritmy (6) - Neuronové sítě od JirkaS - Připomělo mi to jeden článek, který jsem četl...

Připomělo mi to jeden článek, který jsem četl odhaduju tak před patnácti, dvaceti lety.
V něm se psalo, jak americká armáda začala dělat pokusy s neuronovou sítí, kterou chtěli používat na vyhodnocování nějakých fotografií. Konkrétně pro rozlišení, zda na fotografii je nebo není tank. Vzali sérii fotografií na které neuronovu síť učili. Když se zdálo, že je naučená a vše funguje, dali jí jinou sadu fotografií. Výsledky byly najednou katastrofální.
Dodatečně přišli na to, že v původní sérii se snímky s tankem a bez liší svým jasem (tuším, že všechny fotky s tankem byly tmavší) a neuronová síť se naučila to rozpoznávat podle něj. :-)

Neuronova sit se naucila rozpoznavat trenovaci fotky u kterych po ni americka armada chtela aby je klasifikovala jako tank od trenovacich fotek u kterych po ni chtela aby je klasifikovala jako bez tanku :)