Názor k článku Biologické algoritmy (6) - Neuronové sítě od Michal Illich - A. Představte si obrovskou neuronovou síť. Nastavení vah...

A. Představte si obrovskou neuronovou síť. Nastavení vah na jednotlivých synapsích je víceméně "paměť". A když je ta síť hodně velká a proběhne strašně moc iterací, tak si neuronová síť výsledky z trénovací množiny prostě "zapamatuje". No jo, jenže pak přijde nový vstup (z testovací množiny) a ty miliony drobných pravidel na něj nezafungují, protože je o trochu jiný.

B. Oproti tomu jiná, menší a míň trénovaná neuronová síť se naučí jen pár pravidel (takové, které fungovaly na velké množství vstupů z trénovací množiny). Když se pak potká s novým vstupem, tak je daleko větší pravděpodobnost, že tyhlety obecnější pravidla zafungují.

Ještě formulováno jinak:
A. si "našprtá" všechna data, ale u nového vstupu je bezradný, protože neví, která jsou důležitá.
B. si odvodí jen pár obecnějších zásad a ty pak aplikuje i u nového vstupu.

(PS: U testovacích obrázků síti už nic neříkáte, tedy se ani nic nezpřesňuje.)