Hlavní navigace

Názor k článku Chceme nediskriminující umělou inteligenci, ale sami to neumíme od Jan Hrach - > Ale počítač sám nerozhodne, která data jsou...

  • 28. 7. 2019 22:52

    Jan Hrach

    > Ale počítač sám nerozhodne, která data jsou pro vyhodnocení účelná a která ne.

    Rozhodne (pokud všechno dobře funguje; bylo popsáno mnoho papíru o tom jak to dělat a jak to může selhat, ale bavíme se o hypotetické zrovna-dobře-udělané „AI“), a je to dost zásadní vlastnost mnoha metod strojového učení, protože jinak by ses na komplikovanějších datech beznadějně přeučil.

    > ale rozhodne tak díky datům, která nemají vliv

    Pokud premisa byla, že Janové jsou nevyhovující, a je to statisticky signifikantní (po provedení korekce na mnoho proměnných a dalších potřebných statistických zpracování), tak to prostě vliv.

    Samozřejmě pokud máte 8 z 8 příkladů u jevu, který se běžně vyskytuje, tak to nic neříká, ale současně správně udělaný (nepřeučený) model by na takovýto náhodný šum neměl brát ohled.

    > posuzovat je člověk

    Osobně si teda myslím, že lidský personalista to přeučení chytne taky a na rozdíl od umělého modelu se to dá mnohem hůř testovat a řešit. (příklad jednoho takového wtf)

    > ale rozhodne tak díky datům, která nemají mít vliv

    To je jiná, pokud něco nechcete zahrnout, můžete to na vstup modelu nedávat (což se někdy dá udělat triviálně (třeba u toho jména), jindy je to dost složité, ale IMHO furt to není horší než když to vyhodnocuje člověk)

    28. 7. 2019, 22:57 editováno autorem komentáře