Vlákno názorů k článku Postřehy z bezpečnosti: útoky na strojové učení od Uncaught ReferenceError: - cesta, kdy pro strojové účení je používaný skoro...

cesta, kdy pro strojové účení je používaný skoro náhodný a neověřený soubor dat je cesta do pekla.

Nejspíš se v budoucnu dostaneme do situace, kdy si budeme dávat "razítka" na ověřené sady k trénování a bude to slabé místo celého oboru.

Těch případů podvrh je celá řada, dá se schovat před chytrými kamerami jen vhodným potiskem na tričku, lze upravit trasu chytrého auta jen problikáváním správných značek třeba na reklamních panelech (člověk si probliknutí nevšimne, auto ano).

Nerozumím těmhle moderním výstřelkům, ještě nedávno platilo, že pro zpracování dat je potřeba vzdělaný statistik, který data připraví, pročistí, normalizuje a aplikuje vhodné transformace a analytické metody. Dnes platí, že se na data pustí programátor s neurounkou. Přitom z reálných aplikací v českém prostředí vidím, že výsledky zpracování dat pouze strojem jsou tristní a že je v pozadí stejně potřeba statistik, který tomu trochu pomůže, ale navenek to je AI, strojové učení, umělá inteligence a vše moderní, v pozadí to je ale dřina lidí a ne strojů.

Ja nerozumim spis jine veci. Ze tohle muze nastat vychazi uz z logiky veci, a prekvapujeme, ze se tim nekdo zacne zabivat teprve az se objevi prvni pokusy v praxi. Ocekaval bych, ze s takovym elementarnim dusledkem toho procesu uz pocitaji dopredu, ale evidentne ne. To uz asi patri ke kazdemu HYPE a strojove uceni neni asi vyjimkou.