Názory k článku Postřehy z bezpečnosti: útoky na strojové učení
-
Myslím, že strojové učení je jedna z oblastí, která potřebuje ještě trochu vývoje, aneb pro pobavení : https://aiweirdness.com/post/622648824384602112/when-data-is-messy
-
J ouda (neregistrovaný)
Tak s ohledem na "vzorovou" implementaci a její problémy (viz třeba https://en.wikipedia.org/wiki/Visual_release_hallucinations https://en.wikipedia.org/wiki/List_of_optical_illusions etc.) je celkem otázkou, jestli je bezchybné strojové učení vůbec dosažitelné.
-
cesta, kdy pro strojové účení je používaný skoro náhodný a neověřený soubor dat je cesta do pekla.
Nejspíš se v budoucnu dostaneme do situace, kdy si budeme dávat "razítka" na ověřené sady k trénování a bude to slabé místo celého oboru.
Těch případů podvrh je celá řada, dá se schovat před chytrými kamerami jen vhodným potiskem na tričku, lze upravit trasu chytrého auta jen problikáváním správných značek třeba na reklamních panelech (člověk si probliknutí nevšimne, auto ano).
Nerozumím těmhle moderním výstřelkům, ještě nedávno platilo, že pro zpracování dat je potřeba vzdělaný statistik, který data připraví, pročistí, normalizuje a aplikuje vhodné transformace a analytické metody. Dnes platí, že se na data pustí programátor s neurounkou. Přitom z reálných aplikací v českém prostředí vidím, že výsledky zpracování dat pouze strojem jsou tristní a že je v pozadí stejně potřeba statistik, který tomu trochu pomůže, ale navenek to je AI, strojové učení, umělá inteligence a vše moderní, v pozadí to je ale dřina lidí a ne strojů.
-
Ja nerozumim spis jine veci. Ze tohle muze nastat vychazi uz z logiky veci, a prekvapujeme, ze se tim nekdo zacne zabivat teprve az se objevi prvni pokusy v praxi. Ocekaval bych, ze s takovym elementarnim dusledkem toho procesu uz pocitaji dopredu, ale evidentne ne. To uz asi patri ke kazdemu HYPE a strojove uceni neni asi vyjimkou.
-
Podle mě je strojové učení dnes ve značné míře podobné astrologii a podobným pavědám. Čistě teoreticky má vědečtější základ, ale strašně často se implementuje jen pro buzzword a možnost hlásit, že je to řízeno AI bez ohledu na to, jak moc to na pozadí spravují lidé nebo hloupé programy a jak moc to občas dává falešné výsledky.
