Optické klamy pro umělou inteligenci

Na tuto temu uz boli urobene zaujimave vyskumy :)
AI, ktora evolvuje obrazky na oklamanie AI, ktora ich rozonava:
http://www.evolvingai.org/fooling
Uprava obrazkov, aby v nich image recognition videl nieco ine ako clovek:
https://www.popsci.com/byzantine-science-deceiving-artificial-intelligence

A teraz si predstavte, ze niekto da na dopravnu znacku nalepku, ktora uplne zmeni jej vyznam (a clovek ju ani poriadne neuvidi) a autonomne auto miesto stopky vidi no speed limit...

To ještě není tak špatné, ale co až všechny ty vojenské drony začnou koukat na hipsterské placky na baťůžkách .. "I am terorist" ;)))
Protože největší zábava letošního roku bude akce "Pojďme oklamat dron" ..

myslis nieco taketo? https://hackaday.com/2014/04/04/sql-injection-fools-speed-traps-and-clears-your-record/

zajimavy odkazy

nemel by se pred strojovym rozpoznavanim udelat nejaky preprocesing obrazku, ktery toto eliminuje.. napr. preklopi do palety 256 barev, 64 barev a pak porovna vysledky.. to by melo tento "sum" odstranit

No toto... Az to ta inteligence prokoukne, tak jim pekne vynada... Takhle si z ni delat pr.el...

Ked budu vsade pritomne kamery s automatickym rozpoznavanim tvari, s naslednym logovanim pohybu kazdeho cloveka do statnych databazi, taketo obrazky budu celkom uzitocne.

To je... to je... to je... pomocník tasmánského policisty mimo službu.

Tak u toho obrazku prvniho, to sorry ale co ma UI vlastne hodnotit .. ? Na obrazku jsou objekty 2. Neco co vypada jako toaster jako docela pri trose fantazie proc ne, a pak je tam banan. Takze vysledek za me correct.

Ved ano. Prvy obrazok je correct a ked potom pridali nalepku (obr 2), tak uz to correct nebolo. A o to ide. Co nechapes?

Napadlo mě totéž. Je důležité číst přesně text zprávičky " ...které způsobí, že se algoritmus soustředí na ně a ignoruje zbytek obrazu ..."

V originálním pdf je zajímavý odkaz na video https://youtu.be/i1sp4X57TL4 . Tam je jasně vidět, že i jen pouhé přiložení (obrázku) toasteru nestačí, stále se výsledek tváří jako banán. Tedy že speciálně upravené obrázky způsobují větší prioritu, výsledek bude (vždy/většinou) toaster bez ohledu na okolí. Tedy opravdu "zblbnutí" AI, aby se soustředila jen na cíl, který chci já (jako útočník).

Ahh, sorry, omlouvám se.

RequestPolicy => blokace přímo vkládaných nevyžádaných externích věcí (youtube nevyjímaje), bez popisku či textového odkazu, mi zneviditelnila, že tu je ještě nějaký zdroj.