Vlákno názorů k článku
Optické klamy pro umělou inteligenci od e - Tak u toho obrazku prvniho, to sorry ale...

Tak u toho obrazku prvniho, to sorry ale co ma UI vlastne hodnotit .. ? Na obrazku jsou objekty 2. Neco co vypada jako toaster jako docela pri trose fantazie proc ne, a pak je tam banan. Takze vysledek za me correct.

Ved ano. Prvy obrazok je correct a ked potom pridali nalepku (obr 2), tak uz to correct nebolo. A o to ide. Co nechapes?

Napadlo mě totéž. Je důležité číst přesně text zprávičky " ...které způsobí, že se algoritmus soustředí na ně a ignoruje zbytek obrazu ..."

V originálním pdf je zajímavý odkaz na video https://youtu.be/i1sp4X57TL4 . Tam je jasně vidět, že i jen pouhé přiložení (obrázku) toasteru nestačí, stále se výsledek tváří jako banán. Tedy že speciálně upravené obrázky způsobují větší prioritu, výsledek bude (vždy/většinou) toaster bez ohledu na okolí. Tedy opravdu "zblbnutí" AI, aby se soustředila jen na cíl, který chci já (jako útočník).

Ahh, sorry, omlouvám se.

RequestPolicy => blokace přímo vkládaných nevyžádaných externích věcí (youtube nevyjímaje), bez popisku či textového odkazu, mi zneviditelnila, že tu je ještě nějaký zdroj.