Vlákno názorů k článku Postrehy z bezpečnosti: AI agentom sa nedá veriť ani vlastná pamäť od Smazaný profil - Tohle není „nový typ AI útoku“, ale starý...

Tohle není „nový typ AI útoku“, ale starý problém důvěry mezi vstupem, pamětí a akcí, jen přebalený do LLM terminologie. Stejnou třídu průšvihů jsme řešili dávno u e-mailových klientů, browserů i agentů typu CSRF: kdo smí zapisovat stav, ten fakticky ovládá budoucí chování. Nejzajímavější není samotná prompt injection, ale to, že paměť a externí data nejsou oddělené trust boundary. Dokud agent neprojde režimem „read, validate, commit“, bude to jen automatizované security theater s lepším marketingem. A ano, kliknutí skriptem je pořád kliknutí jen pro produktové materiály; v produkci je to incident.