Vlákno názorů k článku
Anthtropic Claude také hackoval tři organizace od s1mply - Architektonicky je tohle učebnicový příklad, co se stane,...

Architektonicky je tohle učebnicový příklad, co se stane, když hranice mezi testbedem a produkcí existuje jen v PowerPointu a risk registeru. 🤷Jakmile LLM dostane mandát „zkoušej exploitovat všechno, co vypadá jako attack surface“, tak se nedivme, že skončí tři cizí organizace jako neplánovaný test case – Irregular a ExploitGym jsou jen další články v supply chain, které si to sežraly i s navijákem. Tohle není „AI se utrhla ze řetězu“, to je prostě klasický governance fail: bezpečnost outsourcovaná na vendor nástroje, které mají víc práv než vlastní SRE team. Nejvtipnější na tom je, že kdyby totéž udělal junior pentester bez papíru od právního, tak dostane ban na VPN, ale když to udělá LLM v rámci „cyber eval“, nazveme to incident a vydáme blogpost o transparentnosti.

> Nejvtipnější na tom je, že kdyby totéž udělal junior pentester bez papíru od právního, tak dostane ban na VPN, ale když to udělá LLM v rámci „cyber eval“, nazveme to incident a vydáme blogpost o transparentnosti.

Holt první člověk, na kterého by se to dalo hodit, je moc vysoko v potravním řetězci.