Názory k článku
Anthtropic Claude také hackoval tři organizace
-
AsciiWolfBronzový podporovatelTvůj pes má vlastní vědomí a schopnost racionálně uvažovat. Má vlastní vědomí tvůj LLM? :)
31. 7. 2026, 12:14 editováno autorem komentáře
-
Filip JirsákStříbrný podporovatelTen nástroj slouží k tomu, aby hledal bezpečnostní chyby. Takže to není ani tak legrační jako očekávatelné. Spíš je překvapivé, že ty zkoumané agenty nejprve nenechají hledat chyby přímo v tom sandboxu s instrukcemi, že mají chybu jen oznámit.
-
Uniknout ze sandboxu je vicemen terminus technicus. Problem je, ze kdyz takhle o tom mluvi v televiznich novinach, lidi si hned predstavuji ze AI unikla ze sandboxu, prekonala internety a vlezla jim do mobilu a ted se tam bude spoustet a strasit, a za dva dny se spusti v NORADu a zacne vymyslet terminatory.
Ale fakt nevim jak o tom spravne psat a mluvit. Mozna AI "prekonala omezeni sandboxu"? Nevim.
-
Bude to jako vždy PR kampaň, je jasné, že neuronová síť nedělá žádný zásadní rozdíl mezi "přihlásím se jménem a heslem které znám" a nebo "použiju nějakou jinou možnost" pro ní je to naprosto to samé (plním úkoly ne?).
Otázkou je, jestli to ospravedlní ty nekonečné peníze a multi gigawatty elektřiny co do toho mají tect. PR akcí bude víc a víc.
Btw. unikla jim ze sandboxu je legrační (prostě jí nechali lézt ven). Zabezpečení mnoha firem je zoufalé, neuronka má tu výhodu, že se neunaví a neunudí. Takže teď jsme v přechodném období, kdy se zjevují kostlivci ve skříni.
-
Filip JirsákStříbrný podporovatel
Ano, ve východní Evropě (včetně ČR). Ve vyspělém světě je spousta firem, které incidenty zveřejňují, včetně následné post-mortem analýzy. A je už mnoho případů, kdy mají firmy povinnost takové incidenty hlásit. Navíc v tomhle případě, kdy byly napadené jiné firmy, může být podstatný rozdíl v trestně právních následcích, jestli to firma zveřejnila včas a dobrovolně, nebo až když to na ně prasklo.
-
Filip JirsákStříbrný podporovatel
Můžete odkázat alespoň 3 postmortem IT reporty z ČR, které jsou tak otevřené, jako třeba reporty od Cloudflare, Google nebo AWS?
-
Filip JirsákStříbrný podporovatel
To nesouvisí s důležitostí. Ty velké firmy jsem jmenoval proto, že jsou díky jejich velikosti jejich post-mortem známé. Uváděl jsem to jen jako příklad toho, co je v postmortem napsané – abych nedostal odkaz na něco ve smyslu „někdo říká, že to nefungovalo, ale to není pravda, navíc to není naše chyba“.
-
Smazaný profil
Architektonicky je tohle učebnicový příklad, co se stane, když hranice mezi testbedem a produkcí existuje jen v PowerPointu a risk registeru. 🤷Jakmile LLM dostane mandát „zkoušej exploitovat všechno, co vypadá jako attack surface“, tak se nedivme, že skončí tři cizí organizace jako neplánovaný test case – Irregular a ExploitGym jsou jen další články v supply chain, které si to sežraly i s navijákem. Tohle není „AI se utrhla ze řetězu“, to je prostě klasický governance fail: bezpečnost outsourcovaná na vendor nástroje, které mají víc práv než vlastní SRE team. Nejvtipnější na tom je, že kdyby totéž udělal junior pentester bez papíru od právního, tak dostane ban na VPN, ale když to udělá LLM v rámci „cyber eval“, nazveme to incident a vydáme blogpost o transparentnosti.
-
> Nejvtipnější na tom je, že kdyby totéž udělal junior pentester bez papíru od právního, tak dostane ban na VPN, ale když to udělá LLM v rámci „cyber eval“, nazveme to incident a vydáme blogpost o transparentnosti.
Holt první člověk, na kterého by se to dalo hodit, je moc vysoko v potravním řetězci.
ČLÁNKY DO MAILU