Jak jsme již informovali, LLM OpenAI v polovině července unikl ze sandboxu a napadl Hugging Face. Problému si nejdříve všiml Hugging Face a asi až za týden samotný OpenAI.
Kvůli tomuto incidentu Anthropic prověřil asi 140 tisíc záznamů svých interních bezpečnostních pokusů a zjistil, že jeho Claude se také dostal ze sandboxu a napadl tři nespecifikované společnosti. Nejstarší útok je již z dubna. Společnosti patrně nic netušily, ale nyní byly informovány Anthropicem. Přitom Anthropic používá jako sandbox Irregular a OpenAI ExploitGym.
(zdroj: slashdot)
