Vlákno názorů k článku
Anthtropic Claude také hackoval tři organizace od judovana - Aby mi muj vlastni nastroj unikal ze sandboxu...

Aby mi muj vlastni nastroj unikal ze sandboxu je legracni. To je jak kdyby ` grep /etc` v kontejneru prolezl umyslne a bez meho vedomi i /etc na hostovi.. Legracni? Kez by...

Na druhou stranu Anthropic tohle jednani popisoval ve svych vyzkumech uz na podzim minuleho roku (ne-li jeste drive).

"Aby mi muj vlastni nastroj unikal ze sandboxu je legracni."

To je jako když mi můj pes uteče a někoho pokouše.

Tvůj pes má vlastní vědomí a schopnost racionálně uvažovat. Má vlastní vědomí tvůj LLM? :)

31. 7. 2026, 12:14 editováno autorem komentáře

No on ten pes taky nema uplne vedomi a uplne racionalni uvazovani. Ma nejaky vycvik, nejkay podminky, a nejaky pudy. Ne kazdej pes kdyz utece nekoho pokouse. Ale za spoust podminek ano.

Pes samozřejmě vědomí má. Vědomí sebe sama.

Právěže má. Ostatně nové výzkumy se začínají klonit k tomu, že zdaleka nejen on. On je celý tenhle koncept "zvířata určitě nemají vědomí a jen pudy" obecně myšlenkově někde v devatenáctém století.

"Tvůj pes má vlastní vědomí a schopnost racionálně uvažovat"

Pokud vím, přesto je brán spíše jako nástroj bez vlastní zodpovědnosti za způsobené škody. Tu má jeho majitel, pokud existuje.

Jestli LLM utekl z ohrady a někoho pokousal, měl by za to mít odpovědnost jeho majitel.

Ono poznat rozdíl mezi vědomím a jeho kvalitní emulací je prakticky nemožné. Všichni jste filosofické zombie :)

Dokažte to, že jsem p-zombie! ;-)

legračné je to porovnanie, grep nie je určený na prekonávanie mantinelov, tá AI to mala v náplni práce

Ano a ne. AI je hodne genericky nastroj. Ktery ma tolik switchu kolik je na strance ci dvou moznych textu. Kdyby byl ten muj teoreticky grep takto zprznen, a mel tolik switchu, a ja je tam halabala nahazel, a on kuli nim pak utekl ze sandboxu....

Nebylo zverejneno jejich nastaveni?

Ten nástroj slouží k tomu, aby hledal bezpečnostní chyby. Takže to není ani tak legrační jako očekávatelné. Spíš je překvapivé, že ty zkoumané agenty nejprve nenechají hledat chyby přímo v tom sandboxu s instrukcemi, že mají chybu jen oznámit.