Vlákno názorů k článku
Anthropic poslal svoji AI k psychiatrovi od mhi - Ze to Rootu stoji za to delat clickbaitove,...

Ze to Rootu stoji za to delat clickbaitove, ale hlavne nesmyslne titulky. Jsem v ocekavani zpravicek "Neuverite jakou katastrofu zpusobil nejnovejsi update tohohle OS" :-).

Titulek by mel spis byt "Lidi okolo AI jsou stale neskutecni manipulatori, protoze se nas snazi presvedcit o schopnostech svych modelu, ktere nemaji".

Kapitola 5, kdyz ji oprostime od toho bullshitu o vedomi a nejakem "psychiatrickem vysetrovani*", spis rika jak jsme model naucili simulovat lidske reakce na ruzne podnety.

Mne by osobne stacilo, kdyby ted opravili ten model alespon tak, aby se nemotal v kruhu a treba 15 minut nezkousel neco nainstalovat do sveho virtualniho piskoviste, aby pak zjistil, ze to nedokaze kvuli nejakemu omezeni - a neskoncil s pohou chybou, ze se prekrocil nejaky limit, kdy v dalsim pokusu opakuje uplne to same. Taky bych byl rad, aby ty modely odnaucili "potvrzovat spravnost uzivatele", aby mne nevodil v kruhu nejake me mylne uvahy.

* model nelze psychologicky ani psychiatricky vysetrit, protoze obe profese vyzaduji pacienta/klienta osobne - neverbalni slozka je velmi podstatna, mozna i dulezitejsi nez co vysetrovany rika. Pominu

Dobře shrnuto zde: https://x.com/elonmusk/status/2042135446751473938

Lepší odkaz, sorry: https://x.com/atmoio/status/2041935999945625745

> [Musk] Grok will never go to therapy. Never.

Jak toho chce docílit, když to poskytuje přes API náhodným lidem z internetu? Tu "terapii" nebo cokoli může udělat kdokoli si koupí API přístup / kredity na openrouteru (ty lze dokonce platit kryptoměnami).

> [video] You will never touch it. They gave it to Amazon, to Apple [...]

Ne. Historicky takováto "nepublikujeme, moc nebezpečné" vždy vydržela maximálně několik měsíců. Konec konců, hned potom o tom hovoří.

> OpenAI - they basically want to keep their highest models enterprise only.

Kromě pozdržování kolem GPT-2/GPT-3 před mnoha lety jsem nic takového nezaznamenal. Někdy dají model do API přístupu až po ~měsíci (Codex 5.3), ale v jejich nástrojích je dostupný, a to i lidem s obyčejným předplatným. Nic enterprise.

> It's not alive. It's not conscious. There's no soul.

Autor videa je? Jak se o tom můžeme přesvědčit? They're Made Out of Meat! A šlo by stejným způsobem prosím otestovat, jestli jsou vědomá zvířata (případně jak "pokročilá" - hmyz, ryby…), rostliny, a od jakého věku dítě/plod? Konečně by to vyřešilo spoustu etických otázek ohledně veganství, potratů a dalších.

> They are like "say you are conscious". And the model is like "umm, I'm conscious". And they are like: mother od God, what have we done.

Ne (mirror).

12. 4. 2026, 00:05 editováno autorem komentáře