Vlákno názorů k článku
Anthropic poslal svoji AI k psychiatrovi od Zdeno Sekerák - Ja to rikam vsem:"Nikdo nevi jak skutecne AI...

Ja to rikam vsem:"Nikdo nevi jak skutecne AI funguje. Dokazeme ji nakrmit datama a pak zkoumat jestli reaguje alespon priblizne jak ocekavame. A to je vse."

Ne. My vime presne jak AI funguje. Dokazeme matematicky popsat naprosto kazdy jednotlivy krok a instrukci kterou provede pocitac pri provozu AI. My jen nedokazeme nasim mozkem obsahnout tak rozsahlou vec jako jsou matice AI, a jeste mnohem rozsahlejsi fazovy prostor vsech moznych pocatecnich podminek a vyslednych reseni. A proto si to vsechno musime extremne zjednodusovat. My vime presne jak AI funguje, ale nejsme schopni snadno odhadnout jake vstupy vedou k jakym vysledkum.

Kdyz vezmes uplne zacatky, nejakou primitivni neuronku s malo cleny v matici, tak budes schopen svym mozkem pochopit proc pri danem vstupu je dany vystup. Ale i tak mozna nebudes schopen dohlednout vsechny dusledky, viz treba primitivni pravidla v Game of Life, ve ktere se dlouho hledaly vsechny 'zajimave' kombinace pocatecnich podminek.

Pardon, tohle je takové tvrzení, které naprosto ignoruje jakékoli emergentní jevy.

Něco podobného by se dalo říct třeba na téma fundamentální fyzika - chemie - biologie apod.- my víme jak se jednotlivé částice chovají, ale třeba už ani tu hmotnost protonu neumíme spočítat z prvních principů, natožpak třeba Navier-Stokesovku, nebo dokonce třeba genetiku.

Co? My nezname prvni principy. Nemame ani tucha, ze ceho presne bychom meli pocitat hmotnost protonu, protoze u kvarku a interakci je porad prilis mnoho nejasnych veci.
Navier-Stokes je odvozeny celkem snadno, co se ti na tom nezda? To ze neumime spocitat proudeni naprosto presne v realnem potrubi je ten samy problem jak jsem popisoval - nezname to potrubi do vsech detailu, a ani nezname tu kapalinu do vsech detailu. Ale pro idealni potrubi a modelovou kapalinu neni Navier-Stokes problem, to das na papire.

Můžete tohle rozvést? Co je prosím na QCD nejasného? Teda kromě toho, že má příliš vysoký coupling, takže poruchový počet nefunguje, a jediná funkční metoda je Lattice-QCD, která ale nedává hmotnost (ta se musí nakalibrovat). Byly nějaké pokusy s AdS/CFT to převést na weakly coupled ekvivalentní problém, nejsem si jistý že to vedlo k praktickému výpočtu pro netriviální zadání.

A NS už máte milion dolarů od Clay institutu? https://en.wikipedia.org/wiki/Navier%E2%80%93Stokes_existence_and_smoothness a https://www.ams.org/journals/jams/2016-29-03/S0894-0347-2015-00838-4/S0894-0347-2015-00838-4.pdf a mnoho dalšího výzkumu.

"My jen nedokazeme nasim mozkem obsahnout tak rozsahlou vec jako jsou matice AI"
Budu kousavi a napisu: "takze nevime".

Prenesene bych rekl kdyz AI dela neco spatne neexistuje nikdo kdo by se podival do zdrojoveho kodu (neuronky) ukazal prstem a rekl: "tady je chyba".

Tak máte předpokládám na mysli váhy (weights), ne zdroják té neuronky, ten je v podstatě celkem primitivní.
Ale i tam to není až tak marné, nedokážeme sice pohledem na neuronku říct "tyhle váhy jsou špatně", ale dokážeme pozorováním reakcí neuronky říct (a často i opravit), které aktivace něco způsobují.

Však je na podobném principu postaveno třeba odcenzurování LLM (uncensoring, abliterating).