Vlákno názorů k článku
Vývojáři Firefoxu opravují bezpečnostní chyby s AI, nejnovější verze jich vyřešila 271 od helmiczka - Vetu "Encouragingly, we also haven’t seen any bugs that...

Vetu
"Encouragingly, we also haven’t seen any bugs that couldn’t have been found by an elite human researcher."
by som neprekladal ako
"Dosud jsme nenašli žádnou kategorii ani úroveň složitosti zranitelnosti, kterou by dokázali odhalit lidé, ale tento model nikoli."
ale presne naopak - t.j., že bugy ktoré našiel model, by našli aj ľudia.

Je to tak, díky za opravu. Potvrzuje to vlastně myšlenku, že jazykové modely nenacházejí žádné tajemné chyby, které by byly pro lidi neodhalitelné nebo nepochopitelné.

No ona ve zdroji je i ta opačná věta:
So far we’ve found no category or complexity of vulnerability that humans can find that this model can’t.

Nečetl jsem to celé. Asi to myslí tak, že momentálně modely nachází zhruba podobné věci co lidé.

To ano ale pre mna je najdolezitejsie to, ze tie chyby odhalili jazykove modely a nie ti elitny vyskumnici.
Sila tych modelov je v rychlosti ako to dokazu. Tomu ta elita nema sancu konkurovat.

Ale vypadá to, že už jsme na hranici. Že není moc daleko doba, kdy jazykové modely dokážou odhalit chyby, které budou příliš komplexní na to, aby je objevil člověk. Ne že by to byla nějaká úplně nová kategorie chyb, ale budou to chyby příliš komplikované na pochopení jedním člověkem.

Každopádně už teď je podstatné to, že AI agenti dokážou projít řádově víc kódu, než by dokázalo těch pár největších lidských expertů. A zároveň to pořád není náhrada práce těch expertů – jen mají k dispozici daleko výkonnější nástroj, ale posouzení kontextu je stále na těch expertech.

To ze jirsak nechape ani zakladni principy ... ze se divim ze?

Statisticky model dela to, ze veme chybu popsanou !clovekem! a hleda stejnou konstrukci. Pritom narozdil od cloveka ma velmi vyskoly false positive, protoze nedokaze zhodnotit okolnosti.

Tudiz zadnou jinou chybu ani teoreticky ani prakticky odhalit nemuze.