Názory k článku
Anthropic má bezplatný test zranitelností pro open source software

Není třeba, jakmile se zruší embargo na CVE, tak se na daný projekt sesypou jak vosy na sodovku honiči CV s LLMkama a vyzobají zbytky o kterých často víme, ale jsou teprve v pořadníku do další aktualizace. Jakmile vám ale spustí bezpečnostní proces, není cesty zpět a musíme to udělat hned. Skvělá věc.

No tak rozdíl je v tom, že tady na to pustí plný Mythos, ke kterému se veřejně nedostanete.

Len krmte hydru :-)

Tak pokud je to veřejný OSS projekt (na které je ta nabídka cílená), už ji nakrmil dávno.

Wordpressu zahltí issues queue

To je obecný problém letos. Spousta důležitých projektů je bezpečnostními hlášeními z LLM zahlcena. To je příležitost pro útočníky, pokud si mohou dovolit investovat do útoku výrazně více zdrojů než jsou na opravy.

Nejspíš všechny firmy, které utrácí stamiliardy za vývoj AI a vydělávají na tom desítky miliard stojí z velké části na OSS software.

Upustit pár drobných na to, aby ten OSS na kterém jim to běží byl i bezpečnější, to je i v jejich zájmu.
Lepší by bylo, kdyby upustili víc než promile a zafinancovali i lidi, kteří už na tom OSS pracují, nebo se sami zapojili do vývoje. Čest těm, kteří už to, bez Vendor Lock-Inu dělají víc než na kosmetické úrovni.

Myslim ze pouziti extra silneho modelu povede jen k nalezu extra-komplikovanych a nepravdepodobnych chyb, realne ne uplne pouzitelnych pro zneuziti.

Jak komplikované zneužití je je úplně jedno když ty složité nástroje na zneužití taky vytváří AI.

No co jsem videl vetsinu 0-day exploits na opensource vecech tak to byly opravy byly pomerne trivialni (napr lepsi osetreni vstupu)