Vlákno názorů k článku O chlapci, který křičel RCE a budil tím slušné unavené lidi od a-l-e-x - vstupy profiltrovat skrz ai
-
Jak přesně si to představujete?
Problém vznikl tak, že se AI sekla (a prompt monkey to jenom přeposlala). Co přesně by ta filtrující ai měla přesně dělat, hledat a tak? Ta filtrující AI se taky může seknout, jak to bude řešené.
Aby to neskončilo tím, že údržbáři dostanou k jednomu AI slopu další jako bonus.
-
Problém je, že se tomu nedá věřit ani na jedné straně, takže to nakonec stejně musí rozseknout člověk, a vedle důvodů proč to je CVE na straně reportujícího agenta musí zpracovat i důvody proč to není / je CVE na straně hodnotícího agenta.
Pak je tu problém distribuovaných nákladů reportujících (když to přeženu, banda skript kiddies s nějakým základním Claude subscription) a centralizovaného nákladu na straně vyhodnocujícího. Není moc FOSS projektů které se topí v penězích.
