Názory k článku O chlapci, který křičel RCE a budil tím slušné unavené lidi

Chápu, že si lidi pomáhaj různou AI (ba je to i dobře), ale copak to po ní ani neprojdou? Zejména, když to posílají ven?

EDIT: Každopádně s Vámi soucítím, zpracovávat hromady AI hnoje je fakt frustrující.

29. 4. 2026, 06:11 editováno autorem komentáře

Neprejdou a nezridka vase odpovedi posilaji LLM. A tak se bavite s LLM o necem, co neexistuje, ale LLM to vidi.

> ale copak to po ní ani neprojdou?

Oni toho ani nemusí být schopni nebo na to dlabou. Problém s AI je ten, že nejvíc násobí "produktivitu" tupců a lemplů. Záplava ai-slopu už je jen důsledek. Zkontrolovat výsledky trvá podstatně dýl než je nagenerovat.

Ti lidi, co posílají takový spam, nemají absolutně důvod a motivaci to kontrolovat. Incentiva je (nebo dosud byla) "nahlaš chybu a když se ukáže oprávněná, tak možná dostaneš odměnu." Nic jako "když nahlásíš blbost, přijdeš o něco" tam není. A tím pádem, pokud člověk nemá dost rozumu a profesní cti, tak bude prostě chrlit co nejvíc reportů s co nejmenší námahou, brokovnicový přístup. Stejně jako s podvody - stačí se trefit jednou a zaplatí to hromadu neúspěšných pokusů.

Ale vidím světlo na obzoru; všichni velcí hráči začali v posledním cca měsíci dost utahovat limity i u těch $20 předplatných (Google např. efektivně zmenšil tokeny asi 33x skrz týdenní limit...), takže doba levné AI nejspíš končí a to by mohlo dost změnit incentivu těchto falešných hlášení - protože pak už toho zadarmo, nebo za pár korun, moc nenahlásíš.

Pokud se cena použití AI nezvedne razantně, na generování AI odpadu to nic podstatného nezmění. A ta cena bude spíš klesat – velcí hráči sice posouvají ceny blíže realitě, ale objevují se velmi levné čínské modely. Přičemž lidem generujícím AI odpad je úplně jedno, jestli použijí nějaký třeba cinknutý čínský model.

Jediné, co doopravdy pomůže, je odpovědnost člověka nebo instituce. Tak, jak je to popsané v článku – nahlásil jsi nesmysl? Jdeš na blacklist. Jenom bude potřeba dořešit, aby ten blacklist byl sdílený a aby ho nešlo obejít tím, že si dotyčný bude generovat další a další e-maily.

Ale ono to samé bude platit i pro jakýkoli jiný obsah – články, videa, příspěvky na sociálních sítích.

To ale neni o tom, ze by guugl chtel pachat nejaky dobro, to je ciste o tom, ze tu jsou obrovsky naklady ... a mizivy prijmy. On za to totiz realne nikdo platit nechce.

Uz sem mel tu pochybnou cest nekolik nosocu vody resit osobne, a nikdy zadnej nebyl schopnej predvist jakejkoli relevantni vystup. Vsichni jen vykrikujou "kupte si to a usetrite".

Takze na hrani, generovani videi s trumpem/babisem/... urcite fajn. Ale za to nikdo platit nebude. Ve finale nejvetsi vyuziti to ma prave pro generovani ruznych "duveryhodnych" treba mailu za ucelem presvedceni pitomce ze ma nekam poslat penize.

vstupy profiltrovat skrz ai

Jak přesně si to představujete?

Problém vznikl tak, že se AI sekla (a prompt monkey to jenom přeposlala). Co přesně by ta filtrující ai měla přesně dělat, hledat a tak? Ta filtrující AI se taky může seknout, jak to bude řešené.

Aby to neskončilo tím, že údržbáři dostanou k jednomu AI slopu další jako bonus.

Hele to by mohlo fungovat, protože AI diverguje jen když nic nenajde, Pokud něco najde, tak konverguje. Možná to chce vhodný model a dobrý prompt. Možná otočit dotaz "proč toto hlášení není kritické"

To podle mě zas povede k false negatives na straně AI review agenta.

Tak nějak. AI se obvykle chce zavděčit, takže bude důsledně hledat důvody, proč to zahodit. Od nějakého prvního filtru chcete přesný opak.

Nestačilo by na tuto věc požadovat automatizovaný test, který to musí zreprodukovat?