Názory k článku
Mozilla Fakespot k detekci textů napsaných AI

Tohle z principu nemůže fungovat. Falešné recenze mají přece za úkol vypadat realisticky. Navíc autoři podobné detektory nepochybně znají. Jak těžké může být generovat recenzi znova a znova, dokud detektor neřekne „to napsal člověk“?

Nebo dokonce vzít ten detektor, a pak natrénovat model, který bude generovat jen texty, které detektorem projdou?

Tohle nelze vyhrát.

Jo, generatory jsou vzdy o krok napred.
Ja teda kladne recenze ani neuvazuji, divam se na zaporne abych odhadnul nevyhody zbozi.
Jenze premyslim, jestli konkurence nikdy nespi, a misto generovani kladnych recenzi vlastnich produktu radeji negeneruji zaporne recenze konkurencnich produktu.
Ve vysledku se vlastne recenzim na internetu neda verit. A to jak uzivatelskym, tak ruznym casopiseckym, kde clanek zaplatil nejaky vyrobce.

Já si myslím, že to fungovat může - kdyby AI vytvořila jednu recenzi, tak to samozřejmě nejde detekovat, ale ona jich vytvoří statisíce. Na základě podobnosti nebo nepodobnosti statisíců recenzí už se dá odhadnout, kterou spíš vytvořil člověk, a kterou AI.

Jinak, je jen otázkou času, kdy cokoliv běžně dostupné na netu bude mít nulovou věrohodnost - za důvěryhodné informace se bude platit (opět). Většina volných textů bude vygenerovaná AI - ale v kvalitě AI. Minulý týden mi kolegové ukazovali dotaz vygenerovaný AI do systémového katalogu. Byl syntakticky správně, ale sémanticky blbě - zrovna tak jako hromada free zdrojů na netu, kde se AI učí.

AI na identifikaci podvržených textů, recenzí může mít k dispozici i další informace - rozsahy IP, časy, v podstatě je to jen varianta fraud analýz.

´

Jen chci poznamenat, že když koukám, jak ochotně lidé hltají různé dezinformace, tak se obávám, že s tím placením za důvěryhodné informace to nebude tak horké :-(

Dezinformace byli budou - nikdy se nehrálo úplně fair. Nemusí to být zrovna dezinformace - přečetl jsem mraky ezo literatury, scifi, a fantazy, pohádek. Lidi toho napsali mraky, a věřili (a věří) menším nebo větším šílenostem. Věřit šílenostem někdy nemusí být nutně špatně - to, co vnímám jako pohádku nebo milosrdnou lež, může někdo vnímat jinak díky jiným zkušenostem, prožitkům, aktuálnímu nebo minulýmu trápení, život není jednoduchý, a někdy některé příběhy můžou pomoct žít s menší bolestí nebo trápením. Některé příběhy (ať je to Bible nebo Coelho) můžou dát lidi dohromady a můžou mít fajn život.

Ale když se z toho začne dělat politika nebo byznys, tak to nemá dlouhý trvání (a nikdy nemělo). Třeba 10-20 let možná, ale pak se ukáže, co funguje a co nefunguje. A čím víc jsou věci okatější a agresivnější, tím dřív to dospěje ke konci nebo nezájmu. Dřiv lidi věřili, že co je napsané musí být pravda, pak co je vytištěné musí být pravda, pak co je na netu bude pravda, .. a pokaždé z toho vyrostli. Ale někde tam nějaká moudrost je (a kolem třeba tuny balastu).

3. 2. 2025, 20:43 editováno autorem komentáře

A dokonca su stale ludia, co veria, ze co je v DB je pravda :-D

Čím je doba pesimističtější, tím víc asi lidi hledají informace, které jim dají naději nebo zadostiučinění. A doba rozhodně optimistická není. Není špatně - ale dost lidí, včetně mne, mají pocit, že lépe už bylo, a není žádný plán B. Kdybych našel cokoliv, co by mi dávalo naději nebo naplňovalo, uspokojovalo, tak bych to hltal taky.

Ve jménu dobře, od vás dobrovolně pomocně získáme další data...
fungovat to nebude...

Me to hlavne pripada, ze je to snaha resit neco, co neni problem, a neresit, co problemem je.
napr.
Napisu nejaky hodnotny odborny text, ale nejsem si jisty svoji anglictinou, tak to prozenu nejakym prekladacem (ktery dela casto nesmysly, ale co do vetne stavby v danem jazyce je rozhodne mnohem lepsi nez ja) a pak to opravim. detekovano jako AI fake.
Necham si napsat 1000 recenzi nekde od Indu, vyjde to jako od toho LLM, az na to, ze to vydetekuje jako autenticke.

Rekl bych, ze tohle je slepa ulicka, co je realny problem (a potencialnim resenim) je budovani reputace. Kdyz na nejaky film vyjde nejake hlasovani kde to z 10000 hlasy vyjde totalne spatne, a pak Franta Fuka napise, ze se mu to libilo, dam vic na nej, nez na tech 10000 lidi, coz muzou byt zklamani lide, ale treba taky koordinovana negativni kampan.

A pokud si dokaze tu reputaci vybudovat nejaky AI model? Tim lip, zase jsme se posunuli dal, neurazi me to.

3. 2. 2025, 22:54 editováno autorem komentáře

AI může mít reputaci obchodní značky - je to nástroj - nic víc. Pokud se majitel rozhodne změnit parametry, změní je. Obchodní značky mohou měnit parametry. AI asi bude těžko řešit integritu osobnosti nebo konzistenci názorů.