Vlákno názorů k článku
Mozilla Fakespot k detekci textů napsaných AI
od me vakérav - Tohle z principu nemůže fungovat. Falešné recenze mají...
-
Tohle z principu nemůže fungovat. Falešné recenze mají přece za úkol vypadat realisticky. Navíc autoři podobné detektory nepochybně znají. Jak těžké může být generovat recenzi znova a znova, dokud detektor neřekne „to napsal člověk“?
Nebo dokonce vzít ten detektor, a pak natrénovat model, který bude generovat jen texty, které detektorem projdou?
Tohle nelze vyhrát.
-
Jo, generatory jsou vzdy o krok napred.
Ja teda kladne recenze ani neuvazuji, divam se na zaporne abych odhadnul nevyhody zbozi.
Jenze premyslim, jestli konkurence nikdy nespi, a misto generovani kladnych recenzi vlastnich produktu radeji negeneruji zaporne recenze konkurencnich produktu.
Ve vysledku se vlastne recenzim na internetu neda verit. A to jak uzivatelskym, tak ruznym casopiseckym, kde clanek zaplatil nejaky vyrobce. -
Já si myslím, že to fungovat může - kdyby AI vytvořila jednu recenzi, tak to samozřejmě nejde detekovat, ale ona jich vytvoří statisíce. Na základě podobnosti nebo nepodobnosti statisíců recenzí už se dá odhadnout, kterou spíš vytvořil člověk, a kterou AI.
Jinak, je jen otázkou času, kdy cokoliv běžně dostupné na netu bude mít nulovou věrohodnost - za důvěryhodné informace se bude platit (opět). Většina volných textů bude vygenerovaná AI - ale v kvalitě AI. Minulý týden mi kolegové ukazovali dotaz vygenerovaný AI do systémového katalogu. Byl syntakticky správně, ale sémanticky blbě - zrovna tak jako hromada free zdrojů na netu, kde se AI učí.
AI na identifikaci podvržených textů, recenzí může mít k dispozici i další informace - rozsahy IP, časy, v podstatě je to jen varianta fraud analýz.
´
-
L.Stříbrný podporovatel
Jen chci poznamenat, že když koukám, jak ochotně lidé hltají různé dezinformace, tak se obávám, že s tím placením za důvěryhodné informace to nebude tak horké :-(
-
Dezinformace byli budou - nikdy se nehrálo úplně fair. Nemusí to být zrovna dezinformace - přečetl jsem mraky ezo literatury, scifi, a fantazy, pohádek. Lidi toho napsali mraky, a věřili (a věří) menším nebo větším šílenostem. Věřit šílenostem někdy nemusí být nutně špatně - to, co vnímám jako pohádku nebo milosrdnou lež, může někdo vnímat jinak díky jiným zkušenostem, prožitkům, aktuálnímu nebo minulýmu trápení, život není jednoduchý, a někdy některé příběhy můžou pomoct žít s menší bolestí nebo trápením. Některé příběhy (ať je to Bible nebo Coelho) můžou dát lidi dohromady a můžou mít fajn život.
Ale když se z toho začne dělat politika nebo byznys, tak to nemá dlouhý trvání (a nikdy nemělo). Třeba 10-20 let možná, ale pak se ukáže, co funguje a co nefunguje. A čím víc jsou věci okatější a agresivnější, tím dřív to dospěje ke konci nebo nezájmu. Dřiv lidi věřili, že co je napsané musí být pravda, pak co je vytištěné musí být pravda, pak co je na netu bude pravda, .. a pokaždé z toho vyrostli. Ale někde tam nějaká moudrost je (a kolem třeba tuny balastu).
3. 2. 2025, 20:43 editováno autorem komentáře
-
Čím je doba pesimističtější, tím víc asi lidi hledají informace, které jim dají naději nebo zadostiučinění. A doba rozhodně optimistická není. Není špatně - ale dost lidí, včetně mne, mají pocit, že lépe už bylo, a není žádný plán B. Kdybych našel cokoliv, co by mi dávalo naději nebo naplňovalo, uspokojovalo, tak bych to hltal taky.
