Názory k článku
Watermarking u Claude Code je tu

tak vznikne sluzba pregenerovani textu pomoci synonym, ze se text projede jednoduchym nastrojem, ktery jen nahodna slova vymeni za jejich synonyma.

A proč by to někdo dělal? Nebo jinak - neustále mě překvapuje, jak někteří stále hledají, jak něco obejít. To asi bere docela dost energie, ne? Nebo ještě jinak - a validaci udělá zase Claude a napíše něco jako "Generováno Claude, obfuskováno nástrojekm XYZ."

mas psychologii stadni ovce.
protoze kdyz me chce nekdo ochcat (vlada, korporace) tak me zajima jak jim to pokazit.
takze navrhuju vygenerovany text nechat jiny nastroj prelozit treba do madarstiny a pak zpet do puvodniho jazyka. tipuju, ze pak uz se korelace vymaze.

Aha, tak se už pomalu blížíme ke standartnímu schématu "diskusí" na Novinkách - nemám rozumnou odpověď, dehonestuji. Přitom watermarking je naprosto v pořádku - udělal jsem něco pomocí AI, nechť je to buď přímo označeno jako produkt AI nebo mám nástroj, jak to detekovat v případě, že mi někdo podstrčí něco, co je AI generováno. V čem pak spočívá to "ochcaní"? A jak se snažíte pokazit třeba digitálně podepsané PDF? Posíláte papíry poštou? Nebo tu souvistlost s watermarkingem od AI nevidíte? A jak se stavíte k podpisům (nebo "podpisům" - detaily neznám) fotografií pořízenými foťáky renomovaných značek, aby bylo později poznat, že fotografie není originál a může být upravena? A to jsou opravdu velké korporace, tak jak se jim to snažíte pokazit? Jako vážně, to bojujete proti úplně všemu tomuto? Jestli ne, tak proč jen proti něčemu a něčenu jinému ne? A kde jsou hranice? Jen se ptám, já, pitomá ovce.
Edit: Překlepy

17. 8. 2026, 15:02 editováno autorem komentáře

Pokud napíšete, že vás neustále překvapuje, jak někteří stále hledají jak něco obejít, pak tím zároveň skoro vždy říkáte, že vy to neděláte a nechápete, pro to ti ostatní dělají. Pak je ale z hlediska neformální logiky zcela správná jeho úvaha o ovcích; to je prostě logický závěr.

Já nevidím problém ani tak v samotném principu označování AI obsahu, jako spíš v tom, CO a JAK se označuje.

U dokumentu, obrázku nebo audia lze informaci o původu nést například v metadatech či pomocí provenance mechanismů typu C2PA. U čistého textu je situace podstatně složitější. Watermark Claude totiž neříká, kdo text vytvořil, ale pouze s určitou pravděpodobností indikuje, že se Claude na jeho vzniku podílel. I lidský text, který někdo pouze nechá přes AI přeformátovat, opravit po stylistické nebo gramatické stránce, tak může nést stejný signál jako text kompletně vygenerovaný AI. A opačně může detekce selhat. Jak vám tedy taková informace pomůže určit, zda vám někdo „podstrčil AI generovaný dokument“?

Navíc statistická detekce z principu není absolutní důkaz autorství a může dojít i k falešně pozitivnímu výsledku u čistě lidského textu. Samostatnou otázkou pak zůstává případný vliv watermarkingu na samotný výstup. Anthropic tvrdí, že praktický dopad na kvalitu nemá, ale princip SynthID-Text přesto spočívá v ovlivnění výběru tokenů během generování. Právě proto mi dává smysl diskutovat nikoliv o tom, zda AI obsah nějak označovat, ale jakou metodou to dělat a pro jaký typ obsahu.

Takže když vás chce někdo ochcat tím, že bude vydávat video vytvořené AI za pravé, nebo bude text vytvořený AI vydávat za vlastní, zajímá vás, jak mu to pokazit. Takže je jak detekovat a případně i prokázat, že video/text bylo generované AI.

Chápu, že jste tím pádem z technologie označování AI výstupů nadšený. Z vašeho prvního komentáře to nebylo tak úplně patrné.

Jinak jsou také lidé – ale to se vás určitě netýká – kteří když je chce někdo ochcat, tak mu ještě fandí, protože mají pocit, jak to ten dotyčný nandá státu. Nějak jim nedochází, že biti jsou na tom především oni sami.

Na vás je zase, pane Jirsáku, fascinující, jak jako jednu ze základních metod používáte podsouvání falešné iluze o tom, co ostatní chtějí. Reálně naprosto netušíte, co ostatním dochází nebo nedochází ani netušíte, jestli je to reálně poškozuje nebo nepoškozuje natož abyste tušil, jestli to tak třeba náhodou dokonce nechtějí.

Ale to ví kdekdo, kdo se s vámi někdy pokoušel o něčem hovořit.

Takhle jednoduše to samozřejmě fungovat nemůže. Synonyma mají stejný význam v nějakém kontextu, nikoli izolovaně. Vzpomeňme na scénu se zaraženým pilotem z praštěného filmu Trhák. I ta synonyma, která významově přesně odpovídají, jsou často závislá na typu textu. Prase a čuně jsou sice synonyma, ale když budu psát odbornou práci z oblasti živočišné výroby, tak mi první oponent to "čuně" omlátí o hlavu.

V prohlášení na mě velmi diletantsky působí toto tvrzení:

We’re applying watermarking globally at launch because we don't yet have a durable way to scope it by region.

Když si tedy trochu zapřeháním:

Nemáme absolutně ponětí o tom kdo, kde a jak používá naše produkty, ale teď potřebujeme nějak izolepou poslepovat soulad se zákonem, který po nás chce EU.

Připomíná mi to letošní kejkle s modelem Mythos, které taky Anthropic řešil globálně.

tyhle anonymni prezdivky mame proto abychom nic nebrali ad hominem.
ja uz jsem stary kokot a zazil jsem komouse a totac, takze jakakoliv ovce, ktera zacne obhajovat jakekoliv metody scanovani, kontroly, desifrovani, sledovani kamerami, vseobecnemu boji proti pedofilii pod vlajkou boje za dobro je muj nepritel, at uz je anonymni nebo ne.

takze ja jsem proto aby si lidi sifrovali, pouzivali svobodne metody komunikace a slozky policie a soudu si musely stale a znova vyzadovat povoleni na sledovani, jinak z toho automaticky vznikne gestapo.

a jestli se ta ovce citi urazena, tak je to potrefena husa co kdaka.

Pokud se někdo projevuje v diskusích jako hulvát (nebo hůř), tak dělá svému pohledu na věc medvědí službu.

(Ale jsem si jistej, že minimálně část z toho jsou vlivové operace, kde je záměrem vykreslit lidem jejich názorové oponenty co nejhůř a radikalizovat je.)

vlivove operace nezpochybnuji, ale urcite nebudou zde na rootu. tady jsou bezni lidi co jsou vetsi ci mensi magori.

Souhlasím, lidi tady jsou určitě spíš normální magoři :D To bylo myšlený spíš obecně.

Nicméně!
1. Protože se takovéhle aktivní rozeštvávání děje
2. A protože nechci aby mě lidi na internetu dehumanizovali.
Tak považuji za důležité snažit se diskutovat slušně a spíš se snažit hledat k tomu druhému cestu. I když se ohledně konkétního problému může ten druhý samozřejmě mýlit - nikdo nejsme dokonalí.

(Ale sám přiznám, že se mi to ne vždy daří. Urazit druhého a zaškatulkovat ho jako extemistického pomatence přeci tolik zahřeje u srdíčka!)

ja si dokonce myslim, ze je spravne zastavat krajni/extremni nazory a teprve v nejake slozite diskuzi nebo pri hlasovani hledat stredni cestu.
ale zastavani stredovych nazoru je podle me lenost.
takze stred klidne, ake pouze ja vysledek stretu krajnich, ostrych nazoru.

tyhle anonymni prezdivky mame proto abychom nic nebrali ad hominem.
ja uz jsem stary kokot a zazil jsem komouse a totac, takze jakakoliv ovce, ktera zacne obhajovat jakekoliv metody scanovani, kontroly, desifrovani, sledovani kamerami, vseobecnemu boji proti pedofilii pod vlajkou boje za dobro je muj nepritel, at uz je anonymni nebo ne.
Přesně. Zažil jste totalitu, ale pak už jste se nenaučil žít ve svobodné společnosti. Pořád jedete v černobílém pohledu na svět naučeném v totalitě, kde stačí rozlišovat černou a bílou.

Bohužel pro vás, svobodná společnost je rozmanitější a hlavně komplikovanější. Tam už takováhle jednoduchá pravidla neplatí. Ve svobodné společnosti už to rozhodnutí, co je dobré a co špatné, nejde udělat bez námahy. Protože jsou tam vždy nějaká pro a proti, každé uvolnění jedné svobody znamená omezení jiné svobody.

Ano, svoboda je náročná. Některým se stýská po té jednoduchosti totality, a tak si i ve svobodné společnosti vytvářejí totalitu kolem sebe.

Akorát se pak nedivte, když lidé, pro které je svoboda důležitá, využijí všechny prostředky, aby vaše totalitní uvažování nezvítězilo.

"Bohužel pro vás, svobodná společnost je rozmanitější a hlavně komplikovanější. Tam už takováhle jednoduchá pravidla neplatí. Ve svobodné společnosti už to rozhodnutí, co je dobré a co špatné, nejde udělat bez námahy. Protože jsou tam vždy nějaká pro a proti, každé uvolnění jedné svobody znamená omezení jiné svobody."
A proto vznikají zákony a předpisy, aby se nikdo nemusel zamýšlet nad tím jestli je něco správně nebo ne - Tedy je to snaha o zjednodušení. Žádná svoboda neomezuje jinou svobodu. Počínání jednoho může omezit počínání druhého a zákony jednoznačně omezují svobody, aby bylo jednodušší rozhodnout jestli počínání jednoho omezuje druhého, ale jelikož zákony platí obecně tak v nenulových případech omezují svobody zbytečně.

"Akorát se pak nedivte, když lidé, pro které je svoboda důležitá, využijí všechny prostředky, aby vaše totalitní uvažování nezvítězilo" A v rámci zachování svobody zase něco zakážeme nebo nařídíme a budeme tak dlouho zakazovat a nařizovat až naše společnost bude úplně svobodná.

A proto vznikají zákony a předpisy, aby se nikdo nemusel zamýšlet nad tím jestli je něco správně nebo ne
Ty ale nepokrývají všechny situace, navíc tady diskutujeme o tom, jak ty zákony mají vypadat. Ale je to tak, že ty zákony situaci zjednodušují – to složité přemýšlení se děje při tvorbě zákona, které se a6b nemusí zúčastnit, když nechce, a nemusí nad tím přemýšlet.

Žádná svoboda neomezuje jinou svobodu.
Samozřejmě že omezuje. Vaše svoboda kouřit venku omezuje moji svobodu nebýt obtěžován kouřením. Vaše svoboda psát tady komentáře omezuje moji svobodu, aby tady vaše komentáře nebyly. Tahle moje poslední svoboda má minimální význam a já o ní reálně nestojím – ale je to svoboda.

jelikož zákony platí obecně tak v nenulových případech omezují svobody zbytečně
Ano, i v tomto případě je to něco za něco. Když fungují zákony, je v důsledku chráněno daleko víc svobod, než kolik jich je omezeno zbytečně.

A v rámci zachování svobody zase něco zakážeme nebo nařídíme a budeme tak dlouho zakazovat a nařizovat až naše společnost bude úplně svobodná.
Ale vždyť to popírá celý váš předchozí komentář. Zákazy a nařízení hledají kompromis mezi různými svobodami a snaží se celkovou svobodu maximalizovat.

Jednání jedince může omezovat jiného jedince. Svoboda neomezuje jinou svobodu. Můj čin kouření vás omezuje. Samotná svoboda vás neomezuje. Zákon omezuje svobodu.
Ne, nařízení a zákony vždy omezují svobodu. Nikdy ji nerozšiřují. Jedinci se (ne)dobrovolně vzdají nějaké svobody, aby měli jednodušší život. Zákony by se měli snažit usnadnit soužití ve společnosti, ale od určitého momentu dělají přený opak. Za tímto momentem už dávno jsme.
Formulace svobody aby něco nebylo mi přijde úsměvná.

"takze ja jsem proto aby si lidi sifrovali, pouzivali svobodne metody komunikace a slozky policie a soudu si musely stale a znova vyzadovat povoleni na sledovani, jinak z toho automaticky vznikne gestapo."

Já jsem pro to, aby tu tyhle možnosti důvěrné komunikace byly a také pro to, aby nebyly zapotřebí. Vezměte si třeba takovou ČLR nebo Rusko, tam lidé svobodu odevzdali a teď jsou vydáni na milost a nemilost lidem, toužícím po moci a ovládání jiných. Jakmile takoví lidé ovládnou stát, těžko se tomu brání. A zločinci se kupodivu rychle přizpůsobí.
My někdy ve strachu z totality chceme komplikovat práci i těm, kteří nás mají bránit.

Znovu se mi vybavuje, jak se agenti organizace jednoho teroristického státu nechali nachytat, když využívali služeb online překladače a vůbec jim nedošlo, že tak předávají informace o své činnosti "na zlatém podnosu".

Pokud někomu vadí označení obsahu, generovaného jazykovým modelem předpokládám, že spíše půjde cestou vlastního modelu, což není tak jednoduché ale bude to stále dostupnější. Nějaký online obfuskační nástroj může být klidně i past, která akorát upozorní "hele, tady nás chce někdo přečůrat".

"tam lidé svobodu odevzdali" - myslím, že jí tam nikdy nezískali.
My jsme velkou část svobod získali a od toho okamžiku je postupně odevzdáváme.

K tomu nařízení - vztahuje se jen na EU, takže stejně tento vodoznak nic nezaručuje a je to opět snaha něco zjednodušit, ale výsledek je kontraproduktivní, protože naivkové si mohou myslet, že generovaný obsah AI se dá poznat podle vodoznaku, ale skutečnost je taková, že tohle nařízení platí jen někde a není to vlastnost AI podle které se AI obsah dá poznat. Tedy vznikla další buzerace a znevýhodnění pro EU (zřejmě zdražení používání AI modelů pro EU) které ve výsledku vůbec nic nevyřešilo.

18. 8. 2026, 08:01 editováno autorem komentáře

svoboda se nedává, svoboda se bere.

"svoboda se nedává, svoboda se bere."

Dobrá poznámka. Tím odevzdáním mám na mysli, že si ji nechám bez odporu vzít ;-)

Ve skutečnosti je to přesně naopak. Někdy v dávné minulosti jste měl ten majetek, který jste fyzicky ubránil. Dneska vám stát dává svobodu vlastnit mnohem víc majetku, než kolik dokážete osobně fyzicky ubránit. To samé svoboda pohybu nebo i života. Dříve jste přežil, když vám to dovolil někdo silnější. Dneska vám tu svobodu zaručuje stát (ne 100%, ale nesrovnatelně více).

To je zase patlanina. Najednu stranu se AI prezentuje jako nástroj a profíci se usmívají, když ji uživatelé antropomorfizují, na druhou z toho sami dělají pseudoosobnost, která člověku "s něčím pomáhala" nebo "od níž člověk něco opsal". Dokonce v defaultu jejich nástroje všude přidávají "Co-Authored-By"! Je to praštěný. To je jako watermarkovat zdrojáky komplet refaktorované nebo dogenerovávané v IDEčku/editoru, což se děje léta. Je to zase pokus zásahu proti lidskému selhávání vkládáním pocitu provinění nebo rizika odhalení.

"na druhou z toho sami dělají pseudoosobnost, která člověku "s něčím pomáhala" nebo "od níž člověk něco opsal""

Ono to tak ale ve skutečnosti je, ne? Ty jazykové modely se učí z dat, která musel vytvořit člověk. Z toho pak také čerpají.

ja to shrnu za sebe, eu je cim dal totalitnejsi
a resim eu, protoze tu ziju.
chat control, vodoznaky atd. jsou podle meho
totalitni zlo a mam obavu, ze svobodny internet se bude muset casem presunout na tor apod.

chat control se nerovná vodoznaky u AI... watermarking výstupu AI je principiálně něco úplně jiného... pokud model do svého vlastního generovaného výstupu vloží informaci umožňující určit jeho původ, tak tě tím sám o sobě nikdo nesleduje, nečte ti komunikaci, neodposlouchává tě a neprohledává ti disk... lze naopak argumentovat, že jde o mechanismus provenance - umožnit ostatním poznat, že něco, co se tváří jako lidský text/fotografi­e/video, vzniklo synteticky.
jasně ... máme svobodu generovat přesvědčivé fejky. ale ostatní lidé mají také legitimní zájem zjistit, že jsou to fejky... svoboda přece nemůže znamenat nárok na to, aby ostatní neměli technický prostředek k rozpoznání původu informace.
a btw bavíme se tady o lidech. člověk a jeho chování a jednání velice dobře známe. člověk je ten tvor co padělá, falšuje, krade a klame... Jakmile nějakýmu člověku dáš nový nástroj, jeden ho dřív nebo později použije i k tomuhle... Možnost ověřit původ informace proto sama o sobě není totalita. O totalitě se můžeme začít bavit podle toho kdo, co, jak a proč sleduje nebo vynucuje... a ne prostě proto, že existuje vodoznak....

"pokud model do svého vlastního generovaného výstupu vloží informaci umožňující určit jeho původ"

ak bude existovat moznost jednoducho overit, ze ten text/obrazok je opatreny vodoznakom tak budu existovat nastroje ktore ten vodoznak budu vediet odstranovat. cize to dopadne tak, ze kazda ai firma si bude tie info o vodoznakoch strazit a verejne ich nespristupni a bude len moznost dat to im overit, ze ci to nieje ich nastrojom vygenerovana informacia. lenze to potom bude o tom, ze ci clovek veri tej informacii ktoru ta ai firma poskytne. nebude mat moznost to nezavisle overit, ze je to tak

dalsi problem je, ze ten vodoznak budu tie ai nastroje vkladat len do materialov ktore generuju poddani. pre vyvolenych a pre vladne trojpismenkove agentury sa budu samozrejme dodavat nastroje bez vkladania vodoznakov :)
alebo si snad niekto mysli, ze ked bude cia, mosad,... robit hybridne :) operacie, kde budu vyuzivat ai, ze budu tie info generovat s vodoznakmi? :)
uz vidim ako bibi sermuje s obrazkami o udajnom iranskom jadrovom programe, ze iran je uz dva dni od vyrobenia jadrovej bomby a preto musel na iran znovu zautocit a potom to niekto prezenie analyzatorom vodoznakov a zisti, ze to generovala nejaka ai :)

Jeho premyse je EU je spatna. Kdo by se zdroval faktama, napriklad ze AI vodoznak chce pouzivat soukroma firma v USA.

Omlouvám se všem včetně redakce, že z jedné technické zprávičky vznikla tak emocionální výměna názorů. Když se tak dívám na diskusi, argumentační chyby udělala naprostá většina přispěvatelů včetně mě. Naopak děkuji Ondrovi, MSBOSS a B.H.L. za věcný a uklidňující přístup. Říkám si, že je škoda, že jsem v první odpovědi a6b zvolil příliš sarkastickou formu, což bylo zbytečné. A pak už (kromě Ondry, MSBOSS a B.H.L.) nikdo z nás neměl sílu vrátit diskusi zpět do technické roviny. Bylo by hezké, abychom si z toho všichni včetně mě dokázali odnést nějaké poučení a další diskuse nejen na Rootu byly kultivovanější. Díky.

Díky za to, já se snažil vrátit diskuzi do roviny jak je to technicky provedeno, ale můj příspěvek asi zapadl a nebyl (alespoň prozatím) redakcí schválen, kdežto emotivně zabarvených příspěvků se tu vyrojila celá řada. Škoda, toto je téma o kterém by se mělo mluvit.

proc by ses ty a kdokoliv dalsi mel za cokoliv omlouvat.
diskuze byla poucna.

Třeba proto, že mám svobodu se omluvit? :-D

Bude se ten watermarking přidávat i do vygenerovaného zdrojáku? :-D

To tam přidávají od začátku ne? :-)

treba do komentaru ke kodu, nebo do nazvu promennych.

int tohle_vygenero­vala_ai_1_pro_u­zivatele_fran­ta = 666;

Zprávička obsahuje odkaz přímo na oznámení Anthropicu, kde tohle taky řeší. Tady citace:
_____________­________________________­_________
What about code?

As we noted above, AI watermarking takes advantage of decisions where either choice of a word would be equally good. Where an exact output is required—where there isn’t a choice, and something would be factually wrong or a piece of code would break if a different term was chosen—the watermark isn’t applied.

For example, once the model has written “2 + 2 =”, there is a very clear best choice for the next token (if the model is completing the sum, there isn’t an answer that’s equally as good as “4”; if it’s talking about George Orwell’s Nineteen Eighty-Four, there isn’t an answer that’s equally as good as “5”). The “nudge” of the watermark wouldn’t be applied here. For the same reason, code—which in very many cases has to be exact—has generally less watermarking than some other forms of text.

Having said that, in areas where there is an arbitrary choice between particular words or terms within the code, the watermark can be used, such as comments within code. But by definition, it will have a negligible effect on the actual code produced.

Dushino, s tím, s čím jsi přišel se svým prvním komentářem, je to podle mě trochu jako přijít porazit strom s vosím hnízdem, a pak se divit, že tě něco bodlo. :-) V zásadě máš pravdu, že osobní útoky do věcné diskuse nepatří... Jen jsi přišel mezi lidi, z nichž prakticky každý má profesně zažitý naprosto opačný způsob uvažování: když někdo představí technické opatření, první otázka je „jak se to dá obejít nebo kde to selže...“. Ne proto, že to nutně chtějí zneužít, ale protože právě tím se zjišťuje, jestli a jak to vůbec funguje. Tvoje původní „proč by to někdo dělal?“ proto v takové diskuzi jednoduše zní skoro jako těžká provokace, i když tak třeba nebylo myšlené. pak už to je jenom bzučení nasranejch vos :-)

No jo, no... Na druhou stranu, když už jsem to přehnal, tak proč reakce amplifikovaly moji chybu? Nepřijde mi, že to bylo proto, aby mi ukázaly, že jsem tu chybu udělal. Jako jo, myslím, že většina ajťáků má nějakou formu poruchy osobnosti (včetně mě, protože mě ani ennapadlo, že můj příspěvek je tolik provokativní), takže reakce můžou být přehnané.
Zajímavé na tom všem ale je, že na můj dotaz, proč by to někdo dělal, jsem technickou odpověď nedostal. Pouze (autocenzurováno, abych se zase nedotkl nabubřelého ega někoho), jaké jsou zákony a EU zlo. Přitom stačilo ignorovat (stejně jako já ignoruji některé výpady i v této diskusi) a opravdu se podívat na technickou stránku, kterou považuji za zajímavou. Celkově mi přijde, že jsem, i když nevhodným způsobem, trefil hřebíček na hlavičku - o technické aspekty nešlo, šlo opravdu jen o principiální očůrání státu. Přitom o stát tady vlastně vůbec nejde, alespoň ne v první řadě.
Samozřejmě je otázka, co ještě v diskusi je a co není slušné. Bohužel mi to připomíná situace, kdy před časem jistá skupina lidí na Novinkách "hulákala" o defenestraci a když je někdo slušně napomenul, reagovali, že jsou na ně lidé hrubí. Myslím, že ve zdravé společnosti (nebo skupině jako zde na Rootu) by měla být jistá "úroveň", tzn. pocit, že máme něco společného a jde nám o společnou věc (zkoumat techniku) a tím by měla být tak nějak definována netiquette (kdo tenhle termín ještě dnes zná?). Jenže časy se mění, diskuse obecně slouží především k propagandě a "léčbu" ega pošuků. Naštěstí je to zde na Rootu lepší, ale už to sem také leze.
Já mám asi nějaký pomáhací komplex, takže nemám problém se omluvit, když zjistím, že jsem udělal chybu (viz výše). Jestli to něčemu pomůže, např. zmiňované "úrovni" diskusí zde na Rootu, udělám to rád. Nicméně moje omluva automaticky neznamená, že souhlasím s oponenty. :-)