Názory k článku
Midjourney ukončuje bezplatný režim kvůli zneužívání uživateli
-
Samozrejme. Ale pokud budu chtit udelat nejakou kompromitujici fotku tak pouziji nastroj ktery ten vodoznak nebude vkladat. AI generujicich fotky je xx, ruzne jurisdikce a je proste naivni si myslet ze se AI firmy domluvi a budou vkladat vodoznaky (nic nebrani poskytovat stejnou sluzbu na darkwebu a kaslat na vodoznak).
-
Je to primerene naivni jako jednoduche ochranne znaky napriklad na ceninach. Daji se falzifikovat / zakryt az po vyvinuti ne zcela trivialniho usili. Lze vytipovat/omezit mnozstvi lidi kteri maji k takovym technologiim pristup pripadne maji takove schopnosti ktere jim umoznuji falzifikat vytvorit.
Stejne je to s ucelem vodoznaku / skrytych informaci ktere dokazou prezit i nekolikanasonou konverzi.
Znemoznite tim aby to mohl falzifikovat kdejaky pepek ktery potrebuje masirovat sve ego na zpravodajskych serverech. A pak jiny mentalne zaostaly pepek tomu uveri a zpusobi zbytecne pozdvizeni hromady lidi vc bezpecnostnich slozek.5. 4. 2023, 11:14 editováno autorem komentáře
-
Takže tam zakódují že to generoval nějaký uživatel s anonymní e-mailovou adresou, případně ještě přistupující z nějaké IP adresy? Nic víc totiž o uživatelích nevědí. To vypadá jako zbytečná práce, obzvlášť s přihlédnutím k tomu, že vytáhnout údaje zpět dokážou jen oni sami (a k nim se ty zneužívané obrázky nejspíš ani nedostanou), a navíc znalí uživatelé si ty údaje stejně dokážou smazat.
-
Je to tak zbytečné, aby se toho nějaký soudruh politik chytil. Ano, chatboty běžně používají vodoznakování (funguje na základě upravené pravděpodobnosti, který z následujících tokenů vybrat a statistické analýzy téhož), ale ve chvíli, kdy si každý pouštíme privátně dotrénované gpt4all, tak je to jak už tu mnohokrát zaznělo - ztížení, ale naprosto marné.
-
Ty fotky ze zatčení Donalda jsou opravdu povedené. ;-) https://petapixel.com/2023/03/22/fake-images-of-donald-trump-being-arrested-shows-the-power-of-ai/
-
btw kolik je vaše skóre? https://www.irozhlas.cz/veda-technologie/fotografie-obrazky-umela-inteligence-aplikace-rozdil_2304050600_pik - já jsem na 13 / 21, fotky jsou malé, to je problém ;-)
-
můžeš být konkrétní? Podle čeho lze poznat, že fotka ne falešná?
Koukám na to, ELA (error level analysis) a Quantization tables neukazují, že by obrázek byl skládán z více už kompresovaných částí, šum je jednotný, nikde žádné ostré přechody nebo hrany. Ostrost je jednotná přes celý snímek, stejně tak teplota barev i barevná paleta, nikde žádné fragmenty, které jsou důsledkem skládání snímku z více zdrojů. Fotka neobsahuje žádná metadata, že byla upravena, žádné skryté pixely či vodoznaky. Koukal jsem konkrétně na tenhle snímek https://petapixel.com/assets/uploads/2023/03/FrsWiwRXwAAi6Qq.jpeg.
Samozřejmě z kontextu, ověření z jiných zdrojů může vyjít, že snímek je nepravděpodobný, ale jak to poznat technicky? Já nevím, ani po 15 minutách běžného zkoumání nedokážu říct, že to je podvrh.
-
Tak treba match na 1024x1024 rozmer.
Pokud by to bylo foceno fotakem, tak to ma treba EXIF metadata.
Dle modelu fotaku urcit zda produkovany data lze ziskat jeho konverzni matici z rawu, nebo by musel byt nejaky kanal treba zaporny.
Ale ano.. vse jde dofejkovat, jakmile se bude kontrolovat jenom technicka stranka.
A pak ze mame iniciativu od vyrobcu fotaku s digitalnimi podpisy - dokud neunikne privatni klic z fotaku aby slo podepisovat cokoliv, tak muzeme zatim docasne trvat na dodani puvodniho snimku - tohle uz vyzaduji nektere redakce. Sice vam to nepomuze identifikovat fejk.. ale to uz je dnes tak - ze se prokazuje opak (ze fejk neni), protoze majorita obsahu je cinkla.
-
rozměr se dá libovolně upravit, to nic nedokazuje, EXIF běžně u fotek na sociálních sítích není. Rozpoznávat podle signálů konkrétní foťák je dost pracná a nespolehlivá činnost.
Trident tady píše, že technická kvalita je velice špatná, podíval jsem se na ty fotky a nepřipadá mi špatná, nenašel jsem nic, podle čeho bych za pár minut poznal, že to je fake aniž bych musel zkoumat co je obsahem fotky.
Zmíněné ucho může být i chybou foťáku, rozmazáním v pohybu, musel bych vědět jak jeho ucho vypadá a porovnat z více fotek. Stejně tak mohou být špatně uniformy, pozadí fotky, ale to nejsou technické vlastnosti, ale kontextové, na ty potřebuji znalosti.
-
SinuhetStříbrný podporovatel
Po důsledném zkoumání snad. Ale potřeboval jsem u některých fotek i několik minut, abych tam nějaké chyby našel, a to jsem měl tu výhodu, že vím, že jsou to fejky.
Investovat takovou snahu do každé fotky, se kterou se potkám, tak nedělám nic jiného. A taky se dá předpokládat, že AI bude lepší a lepší, takže pokud bych vás měl brát vážně, brzy budeme všichni fanoušky Trumpa. -
Přesně. Jak říkáte obrovská a zbytečná ztráta času, kterého navíc nemáme moc nazbyt(každou sekundou se blížíme stárnutím ke smrti). Tímto se už řídím dávno, mám na to fígl "nevěřit ničemu" a o informacích z netu to platí dvojnásob. A když je nutno něčemu věřit nutno ověřovat z mnohem více zdrojů. Aspoň zde na rootu se redaktoři pod své články podepíší, oproti mediálnímu mainstreamu.
-
Budu se opakovat, ale svou karieru jsem na tomto presne zalozil. Cely zivot. Nikomu neverim a o vsem se potrebuji presvedcit. Uz jsem na tom vydelal dost penez. A dost penez ztratil kdyz jsem jednou za cas zkusil nekomu verit. Vse se tyka kariery. Rodinne vztahy jsou v tomto zcela oddelena domena.
Duveru v praci si mohou dovolit jen blazni a chudaci kteri nemohou nic ztratit.
-
Nejčtenější internetový denník, iDnes, taky podepisuje autory, případně napíše zdroj zprávy ČTK, přičemž není problém zprávu na ČTK dohledat.
Chlubíte se že si všechno ověřujete. Prosím odpověd na otázku, jak si ověříte výstupy Českého statistického úřadu - např. mortalita, nebo jak si ověříte tvrzení astronautů co byli na měsíci.
