Názory k článku
Nikon, Sony a Canon budou digitálně podepisovat fotografie kvůli AI podvrhům

Jak se zajistí, že klíče pro podepisování neuniknou?

Prakticky všechny fotky mají nějakou úpravu (už jen to nejzákladnější - ořez a úprava jasu a kontrastu), do novin a soutěží prakticky ani jinak nejdou. Z tohoto pohledu podepisování fotografií nemá žádný význam.

Ochranu ve firmware (to mě teď napadlo, nevím, co plánují) lze udělat podobně, jako je UEFI SecureBoot - přes TPM čip a podepsaný firmware. Zjednodušeně - pokud foťák nastartuje s podepsaným firmwarem, tak lze použít TPM čip pro podpis fotky. Jinak ne. Pokud klíče uniknou z výroby, tak to je samozřejmě průser.

8. 1. 2024, 15:54 editováno autorem komentáře

Samozřejmě, že to význam má. Třeba ten, že pak bude možné požadovat doložit originální fotografii, ze které ten derivát vznikl a u ní zkontrolovat, zda je podepsaná.

Ano to je v pripade nejakeho skutocneho problemu a asi to bude vyzadovat nejake rozhodnutie sudcu. Ovela lepsie by samozrejme bolo ze by sa to dalo nejako spravit na kazdu fotku kde mam podozrenie na fake.

Jasne ... asi neco jako kdyz porota v US pozaduje fotku tech hodinek ze satelitu ...

Vsichni obratem zahodi veskerou fototechniku aby meli totky podepsane ... to urcite. Zivotnost bezneho kousku v tomhle oberu je 20+let. A za 20 let, bude ten klic verejne na wiki ...

Všichni obratem? Nemyslím. Ale po prvním maléru ano. A bulvární novináři budou ti první, zrovna o to bych se fakt nebál.

Já bych se takovou věc asi pokoušel crackovat vyvinutím emulátoru CMOS čipu, a následně bych do zbytku foťáku nasypal jakoby sejmutá data, která jsem si vymyslel. Výrobce to může různě znepříjemňovat, třeba udělat monolit CMOS + ADC + zpracování + podepisování na jednom křemíku, takže se to bude těžko odpojovat a emulovat, ale to je i pro něj složité, protože nemůže prodávat různé foťáky s různou kombinací různě drahých čipů, a i technologicky to asi půjde špatně, protože technologie na CMOS senzor bude odlišná od technologie na programovatelnou DSP logiku.

Zatim jsem podepisovani dat u snimace nevidel.. ale je tam uz CRC32 a nejaky FEC. Sensor+ADC je v jednom pouzdru uz nejakou tu dekadu.. jenom velice malo APS/CMOS snimacu melo analogovy vystupy (tedy Canon to recykloval nejdele).

Tak mozna jednou tam pribude i nejaky HMAC.

Já to pochopil tak, že při úpravě (zatím Adobe Photoshop) se původní podpis rozšíří a bude tam: fotka pořízena tím a tím třeba 1. ledna a potom editována 2. února tím a tím. Úplně nevím, co z té editace se zaznamená, ale na https://contentcredentials.org mají příklad sloučení dvou podepsaných fotek do jedné, která v podpisu bude mít i ty dva podpisy původních fotek.

coz je podivne, kdyz se podepisuje soubor, tak se podepisuje ten jeden konkretni soubor s danym kontrolnim souctem.

kdyz se se souborem cokoliv udela uz ma jiny kontrolni soucet a puvodni podpis je pro nej irelevantni, takze lze podepsat novy soubor, ale spojovat nejak podpisy ruznych souboru je blbost.
ledaze by vygenerovany soubor odkazoval na originalni podepsane soubory, takze by slo zreplikovat vznik modifikovaneho souboru.

Není to blbost, bude se to nějak řetězit. Soubor 1, součet 205 - podepsáno. Dám do editoru, ten ověří podpis, vezme jeho obsah (datumy, souřadnice, ..) a doplní tam nějaké info k té editaci a tím podepíše editovaný Soubor 2, který bude mít součet 308, tedy jiný, než původní. Ale v novém podpisu jsou informace o původním podpisu.

Stoprocentni jistota neni nikdy, ale pokud to udelaji ulozenim klicu v HW cipu a udelaji to dobre, tak bude klice velmi obtizne ziskat. Bude jednodussi vypreparovat cip, aby si fotografie lidi podepisovali pomoci nej sami.

Samozrejme taky nesmi pouzit zadne proprietarni hovadiny, jako to udelal intel s HDCP.

8. 1. 2024, 16:53 editováno autorem komentáře

Těžko, pokud tohle začnou podporovat i kdejaké čínské výrobky (mobily, foťáky, kamerky,...), tak tomu dávám malou šanci.

kdyz si nechaji uniknout klice, tak hned lidi budou vedet, ze jsou neduveryhodni.

Když bude chtít novinář fotit nějakým Ťang Ťongem a někdo pak po něm půjde, bude to jeho problém, že mu to soud neuvěří. Takže lze předpokládat, že to chtít dělat nebude.

To uz maji davni, dokonce tam pisi SN fotaku, info co si tam dam atd. - ano fakt to tam je a fakt to neni v exif, ale v konrolim souctu fotky taky ne, je to porad v metadatech a zmenil jsme to v ASCII editoru - a tak jsme zmenil autor i SN - a nikdo nic nepoznal.

Zadny SW prozatim neumi zmenit RAW, presneji umi udelat treba DNG atd. - ale to neznamena, ze to snadno nejde - jasne umuzu fotku upravit a znova ji prevest do RAW, dplnit tam kalibraci barev atd. nebot RAW je cernobily, je to 2x2 body, kde ye bayersova maska 2x zelena a cervena a modra - X-trans je modifikovany jinak --- a ano v tom RAWu je i ta mrizka ;-)) mezi pixely, fakt ale on to zmensi tim, ze ji zcvakne, ale barvy interpoluje - takze fotka z toho ac by byla retusovana by se zase musela vyvolat a musel by se paplikovat barevny profil, krivka fotaku i bar. teplota ... ale na faslovani RAWu bu to slo a de fakto to neni problem, konec koncu vse bezi na nejakem SW, Canon dokonce na Free DOSu, ;-) a umel nabootvat z SD/FC karty samotny FW fotaku - proto se tak dobre ladil magicLatern, rusky FW pro canonony na nataceni videa, zadny FW se neflasoval, proste se ten FW alias DOS nabootval z karty.

Jine fotaky dnes pouzivaji linux, mozna VXworks.

Co se uprav tyce, slo by udelat otisk snimku, kde by se ignorovaly barvy, zmeny lokanich kontrastu a masky s upravami, ale resily by se jen hrany atd. a bylo by poznat, zda fotka prosla restusi ala liquify nebo dodanim, obranim, klonovanim, mazanim prodavanim .... to by asi slo ...

Jenze vite jak, ten fotak to umi podesat, takze to nekdo udeal stejne a podepise upravnou fotku ... dnes se obecne posila RAW, kdo vlastni RAW je vlastnik fotky, ale jak jsme rekl, ja treba umim zmenit vlastnika RAWu --- pak existuje jen jedna moznost, dones svuj fotak ;-) a urcite tam bude nejaky inerni pixel maping vadenho pixelu a ten ma kazdy jiny, vy to nepoznate, SW ala DCRAW ci jina lowend knihovna ano, nebo servisni SW pozna, ktere pixely byly dopocitany z okolnich, nebot jsou vadne - na fotce samotne to pak poznat neni.

To vse za predpokladu, ze nedokazu znova vytvorit RAW - pak bych totiz mohl vyrobit RAW i s temi poxel mapingy - zde ale tim, ze na to neni znamy zadny verejne dostupny SW se ma za to, ze to bezny uzivatel nedela, ale vyrobce fotaky ten FW ladi na PC a vse simuluje v PC, takze umi vyrobit generovany RAW .... tam je jedna vec, vy fotku ladite na 8bit, nebo 10 bit, RAW je u nikonu 14bit (trochu mene) a SF ma 16bit - logicky original RAW ma info v celkem rozashu, i kdyz prepal, nebo podexpozici, ale nejake info tam je, i kdyz trochu boredel - pokud bezne prevedete fotku, tak to asi poznate, leda by jste byli schiopni to nasimulovat, coz asi pujde -- ale chip je analogovy, vlastne meri jen voltaz na senzoru, pres ktery je dan barevny filtr + vady skla, ktere jsou tak trochu unikatni, + spinavy snimac atd. - asi by se dlouhou anlyzou s fotakem dalo nejak dokazat manipilaci, ale i tak ne na 100% - nebot stejnou scenu fotit asi nebudete.

Suma sumarum kdyz podepisi cely RAW vcetne metadat tak asi OK, ale vy stejne vidte jpeg/png nerku li tisk a tam nepoznate nic - dnes jde tak dobre retusovat, ze vam zustava i struktura ... jasne kdyz to nekdo rozmlatla, pak sladi barvu toho rozmatlani ala blur a pak tam prida sum, tak poznate, ze fotka je retusovana, sice nevite co, ale vite, ze s tim nekdo neco delal - vzdyt je to zaklad reklamy, delat vse na greenscrenu a dodelat okoli ve 3D - a co poznate ? film taky nepoznate, tam behaji lidi s trakovacimi body na obleceni a SW pak vyrobi celou novou postavu, jiny oblicej, ta postava ma na hlave kuklu a za tim bylo zelene nebo modre klizovaci pozadi ... ale vy je vidite v Benatkach - vse je dnes iluze a to tak dokonola, ze to vetsina lidi ani nepozna a ani netusi, ze netusi.

Takže podruhé: ano, konečný příjemce to nepozná. Ale když se nějakým falšováním poškozený obrátí na soud, ten bude moci požadovat předložení původních podepsaných fotografií.

Vzhladom na to, ze sudy obvykle trvaju roky, a zacinaju po mesiacoch az rokoch, by musela najprv existovat obecna povinnost archivovat vsetky nafotene fotky. A nie, nie je mozne absenciu originalu pripisovat k tiazi obvineneho bez tejto povinnosti. Cize cele je to len take placnutie do vody, realny prinos bude v tejto sfere nulovy. Mozno si to najde vyuzitie inde, ktovie, ale na mna to posobi ako absolutne zbytocna blbost.

Ony se falsovaly uz i negativy, vezmes master negativ, ten prekopirujes na film, nekdy jej zvetsi na velkou folii, tam to vystriha, da vrstvy, klidne i retusuje v lazni ... udela dalsi negativ, treba i velky a pak jej zmensi presne na policko kinofilmu ... a mame zde analogovy negativ, jako originalnii, lec zcela zmeneny.

Na digitalu se taky pracovalo uz leta, lec nikdy nikdo nic nevymyslel, slo dokonce o fotky bez retuse ... existuje umelecke odvetvi fotky, kde se fotilo hlavne na film, vetsinou FS nebo velko format - vyvolavat jsi mohl, udelat jinak exponovane policko taky --- ale galerii ti pak nedovolila fotky vyvolat doma, ale u nich, bylo jim jedno, ze to treba neni master negativ, ale uz kopie, ale brali to jako serii, jen tak dokazali garantovat, ze touhle metodou jsi udelal treba jen 20 fotrk 1/20-20/20 a hezky jsi tam nechal i to policko negativu ....

Tim padem kdybys ty fotky udelal znova, musel bys je udelat z master negativu, nebo jine kopie a uz by to byla jina serie, zalezelo na smlouve, nekde pozadovali i master negativ a exkluzivitu, jasne muzes to porusit, ale pak skoncis ve vsech galeriich - presto se galerie chranila tim, ze vyvolat u nich a nechat policko ... maji tak 100% jistotu , ze neexistuje vice kopii dane serie - jasne i tak sis mohl jinou serii predtim udelat doma

No a proto se snazili udelat nejaky podpis, nejdrive RAWu, pak i jen jejich prevodnik a i vysledne fotky do tisku, snazili se zajistit, aby treba bylo videt, zda mas nebo nemas kopii toho souboru - proste snazili se udelat takovy vault, kde by bylo vse videt, treba by to dali nejaky MAC, ktery by byl auditovany a bylo by poznat poruseni auditu - aby tak meli 100% jistoru, ze tu uz tu fotku nemas, nebo ji mas oznacenou jako kopii jen na webovku, ale ze original a velke rozliseni pak bude mit jen galerie a zajisti se tak ta unikatnost ;-))- nepovodelo se lec udelat by to asi slo

Dlasi problem je tisk negativu, to se dela tak, ze se vfoti fotka digitalem, vytiskne se na folii - tam je to jeste poznat, ale pak se prosviti zpet na film .... a mame genativ ;-))

Dalsi disciplina je kontakt, ze mame velkoformat a ten jde 1:1 na papir, film se da na emulzy a prostviti se svetlem, platina jen UV svetlem - to se taky casto dela digitalne, pak vytiskne a udela se kontakt .... nekdo to prizna, nekdo ne, proc to neprizna? analogova fotka ma vetsi zberatelskou cenu.

Jde o podil manualni prace, proto ma nejvetsi cenu obraz, pokud by si Karel Gott delal rucne i pair, cena by vzrostla, pokud i barvy, zase by cena vzrostla.

Proto jisty tichy, ktery umel fotil, ale asi se pak zblaznil, ma takovou jako ze hodnotu, fotil na film, ale brousil si vlastni cocky s skladal z toho vlastni fotaky, casto fotil na WC rulicku a mel vlastni rucni previjeno filmu, mlanzetovou clonu z cerneho papirku, kde mel jen dirku, cas odhadoval vysunutim a zasunutim planzety, takze nemel ani regulerni zaverku - jiny ji mel na gumicku atd. - produkoval hodne smirackych fotek, nebot si vetsina hole myslela, ze si dela srandu, ze je foti, tak na nej jeste ledasco vystricly - a pak pruisel jeden Svycar a zacal jeho dila hledat, hledal negativy a dokumentoval cim to fil a melo to obrovkou cenu, pan Tichy si pak delal srandu, ze slavni budete, kdyz to budete delat tak dobre, ze to nedokaze nikdo jiny, nebo jako on tak spatne, ze tak spatne to uz nikdo udelat ani nemuze - tedy byl unikatni - on sam si to nemyslel - predtim ucil, ale komunisti mu zakazali fotit akty a pak jej vyhodili z VS, kde ucil, takze se zivil rukama v neake podradne praci a fotil na rucne dela fotaky, nebot jeho draha technika byla majtekm skoly a on na novou nemel - byl rad, ze mal na filmy a vyvojky a ustalovace si sudlal doma, casto dostal jako ze proste, nebo vicekrate pouzite ze skoly - tak je obohatil a pouzival znova a za cenu zhorsene kvality.

Svetu umeni jde o originalnost a o garanci pravosti a autenticnosti .... na kvalite jim nezalezi, kupci umeni jsou pitomci a koupi cokoliv, co jim nejaky kurator okeca, hlavni je, aby to uznavalo vice aukcnich sini a galerii a pak prodaji za miliony i rozplacne lejno na papire - co jeste bude porad smrdet.

Dalsi zkratka je, ze chteji vedet, kdo fotku fotil, coz asi nepujde, nebot se spise bavime o tom, komu patri fotak - aby proste nejaka celebrita koupila fota, ten si nekde zaregistrovala, dostala unikatni klic, idelne aby to fotilo do Jpeg ala Fujifilm, ze se na to plikuje krivka, simulace firmu a dalsich X hejblatek - fakt to umi udelat uz vyladenou fotku - a ta by se pk v jpeg nebo 10bit HEIF primo exportovala bez uprav.

Ale zaroven by bylo jasne, ze je to z fotaku one celebrity - pak by totiz takovy HEIF/JPEG mel neskutecnou zberatelskou cenu ... pak by slo podvadet jen tak, ze by nejaky fotoograf makal pro danou osobu a fotil a nastavoval to na jejim fotaku on - ta GPS je tam tez kvuli synchronizaci casu - aby byl garantovany i cas.

Podobnou krabicku, ne s GPS, ale kalibrovanou, uzmacenou pouzivala police CR, daval do fotky na film datum a cas + nejaky znak ze to bylo foceno jen timhle fotakm a teohl mela jen police - takze bylo jasne, ze fotky nafotila police --- nebot CZ zakony to vyzaduji - btw. soud by teoreticky nemel uznat policii fotku z mobilu, pak meli takovou ypravu FW i na digitaly, proto tak dlouho fotili nejakym jiz zastralym fotakem,nebot ta uprava stala majland a na nove tela to treba ani nebylo, nebot to nikdo neobjednal.

Taketo podpisovane fotky mal aj Nikon niekedy pred 10+ rokmi, ak sa dobre pamatam. Bolo to prave pre policiu a podobne.

A co se bude brát jako důvěryhodný foťák? Jen Nikon, Sony a Canon? Dnes vyrábí foťáky kdejaký číňan, jak někdo pozná, že fotku podepsala skutečná kamera?

Co? To, co za důvěryhodné uzná soud. Ano, vyplývá z toho, že nejspíš novináři dál nebudou fotit na Ťang Ťongy, budou teď mít o důvod navíc a taky to, že redakce nebudou přebírat kdejaké "foto od čtenáře". A o to přesně jde.

Novinari a vsichni ostatni budou dal fotit na cokoli co maji zrovna poruce, obrazky budou dal upravovat jak se jim bude libit a nejaky podepisovani je naprosto nebude zajimat.

Jo. Do prvního přiznaného odškodnění za milion dolarů.

Milion dolaru nejsou az tak velke penize. Za to poridite lepsi barak v Praze. Taky je to jen o malo vic nez cena baraku na konecne metra D (prazska vesnice, neco jako modrany) kterou si koupili developeri.

To je nesmysl.
Pokud něco vyfotíte, klidně i analogově nebo starým foťákem bez podpisů, a bude to dost zajímavé/kvalitní, tak to noviny klidně koupí a zveřejní.
Tohle může reálně hrát roli maximálně u nějaké účasti v soutěžích, pokud si to dají do podmínek.
Ale pravděpodobně nikdo nenařídí zaplatit milionové odškodnění jen proto, že autor nemá pořádně jak prokázat, že jde o autentickou fotku.

Jako ano, lepší než nic, ale v reálném světě to nikdo používat nemůže. Je to takové PR vyjádření jak rozsekli gordický uzel a přitom je to lež.

Škoda, že jste se neobtěžoval napsat proč. Samozřejmě, že to smysl má. Jakmile to dojde k soudu, dokonce zásadní smysl.

Tak předpokládám, že víte jak funguje hash a časově razítko, což znamená, že po úpravě jednoho pixelu vám to už sedět nebude a podpis je k ničemu.
To by ty soubory museli obsahovat metadata o všech úpravách obrázku a následně podepisovat. Což by zřejmě značně zvyšovalo velikost. Stačí se nad tím trochu zamyslet...

Ale o tom tady již dva dny hovoříme, Mlho...

Cílem není mít přímo u každého finálního JPEGu na webu podpis, který si kdokoli ověří. Cílem je, aby když vzniknou pochybnosti o původu fotky, mohl autor ukázat původní raw, jak vylezl z foťáku, a věrohodně doložit, že takhle opravdu z foťáku vylezl. Samozřejmě pak také bude vidět, do jaké míry ten finální obrázek odpovídá původní fotce (s rozmachem nástrojů typu "generative fill" nebo "AI remove" to může být docela málo), což je ale pro use case, kam tahle featura podle mne míří především (reportážní fotografie nebo použití pro důkazní účely) jedině dobře.

Ano a proto si nemůžu pomoct a dále si stojím za svým prvním vyjádřením. Neříkám, že je to špatně, jen že je to k ničemu, protože v reálném světě to v podstatě nejde použít.

V tomto kontextu připomínka: https://www.root.cz/clanky/koalice-proti-falsovani-fotografii-slavi-uspech-podporu-nasazuje-nikon-a-leica/

Uz se tesim az se me Dali zepta jakym vyrobcem HW fotaku mi to ma Chatgpt podepsat :D

Pak si vsichni ty drahe fotaky navysene jen o "bezpecnost" budou moct strcit do .... kabelky.

A kde vezme podpisový klíč?

Tyden po uvedeni prvniho pristroje bude na webu.

Pokud bude vyvoj toho cipu v cesku bez nadsazky bych tomu veril.

DVD bylo naprosto bezpecne ... BR bylo naprosto bezpecne ... mam pokracovat? ... Co je na tomhle tak specielne jineho?

Uvidíme. Ale spíš neuvidíme :-)

9. 1. 2024, 15:38 editováno autorem komentáře

Podle toho co je uvedeno ve specifikaci nebudou přístroje podepisovat jedním pevně daným klíčem.

https://c2pa.org/specifications/specifications/1.4/specs/C2PA_Specification.html#_identity_of_signers

Přijde mi, že to má fungovat podobně jako klientské a serverové certifikáty co běžně používáme. Důvěryhodná autorita vám vydá identitu, tu si nahrajete do fotoaparátu (důvěryhodné zařízení) který bude obrázky podepisovat - tedy pravděpodobně systém s nějakou obdobou SecureBoot či TPM chlívku. Podpis bude pravděpodobně obohacen o podepsanou identitu zařízení, nebo identita zařízení může být součásti vydávaného individuálního certifikátu (tak dalece jsem specifikaci nečetl). Není ani problém aby každé zařízení mělo vlastní klíč, podobně jako Google řeší na androidu přehrávání obsahu chráněného pomocí Widevine.

Mozno tak z 1 stroja. Vyrobca nebude hadam pouzivat 1 globalny kluc, taky blby nie je (ibaze by to bolo cele nedomyslene)

A pak někdo prostě vyfotí AI obrázek foťákem a bude podepsáno :-)

To fungovat může dokud k té podepsané fotografii nepřipojíte třeba polohu a timestamp z GPS. Ne, že by to nešlo obejít i tak, ale to už začíná být dost netriviální. Jakkoliv si nějaký mobilní optický nástavec na focení displejů smartphonů představit umím, případně méně pravděpodobně nějaký sofistikovaně opatchovaný GPS modul fotoaparátu.

Na druhou stranu, k tomu budete potřebovat taky displej se zatraceně vysokým rozlišením. 100 Mpx fotografie, kde ovšem reálné rozlišení bude displej dražšího telefonu bude u soudu působit poněkud podezřele.

GPS u fotaku kazdeho jen otravuje. Mam jeden takovy kompakt a 1/3 fotek je vetsinou zcela bez souradnic.
1. nefunguje ve vode
2. nefunguje pod zemi a v prostorech bez vyhledu
3. spotrebni gps jsou umele omezovane ve vysoke vysce. Nektere lokace maji rusicky.
4. v miste se spatnym signalem nebo po delsi trase trva jeji zamereni i nekolik minut. Mezitim nasekate x snimku.
5. nemusite chtit gps pouzit z duvodu soukromi pripadne omezeni firmy pro kterou pracujete
6. hlavne ale i u novych cipu porad SILENE ZERE. Chapu ze mestak ktery nevystrci paty z civilizace tohle nevnima. Ja ala tahat treti ci ctvrtou baterku kvuli vynucene gps nehodlam. U mobilu o to hur ze nemaji baterky vymenne a dobiti z powerbank chvilku trva.

9. 1. 2024, 15:01 editováno autorem komentáře

spotrebni gps jsou umele omezovane ve vysoke vysce

Co je to "vysoká výška"? Párkrát jsem zkoušel TomTom přiložit na okénko letadla a pokaždé bez problémů fungoval.

... lul ... vyfotim poljaka, vytisknu, vylezu na pyramidu, vyfotim poljaka na pyramide, podam na nej zalobu ze parchant leze po pyramidach. GPS bude naprosto nepodvrzene sedet. ... a klidne si i pockam na spravny uhel slunka, aby sedelo osvetleni.

I amater tohle zvladne tak, ze to bude horkotezko poznat. A rozhodne mnohem lip, nez co vypadne z libovolne aktuelni "AI".