Místopředsedkyně Evropské komise pro hodnoty a transparentnost Věra Jourová dnes řekla, že by obsah generovaný umělou inteligencí měl být označený. Je to kvůli obavám ze zneužití AI k vytváření dezinformací.
Zatím mají velké technologické firmy jako Google, Facebook a Twitter samy rozpoznat a dobrovolně označovat AI obsah. Jourová také řekla, že Evropská komise má bojovat za svobodu projevu, ale stroje takové právo nemají.
(zdroj: slashdot)
Velmi xenofobní přístup, řekl bych - protože AI je prostě cizí, zejména eurokomisařům.
V praxi brzy bude prakticky veškerý obsah vytvořený s větším či menším přispěním AI - a kde bude ta hranice, kdy má být označený? A naopak: vyloženě fejkové zprávy může vygenerovat AI stejně dobře, jako něčí chorý mozek.
To, že něco vzniklo za přispění AI není vůbec vypovídající o obsahu! Je to stejně hloupé, jako automaticky předpokládat, že je dobrý nápad vše, co se vylíhne v Evropské komisi. Před obojím je třeba se mít na pozoru. Jen ta EK už své nápady pyšně označuje...
Tož se omlouvám, ale tohle probudilo emoce i ve mě.
Ony totiž emoce (strach) jsou zjevně už u zrodu toho nápadu. Můžeme jen doufat, že to věcné zhodnocení zase tiše pohřbí.
Ale můj vrozený a časem upevněný pesimismus mi napovídá, že k tomu přibyde spousta pravidel, spousta papírování, a nakonec to bude nepříjemná povinnost, kterou ještě rádi hodíme na hrb nějaké AI.
Nikoliv. Pletete si svobodu a svévoli.
Svobodný člověk zná hranice a ví, kam zajít nesmí, tedy umí se kontrolovat, je svobodný i vůči sám sobě a svým chtíčům. Asi nejlépe to vystihují biblické verše z 1. Korintským 10,23-24: Všechno je (mi) dovoleno, ale ne všechno prospívá. Všechno je (mi) dovoleno, ale ne všechno buduje.
Svévolný člověk naproti tomu dělá naprosto cokoliv se mu zachce bez jakýchkoliv ohledů. Proto není svobodný, protože se nechává strhávat nezdravými emocemi a vlastními chtíči, nedokáže se osvobodit od svých negativních zájmů, které škodí druhým a v důsledku tím pádem i jemu samotnému.
"Znamená. Jenomže tak, jako nemůže existovat absolutní svoboda potud, pokud člověk žije mezi ostatními lidmi, nemůže existovat ani absolutní svoboda slova."
neznamená.
Svoboda slova je filozofický koncept který byl vyvinut a prijat mezi základní hodnoty za určitým účelem, a věci které neslouží tomu to účelu logicky nejsou Svobodu slova pokryty.
a na co jsou postihy ? Nemáš v rodině nějakého eurokomisaře ? Promiň, nedalo mi to si rýpnout.
Určitě by bylo vhodné/správné nějak označovat co a v jakém rozsahu bylo generované pomocí AI, aby člověk dokázal odhadnout míru spolehlivosti. Stejně si myslím, že bude skupina lidí která bude vždy a priori proti výsledkům vytvořených AI a stejně tak bude skupina bezhraničně důvěřivých.
Na druhé straně ani dnes nedokážeme vyhodnotit nakolik jsou informace od neznámého zdroje spolehlivé bez jejich nezávislého ověření. A s AI to bude podobné.
Víc mi dělá starosti kdo a k čemu AI může použít.
5. 6. 2023, 22:20 editováno autorem komentáře
Tohle není problém bolševismu. To je obecný problém nevzdělanosti.
Chtít označovat AI vygenerovaná data je ukázkou elementární počítačové negramotnosti. Bohužel to podporují i IT firmy -- například Google, který chce označovat AI obrázky podle metadat a nikdo se nepozastavuje nad tím, že upravit/zfalšovat metadata lze i automatizovaně za zlomek sekundy.
Pro mě je to varovný signál především proto, že je vidět, že naši političtí představitelé zcela rezignovali na snahu národ vzdělávat. To už pak asi opravdu zavání bolševismem...
"Pokud se dnes uvádí jako zdroj např. wikipedie, neměl by být naprosto žádný problém uvést jako zdroj např. GPT4."
To je nedobré přirovnání. Wikipedii provozuje instituce, půspobí na ní lidé kteří hlídají obsah (třeba zda je patřičně odzdrojovaný), případné problematické editace promptně mažou. Ke sporným tématům otevírají diskusi.
GPT ako najcastejsie pouzivane AI ale takto vobec nefunguje. Je nakrmene nejakymi udajmi, povedzme ze su to fakty, aj ked to namusi byt pravda. Ale ono tie fakty kombinuje bez suvislosti, proste generuje text, ktory AI mysli, ze je najvhodnejsia odpoved na otazku. AI vobec neriesi , ci je nieco pravda alebo fakt. Inymi slovami, je ti schopne klamat :-)
;oD
V češtině je rozdíl mezi lhát
a klamat
.
Tedy: AI mne může oklamat, protože mi vrátí nejvhodnější odpověď na otázku
- nesprávnou, leč očekávanou odpověď. Ale v drtivé většině případů nebude lhát, protože to předpokládá úmysl (a AI neví, že odpovídá nesprávně - není-li to součást zadání).
(Což nebylo namířeno proti slovenštině ani Slovákům!)
Zrovna vámi 2 definované parametry chybí v drastické většině u článků tvz. mediálního mainstreamu( např. idnes, novinky, ihned .. kde zdroj neuvedou nebo uvedou jako : redakce či ČTK). Navíc tyto mediální projekty se "PR kampaních" prezentují jako pravdivé či nejlepší, přestože to spíš vypadá na hlásnou troubu propagandy za kterou si asi nechávají platit. Zde na rootu naštěstí tento standard novinařiny(žurnalistiky) drží.
Zaujala mě tahle věta: "Je to kvůli obavám ze zneužití AI k vytváření dezinformací."
Chápu to správně tak, že dezinformace vytvářené člověkem již žádné obavy nevzbuzují? Věta o svobodě slova mi připadá, že o tom to je. Lidé mají svá lidská práva, mezi která patří i svoboda projevu, tedy právo lhát. Čili s dezinformacemi produkovanými lidmi toho moc nenaděláme. Tak se pokusíme v tomtéž zabránit alespoň AI? Jenže to nedává smysl, AI je jen nástroj - zadání dostane od člověka a výsledek zveřejňuje opět člověk.
Jo - mně tam chyběla věta, že to pomůže zlikvidovat dětskou pornografii. ;oD
Ona je důležitá hlavně ta první část: zadání dostane od člověka
. Kdo či co to zadání plní, je méně důležité.
Byť je pravda, že natočit falešné video klasicky, s herci a speciálními efekty, je dražší a složitější, než to vhodit do AI. (U textů to bude srovnatelné, u fotek - tam ten rozdíl nebude tak drastický.)
Já to teda jako problém vidím u videa. Je méně a méně snadné rozpoznat rozdíl mezi generovaným a originálním videem. Až na vás z internetů bude bafat rapující papež nebo oblíbený politik říkající neoblíbené věty, kdo se v tom blázinci vyzná? Co se stalo a co je podvrh? Spějeme k tomu velice rychle.
Já vyloženě miluju to video, kde běhá Luke Skywalker po kosmické základně a mává tím světelným mečem!
Je stále méně snadné rozeznat rozdíl mezi skutečným záznamem a videotvorbou obecně.
Filmová studia zvládala natočit falešné dokumenty už někdy před padesáti lety (třeba ten s tím přistáním na Měsíci je pěkný. ;oD ) a AI k tomu jen přidává další nástroj.
Jenže úplně stejně by se dala AI naučit odhalovat a hodnotit úpravy videozáznamu, takže by naopak bylo snazší podvrhy identifikovat.
“Já se na to docela těším! Až tady bude plný internet fejkových videí s veřejnýma osobnostma kecajícíma kraviny, možná se lidé začnou více zajímat o zdroje informací a začnou být více kritičtí a začnou nad věcma přemýšlet. Možná.”
Jakoze kdyz prestane byt plny internet realnych videii s verejnyma osobama kecajicima kraviny a lidi nejsou kriticti a nad vecni nepremysli…Takze fejkova videa je donuti? :-D
Dobrý den, moc bych chtěla poprosit všechny podvodníky a dezinformátory, aby u svých podvodů vždy viditelně uvedli, že se jedná o podvod.
Také by bylo velice fér, aby každý vrah vždy na místě činu ponechal vizitku s aktualizovaným místem pobytu.
V neposlední řadě je nejvyšší čas uzákonit, aby se všechny úplatky vždy předávaly bezhotovostně a s poznámkou "úplatek od N.N. pro N.N. za zajištění zakázky xxx".
Nebo si to představuje nějak jinak?
Zadna umělá INTELIGENCE aktuálně neexistuje a neni ani v dohledne dobe realna. Hodte si do Google jmeno Mikolov a poslechnete si nejaky ten podcast s nim. Specializovane modely v ramci neuronovych siti nejsou inteligence a nema to nic spolecneho s "neurony" ve smyslu mozku. Je to jen jeden velky buzzword na kterem zase vytece spousta penez.
