Názory k článku
ChatGPT vyzradí text, na kterém byl trénován

Jak je to vůbec s ochranou osobních údajů u ChatGPT a podobných? Očividně si s anonymizací trénovacích dat nikdo hlavu neláme, takže ten systém má k osobním údajům přístup a je zjevně i schopen je na dotaz poskytnout.

tikající bomba. Odpovědný je provozovatel. Problémem je i použití předtrénovaných modelů, jak z pohledu licence na zdrojové texty (musím mít), tak právě i z pohledu nakládání s osobními daty, které byly součástí trénovaných textů a které mohou být součástí výstupů.

Velký problém je exaktnost, nelze snadno říct, že daný model/AI služba je ok nebo není, protože se může najít podobný exploit, který zpřístupní něco, o čem ani provozovatel nevěděl, že tam je.

Řekl bych, že pro nás techniky to je maximálně kuriozitka případně věc k zanadávání si, ale spousta právníků právě teď v bojové pohotovosti čeká na rozkaz...

Jen se bojím, že to dopadne stejně jako v případě jiných průšvihů s osobními daty - po vzoru kde není žalobce nené soudce dostane veřejnost přístup do ještě ořezanějších modelů, zatímco si velké firmy s vidinou naprosté beztrestnosti budou vesele shromažďovat data dále, a prodávat drahé produkty, které už nelze použít proti nim.

Podobnost s businessem kolem scoringu čistě náhodná.

Skor, kde na to nieje regulacia/zakon, tam nieje zalobca.
V ramci EU sa tuto problematiku snazi resit DSA ale tu sa DSA spomina len v spojitosti s uloz.to, co je z pohladu DSA nezaujimava vec.