Vlákno názorů k článku Postřehy z bezpečnosti: root zdarma, vědecký hacking a vlakové brzdy v rukou útočníků od Josef Pavlik - To, ze si chatgpt pamatuje predchozi komunikaci je...

To, ze si chatgpt pamatuje predchozi komunikaci je zrejme i z toho, ze cela historie je k dispozici a kterakoliv predchozi komunikace se da vyvolat. Nevim, jak dlouho zpatky v case ta historie je, to jsem se nedival, ale cas od casu to pouzivam, kdyz se chci vratit k nektere predchozi diskuzi.

To, ze chatgpt pouziva historii komunikace i v dalsi diskuzi je take zrejme a zadouci, protoze jinak by se s nim nedalo komunikovat. Jakakoliv dalsi otazka by musela obsahovat i informace z predchozich otazek. Nebylo by mozne mu rict nic takoveho, jako "nefunguje to, hlasi mi to error ten a ten", nacez chatgpt odpovi "ok, mozna tam mas starou verzi, tak to zkus takhle a takhle". Kdyby si nepamatoval, obsah predchoziho rozhovoru, byl by nepouzitelny.

Otazka je ted ovsem ta, co chatgpt s temito daty dale dela. Pokud je pouziva jenom pri me nasledujici diskuzi, je to v poradku. Pokud tato data pouziva i ke generovani odpovedi na otazky souseda nebo treba nejakeho pakistance na druhem konci sveta, to uz by bylo horsi.

Takze to, ze si chatgpt v diskuzich se mnou pamatuje jmeno meho psa nebo to, co jsem se ho nekdy loni ptal, to mi nevadi.

Ja bych si nelamal hlavu s tim, co o nas vi chatgpt. Ten o nas vi jenom to, co tam sami napiseme. Spis je problem v tom, co vsechno o nas vi Gugl. Ten vi nejenom to, co se ho ptame. Ten vi i kde bydlime, jake je nase telefonni cislo, kdy a jakym dopravnim prostredkem chodis do prace, kde bydli tvoje milenka, kde je tvoje manzelka zatimco si myslis, ze je v praci a je docela mozne, ze vi i na ktery kanal v televizi se divas (staci poslouchat zvuk, na to ma v kazde tvoji kapse mikrofon) a kteremu sportovnimu tymu fandis (jak moc rves po tom, co da nekdo gol, furt ten gugli mikrofon ve tvoji kapse.

Já bych si s tím lámal hlavu velice. Protože kdo zajistí, že se ta data nedostanou do nepovolaných rukou (stejně jako u gůglu, facebooku a dalších)?

Presne tak, bydlet v lese, zivit se houbami, jahodami a nejakou tou zverinou a na internet vubec nechodit, co kdyby nahodou nekdo zjistil nejakou tu informaci o cloveku… stejne jako v praveku kdyz osoba A rekla neco osobe B nikdo nikdy realne nezaruci ze osoba B neco na osobu A nevykeca… a to muzete mit dnes deset smluv s googlem a stejne…

Ach jo, pořád dokola, ignorovat kvalitativní i kvantitativní rozdíly a argumentovat, že je vše zbytečné je dneska moderní.
1. rozsah.
2. cena.
3. škálovatelnost.

Vykecání neznamená systematický sběr osobních dat, navíc je to jedna z nejdražších forem úniku os. dat. Opravdu nevidíte rozdíl mezi jedním dotazem do nějakého big data systému nad klidně celou populací, a nutnosti třeba na Pepu objet fyzicky jeho sousedy, kamarády, zaměstnání, spolužáky a cíleně se ptát? A pro Frantu to samé, jen jiné lidi?

To, že máte uloženou předchozí komunikaci ve webovém rozhraní ChatGPT, je úplně něco jiného, než že jsou nějaké informace posílány v rámci skrytého promptu v dalších požadavcích. Navíc kdyby se zpět posílala celá historie všech konverzací, tak brzo narazíte na maximální počet tokenů. A do třetice, vy s ChatGPT můžete vést spoustu nezávislých konverzací. To, o čem píšete vy, je paměť jedné konverzace. V článku se píše o tom, že si ChatGPT dělá souhrny z těchto konverzací a tyto souhrny pak využívá v dalších vašich konverzacích.

Paměť v ChatGPT je už dlouho, dokonce tam bylo UI ,kde jsem ji mohl spravovat. Dala se i vypnout.

Jestli teď si dělá navíc něco dalšího nad rámec téhle služby, nebo se bavíme pořád o tomtéž?

To první, o čem píšete, je to, že rozhraní k ChatGPT vám umožňuje mít několik nezávislých konverzací. Uživatelské rozhraní si ty oddělené konverzace pamatuje, a když v té konverzaci pokračujete, pošle UI do modelu celou historii té jedné konverzace (možná oříznutou o starou historii, která by se nevešla do kontextového okna). To je v ChatGPT odjakživa.

V článku se píše o relativně nové funkcionalitě, kdy si ChatGPT na pozadí vytváří souhrny jednotlivých konverzací (resp. z nich vypíchne podstatné body) a z toho si vytváří bázi informací, kterou používá napříč všemi konverzacemi. Tj. když se posílá do modelu konverzace, pošle se vedle té historie celé jedné konverzace také souhrn informací nasbíraných ve všech předchozích konverzacích daného uživatele.