Vlákno názorů k článku
Vyšiel nový model DeepSeek V3.1 s vylepšenou efektivitou a dlhším kontextom od SoongVilda - 1. Vyšel nový model, který je k hovnu. 2....

1. Vyšel nový model, který je k hovnu.
2. Model je integrovaný v službě, co je nebezpečný sledovač Komunistické vlády a generator propagandy.
3. Kdo používá DeepSeek je magor.

Kdo si nechá takhle vybourat mozek primitivni konspirací o zlých opensource modelech je větší magor.

Openweight. Opensource jde, alespon teoreticky, nejak auditovat. Tady je to kopa cisel subsymbolicky reprezentujici neco...

Tak u té řady čísel, které běží lokálně v kontejneru, zase vidíte, co z nich leze, že ano.
A bojím se, že co lezlo do třeba llamy netušej ani její autoři, takže tahle část je fuk.

Neuronové sítě už tak nějak z principu nelze auditovat, teoreticky nebezpečné jsou všechny. Člověk by měl vždy k výsledkům přistupovat s nedůvěrou, což ale neznamená, že by to nešlo použít.

Přesně tak. Něco v tom smyslu jsem už psal níže. I ty západní modely dávají v lepším případě náhodně chybné odpovědi, v horším odpovědi zmanipulované tak, aby to podporovalo politické a ekonomické zájmy jeho vlastníka. Tím neříkám, že to není užitečné nebo že se to nemá vůbec používat, jen je potřeba to brát vždy s rezervou a výsledky si ověřovat.

No. Hypoteticky si dokážu představit reprodukovatelný tréning pro nějakou kritickou aplikaci, kde bude zveřejněný zdrojový dataset, parametry a seedy, a třeba sha256 přes všechny váhy u každé epochy (nebo, lépe, váhy po každé epoše, pak lze místo celého modelu verifikovat třeba random epochu, což zvláště ke konci tréningu může být užitečné)

Ale už mi jede v hlavě, že detailů na vyřešení tam není málo (distribuovaný RNG, zajistit stejné zaokrouhlování na různých hw, ....)

Jo? Tak teda děkuji zase za sprosté onalepkovani! Sledují vás a těží vaše data i Ame/Evropske služby. A v tom žijete. Čína je na druhe straně planety a nic tady nezmůže. A generátor propagandy? Jsem si za tech x měsíců nevšiml, ze by do odpovědí přidávali jen tak nechtěné informace..

22. 8. 2025, 10:08 editováno autorem komentáře

Tak skrytá propaganda je taková, kterou běžný uživatel neodhalí a může fungovat třeba jen tak, že odstraní silný negativ ohledně nějakých témat a udělat odpověď neutrální, atd... Stačí jen natrénovat data trochu "líp".

Takže tady bych byl spíš kritický a rozhodně bych toto téma nepodceňoval bez ohledu na to jestli souhlasím s tím předcházejícím komentářem nebo ne.

JJ Cina Rusko jsou rafinovane ve skryte propagande, rikaji totiz o EU a USA pravdu ;-) a to bohuzel bohate staci.

A proč tu pořád šíříš ruskou propagandu?

Pokud se tu máš tak zle, tak vyraz za svobodou na východ a už se nevracej. To je to nejlepší co lidi jako ty pro EU můžou udělat.

Jako myslíte třeba tohle? Zase ti číňani. https://trackingai.org/political-test

Taky bych chtěl mít ve všem tak úžasně černobíle a jasno jako vy. To musí být vlastně hrozně jednoduchý život, že? Jen mi tedy přijde trochu primitivní.

Tak nebudu tu vypisovat romány, kdyz je toho hodně. Tak me prosím poučte. Mě primitiva, který vidí (dle vás, z jednoho příspěvku) všechno černobíle. Trochu to rozeberte.

A nebo naopak je to člověk co má nějaké zásady a ačkoliv jeho konentář zní dětinsky, tak celkem chápu co nám chtěl říct.

Já taky třeba jehovisty vykopnu hned aniž by mě zajímalo co mi chcou říct, no a takových podobných je spousta, že jo...

A ty zásady se projevují tvrzeními č. 1 a 3? Pak ale platí to, co jsem napsal.

Tak jen proto, že se vyjadřuje neslušně přece neznamená, že nemá pointu, ne?

Mi se ten komentář taky nelíbí, jak je napsaný, na druhou stranu já čínské modely taky nechci používat.

Jako vždy je potřeba rozlišovat:
a) používání cizí služby (ať už AI nebo cokoli jiného, to je jedno)
b) použití AI modelu na vlastním HW s vlastním softwarem

To první je problém vždy a poskytovatel ti může krást tvoje data nebo s nimi manipulovat.

To druhé jsi schopný provozovat na vlastní izolované síti, takže krádež dat nehrozí. Zmanipulovaný ten model být může, např. mohl být natrénovaný tak, aby dával na určité otázky zavádějící odpovědi… ale protože AI je obecně dost chybová, tak testovat to musíš tak jako tak a ověřovat výsledky.

Pokud ta AI bude odpovědi jenom trochu zkreslovat, tak to při ověřování jednotlivých výsledků nepoznáš. Jako u tvrzení lidí.

Jde o nějaký průměr z většího vzorku otázek/úkolů. Tímhle způsobem jsi schopný porovnat dva modely a pokud pro daný druh úlohy bude dávat lepší odpovědi čínský nebo ruský model nebo třeba izraelský či íránský, je důvod je nepoužít? (za jinak stejných okolností – licence atd.)

Je tu riziko, že by v testu model obstál dobře, ale v praxi by se pak choval nějak zákeřně a dával výrazně zavádějící odpovědi, ale to už by byl hodně sofistikovaný útok (nebo špatný test).

U těch amerických modelů zase můžeme mít podezření že odpovědi manipulují tak, aby to podporovalo americkou ekonomiku a politiku, nebo eurounijní modely bychom zase mohli podezřívat, že jsou zmanipulované tak, aby podporovali eurofederalismus a socialismus. Plně důvěřovat můžeme jen vlastnímu modelu natrénovanému na námi vybraných datech nebo na zcela otevřeném modelu, kde je vše veřejné a transparentní.

Když někdo tohle porovnání udělal a zjistil, že DeepSeek je cinknutý, mnoho lidí řekne, že jim to nevadí a že se ho nebudou ptát na to, co se stalo na náměstí Nebeského klidu. Asi jsou přesvědčeni, že byl ten model natrénován podle západních standardů a pak mu jenom lobotomií odstranili některé informace.

Podpora nějaké ekonomiky nebo politiky by byly jen drobnosti. Mne by mnohem víc trápila podpora jiného hodnotového systému. Třeba takového, kde jsou lidská práva otravná formalita, kterou musíme na oko předstírat, ale jinak ji vůbec nebereme vážně.

Myslím, že nám úplně stačí relativizace hodnot tlačená z Ruska, nepotřebujeme to křížit ještě s Čínou.