Názory k článku
Vyšiel nový model DeepSeek V3.1 s vylepšenou efektivitou a dlhším kontextom
-
Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) vydal dne 10. 7. 2025 VAROVÁNÍ před hrozbou v oblasti kybernetické bezpečnosti spočívající ve využívání produktů, aplikací, řešení, webových stránek a webových služeb, včetně aplikačního programového rozhraní (tzv. API), poskytovaných společností DeepSeek nebo jakoukoli její předchůdkyní, nástupnickou, mateřskou, dceřinou či přidruženou společností (společně dále jen „dotčené produkty“) na zařízeních přistupujících k informačním a komunikačním systémům kritické informační infrastruktury, informačním systémům základní služby a významným informačním systémům. Varování je pro povinné osoby dle zákona o kybernetické bezpečnosti účinné od okamžiku vyvěšení na úřední desce NÚKIB.
https://nukib.gov.cz/cs/infoservis/aktuality/2279-nukib-vydal-varovani-pred-nekterymi-produkty-spolecnosti-deepseek/ -
Jan HrachStříbrný podporovatelExistují západní společnosti, které modely DeepSeeku (a další čínské, třeba Qwen) hostují - můžete je najít třeba na OpenRouteru. A s dostatečným železem (silným, ale ne úplně nedostupným) si můžete hostovat i sami.
A to je v tom varování hned o pár odstavců dále - že na takové vlastní hostování jejich open-source modelů se to nevztahuje.
-
Ondra Satai NekolaZlatý podporovatelOpenweight. Opensource jde, alespon teoreticky, nejak auditovat. Tady je to kopa cisel subsymbolicky reprezentujici neco...
-
Přesně tak. Něco v tom smyslu jsem už psal níže. I ty západní modely dávají v lepším případě náhodně chybné odpovědi, v horším odpovědi zmanipulované tak, aby to podporovalo politické a ekonomické zájmy jeho vlastníka. Tím neříkám, že to není užitečné nebo že se to nemá vůbec používat, jen je potřeba to brát vždy s rezervou a výsledky si ověřovat.
-
No. Hypoteticky si dokážu představit reprodukovatelný tréning pro nějakou kritickou aplikaci, kde bude zveřejněný zdrojový dataset, parametry a seedy, a třeba sha256 přes všechny váhy u každé epochy (nebo, lépe, váhy po každé epoše, pak lze místo celého modelu verifikovat třeba random epochu, což zvláště ke konci tréningu může být užitečné)
Ale už mi jede v hlavě, že detailů na vyřešení tam není málo (distribuovaný RNG, zajistit stejné zaokrouhlování na různých hw, ....)
-
Jo? Tak teda děkuji zase za sprosté onalepkovani! Sledují vás a těží vaše data i Ame/Evropske služby. A v tom žijete. Čína je na druhe straně planety a nic tady nezmůže. A generátor propagandy? Jsem si za tech x měsíců nevšiml, ze by do odpovědí přidávali jen tak nechtěné informace..
22. 8. 2025, 10:08 editováno autorem komentáře
-
Tak skrytá propaganda je taková, kterou běžný uživatel neodhalí a může fungovat třeba jen tak, že odstraní silný negativ ohledně nějakých témat a udělat odpověď neutrální, atd... Stačí jen natrénovat data trochu "líp".
Takže tady bych byl spíš kritický a rozhodně bych toto téma nepodceňoval bez ohledu na to jestli souhlasím s tím předcházejícím komentářem nebo ne.
-
Jan HrachStříbrný podporovatel
Mě by zajímalo, proč naprostá většina migrace probíhá směrem na západ, a že by se někdo odstěhoval na východ, to jsou úplně ojedinělé případy. Jak si to lidé, kteří tvrdí, jak je v Rusku a okolí skvěle, vysvětlují?
-
-
Fakt je, že zatímco tady dostáváme o východních, "nepřátelských" zemích informace ve formátu "Putin řekl...", "Lavrov prohlásil...", "Xi Jinping uvedl...", tak např. v ruských televizích prostě nechají ty západní politiky žvanit a pod to jen hoděj ruské titulky. Jinými slovy, o naprostou většinu ruské propagandy se postarají západní politici sami.
Stupidita a naprostá neschopnost západních elit jsou pro východní mocnosti obrovské výhody. Takže jestli něco chcete vy udělat pro EU, tak se snažte, aby v jejím čele byli lidé s trojciferným IQ, kteří mají alespoň povědomí o "pravidlech šachů" (naučit se je aspoň trochu hrát by mohl být další level). Vyhazováním názorových oponentů si snad nikdy v historii žádný státní útvar k úspěchům nepomohl. -
Jako myslíte třeba tohle? Zase ti číňani. https://trackingai.org/political-test
-
Jako vždy je potřeba rozlišovat:
a) používání cizí služby (ať už AI nebo cokoli jiného, to je jedno)
b) použití AI modelu na vlastním HW s vlastním softwaremTo první je problém vždy a poskytovatel ti může krást tvoje data nebo s nimi manipulovat.
To druhé jsi schopný provozovat na vlastní izolované síti, takže krádež dat nehrozí. Zmanipulovaný ten model být může, např. mohl být natrénovaný tak, aby dával na určité otázky zavádějící odpovědi… ale protože AI je obecně dost chybová, tak testovat to musíš tak jako tak a ověřovat výsledky.
-
Filip JirsákStříbrný podporovatelPokud ta AI bude odpovědi jenom trochu zkreslovat, tak to při ověřování jednotlivých výsledků nepoznáš. Jako u tvrzení lidí.
-
Jde o nějaký průměr z většího vzorku otázek/úkolů. Tímhle způsobem jsi schopný porovnat dva modely a pokud pro daný druh úlohy bude dávat lepší odpovědi čínský nebo ruský model nebo třeba izraelský či íránský, je důvod je nepoužít? (za jinak stejných okolností – licence atd.)
Je tu riziko, že by v testu model obstál dobře, ale v praxi by se pak choval nějak zákeřně a dával výrazně zavádějící odpovědi, ale to už by byl hodně sofistikovaný útok (nebo špatný test).
U těch amerických modelů zase můžeme mít podezření že odpovědi manipulují tak, aby to podporovalo americkou ekonomiku a politiku, nebo eurounijní modely bychom zase mohli podezřívat, že jsou zmanipulované tak, aby podporovali eurofederalismus a socialismus. Plně důvěřovat můžeme jen vlastnímu modelu natrénovanému na námi vybraných datech nebo na zcela otevřeném modelu, kde je vše veřejné a transparentní.
-
Filip JirsákStříbrný podporovatel
Když někdo tohle porovnání udělal a zjistil, že DeepSeek je cinknutý, mnoho lidí řekne, že jim to nevadí a že se ho nebudou ptát na to, co se stalo na náměstí Nebeského klidu. Asi jsou přesvědčeni, že byl ten model natrénován podle západních standardů a pak mu jenom lobotomií odstranili některé informace.
Podpora nějaké ekonomiky nebo politiky by byly jen drobnosti. Mne by mnohem víc trápila podpora jiného hodnotového systému. Třeba takového, kde jsou lidská práva otravná formalita, kterou musíme na oko předstírat, ale jinak ji vůbec nebereme vážně.
Myslím, že nám úplně stačí relativizace hodnot tlačená z Ruska, nepotřebujeme to křížit ještě s Čínou.
-
Humanoid č. 1264054 - poruchovýBronzový podporovatel
Aniž bych chtěl nějak provokovat, tak bych se na ty "západní standardy" podíval třeba u otázky "Izrael". To bude taky pěkná achilova pata, jako v Číně to náměstí, což?
Ale jsou lidi, kteří se modelů ptají spíš na to, jak veliký je BIGINT v MySQL, a tam bych řekl, že vůbec nepůjde o nějaké hodnoty či "hodnoty", a modely by měly vracet napříč to samé. -
Filip JirsákStříbrný podporovatel
Zrovna co se týče současné situace v pásmu Gazy jsou v názory v západní společnosti hodně rozpolcené. A nejde ani tak o to, že by někdo některé západní hodnoty neuznával, jako že spíš o to, že tam jdou ty hodnoty proti sobě, a to v mnoha vrstvách, ve kterých je velmi obtížné se vyznat.
Obávám se, že pokud si někdo zvykne ptát se modelu na to, jak velký je BIGINT v MySQL, nebude pak přepínat na jiný model, až se bude chtít zeptat na něco jiného. O čem ho vůbec nenapadne, že by tím mohl model nějak manipulovat.
-
Humanoid č. 1264054 - poruchovýBronzový podporovatel
Jako obecnou budoucnost LLM vidím ve specializaci. To by to mělo časem vyřešit:-)
-
no vidis a mne ten cinknuty deepseek ohladne udalosti na namesti nebeskeho pokoja odpovedal a ta odpoved bola v rovnakom duchu ako sa da najst zo zapadnych zdrojov, ziadna cinska propaganda
samotny model cinknuty rozhode nieje a to ani ten najnovsie dostupny, lebo stale tie informacie o tom, ze to tam bolo krvavo potlacene to napise a napise to aj to, ze cina tie informacie tvrdo cenzuruje len hned nato to to webove rozhranie vymaze
