Odkud se prosím vzalo to číslo 32000$ (měsíčně či ročně), a pokud to opravdu není překlep, jak vůbec dokáže jeden vývojář propálit tolik tokenů?
Mě na tom nezaráží ani tak ta částka, ale nedovedu si představit ten proces kolem toho. Realisticky: pokud provalíš miliardy tokenů týdně, jak děláš code review a podobné věci?
Tedy tuším: v lepším případě dáš pár miliard tokenů za kód, a dalších pár miliard za code review + testy. V horším případě dáš pár miliard tokenů za kód, a tím to hasne. Realisticky sám vím, že na větším projektu to po pár dnech "práce" vlastně radši ani nechceš kontrolovat, protože stejně víš že to nedáš. Skončí to tím, že prostě otestuješ jestli to dělá co to dělá, a jestli v tom není vyloženě díra.
Úplně v pohodě ?? 48 000 USD = 1 019 055 Kč.
Za 1 019 055 Kč si mohu kdykoliv koupit 4 grafické NVIDIA RTX PRO 5000 72GB Blackwell, které vložím je do nějaké pracovní stanice s procesorem AMD Threadripper 7960X nebo AMD Threadripper 9960X (24 jader) v ceně 180 000 Kč...a získám fantastickou AI stanici s 288 GB VRAM !!
Taková AI bestie s 288 GB VRAM jistě utáhne 40 vývojářů v jednom okamžiku...a když do ní nahraju špičkový LOKÁLNÍ LLM model tak mám na 2,5 roku vystaráno.
Vy zaplatíme 40 760 000 Kč každý 1 rok za AI (40 vývojářů)...a já zaplatím 1 200 000 Kč jednorázově... :-))
A pokud nevěříte nejlepším Lokálním LLM, tak si, pro Váš klid, můžete připlatit 4000 USD/měsíc za uzavřený Anthropic, ALE jen JEDNOU pro úplně všechny vývojáře... :-))
Elektřina co ?
Karta NVIDIA RTX PRO 5000 72GB Blackwell má maximální spotřebu 300 W, procesor AMD Threadripper 7960X / 9960X má maximální spotřebu 350 W.
Pokud si však na mojí pracovní stanici s AMD Threadripper 7960X jenom prohlížím server ROOT.cz (internet) nebo se dívám na běžný film ve Full HD (procesor fakticky spí), tak spotřeba úplně celé stanice je v intervalu 210 až 250 W.
Proto při maximální AI zátěži očekávám spotřebu kolem 1 500 W (grafiky 4 x 300 W + procesor AMD Threadripper 250 W + základní deska, SSD, atd.).
1 500 W položí Dukovany ? Stačí když současně zapnu můj starý i nový vysavač a budu také spotřebu 1 500 W. A kde zůstala velká lednička ?
30. 6. 2026, 10:14 editováno autorem komentáře
tohle ti 40 vývojářů (ne těch, o kterých je tady to vlákno) neutáhne. Tahle GPU ti dát tak 12 tokenů za vteřinu u 70B modelu, to máš 48 tokenů na celý server, tohle opravdu stačí pro 40 vývojářů? Ikdyby jsi použil nějaký malý model a byl schopný dostat 100 tokenů za vteřinu z jedné grafiky, pořád budeš mít problém uživit těch 40 vývojářů.
Mluvíš o "nejlepších lokálních LLM", o kterých mluvíš?
Pokud jde o bezpečnost, tak i lokálním LLM může být problém, oni totiž v snaze ti splňit úkol jakákoliv data poslat jakékoliv službě v internetu. O prompt injection ani nemluvě.
Každá bohatá firma může zvolit i zcela maximální variantu.
Každý jeden vývojář z celkem 40...60, 90, 180...dostane svou vlastní AI bestii s jedním s procesorem AMD Threadripper a 2 grafickými kartami NVIDIA RTX PRO 5000 72GB Blackwell. Každý bude mít na stole fantastickou AI stanici s 144 GB VRAM !
40 stanic AI může v tomto režimu fungovat klidně i 4 roky...a pořád to bude mnohem, mnohem výhodnější než platit 48 000 USD každý rok za Anthropic.
40 stanic AI s 2 grafikami by mělo stát asi 27 200 000 Kč (40 x 680000 Kč za stanici). 27.200.000 Kč je vlastně skvělá cena...(HW vám zůstane a můžete ho prodat).
Uzavřený Anthropic pro 40 vývojářů na 4 roky...bude stát 163 446 528 Kč
(48000 USD x 40 x 4 = 7 680 000 USD) !
30. 6. 2026, 12:13 editováno autorem komentáře
Ono až to bude za reálné náklady, tak to bude úplně jiná matematika. Náklady na aktivního uživatele tarifu Claude Code za 200 dolarů jsou typicky 800-1200 dolarů. Ostatně proto všichni AI poskytovatelé teď tlačí zákazníky do token-based účtování. Předplatná za fixní měsíční částky budou spíš takové trial verze.