Tak kdyz tu mame reprodukovatelne kompilace, tak by se mohly udelat i reprodukovatelne trenovani AI?
Je tu vlastně vůbec nějaký LLM trénovaný jen na open datech, který je pro nějaký byť specifický use-case použitelný? Tedy že nejde o dotrénovanou llamu apod. ale od prázdné neuronky?
Jako co se týče obrázků, tam to je mnohem lepší.
To je skvelej napad. Zrovna jsem si rikal, co OpenAI - to asi nebude open source (stoji na tom napr. i copilot). A neni. "OpenAI se transformovala z neziskové organizace na komerční subjekt s uzavřeným zdrojovým kódem".
Těch projektů je a bylo... Třeba nenápadně Mozilla její účty k prohlížeči.. Ty už open nejsou a nikdy nebudou... a to je co mají na trénování toho AI...
Otázka zní, na jakém HW to poběží a jakou to bude mít spotřebu. Jestli to pojede v nějakém velkém datacentru, nebo to bude AI určená pro běh na lokálním PC, kdy si takovou AI bude moct spustit každý BFU.
Tak jako může. Otázka je, jestli to má nějaké zásadní opodstatnění pokud si nechcete jen vyloženě hrát. Na projektu očekávám, že mi jeho tooling poskytne vlastník projektu/zaměstnavatel a doma si s AI nehraju, to už je lepší jít kácet stromy a na to LLM nepotřebuju. A pokud budu chtít něco po večerech pro zábavu vyvíjet, těch 25 USD měsíčně co stojí třeba Claude Code za to asi dám.
> Otázka je, jestli to má nějaké zásadní opodstatnění
Nie, otazka bola ci si to moze pustit lokalne.
Ale mozem odpovedat aj na vasu otazku. Opodstatneni to ma niekolko. Nezdielate svoj kod alebo udaje s externou entitou je velmi podstatne opodstatnenie.
Momentalna cena ktoru vidite, vasich 25USD nepokryva ani naklady za elektrinu. Pozrite si kolko minaju tieto spolocnosti na beh datacentier. Realna cena moze byt kludne 10 nasobok alebo aj viac.
Tooling vam zamestnavatel moze poskytnut lokalne rovnako dobre ako externa entita. Beh LLM nie je nic zlozite. A aj ked sa doma s LLM nehrate dufam ze iny mozu a robia to a budu robit.
Však já nenapsal, že na hraní si je něco špatného. Proto jsem to explicitně vyloučil. Ale že sdílím svůj kód je u hobby projektů celkem jedno a co je reálná cena je mi taky celkem jedno. A co mi poskytne zaměstnavatel je na něm. Proto jsem ale já osobně třeba nenašel žádné opodstatnění proč bych to měl vlastně dělat.
> Ale že sdílím svůj kód je u hobby projektů celkem jedno
V praci robite hobby projekty? Lebo ste povedali ze doma radsej rubete stromy ci nieco take nie?
> co je reálná cena je mi taky celkem jedno
Hned ako sa prejde k IPO tak investori budu chciet vidiet zisky, je lepsie byt pripraveny lebo potom pridu realne ceny.
> co mi poskytne zaměstnavatel je na něm
Aj u zamestnavatela to musi niekto urobit a nastavit, tam je know-how vitana a to ze to nerobite prave vy na veci nic nemeni.
> Proto jsem ale já osobně třeba nenašel žádné opodstatnění proč bych to měl vlastně dělat
Napriklad zistak to know-how ako to robit pre niekoho za peniaze. Ale je mi jasne ze ani peniaze pre vas nie su nic.
Však ano, to je ale právě to: tooling očekávám od zaměstnavatele takže je na něm, jak si to zařídí. Já to dělat tak či tak nebudu. Proto mi to přijde jako trochu hype. (Ne, že by teda AI v téhle fázi hype nebyla obecně, že.)
Problemem bude srovnatelna kvalita. Kdyz se zmlsate Claude Opus, nejaka Llama provozovana na jedne Nvidii vas nenadchne. Provozovani modelu s rozumnou kvalitou a rychlosti vyzaduje drahy HW a malou elektrarnu :-)
Proto firmy radeji podepisi smlovu s nejakym velkym dodavatelem sluzby, ktery se jim zaprisaha, ze jejich data nebude pouzivat k trenovani :-)
Pokud chcete experimentoval s LLM technologiemi, dnes se to da v akceptovatelne kvalite na vlastnim HW. Ale pokud chcete vyvijet komercni software s pomoci AI, sahnete po reseni, ktere ma nejlepsi pomer cena/vykon.
30. 3. 2026, 21:27 editováno autorem komentáře
> Momentalna cena ktoru vidite, vasich 25USD nepokryva ani naklady za elektrinu.
To se mi nezdá. Cena plánu je typicky 5x výhodnější než platit za tokeny. A uzavřené modely jsou typicky za token 5x dražší než hostované open-weight modely kde existuje konkurence (příklad: Sonnet, Codex řádově $3/$14 za Mtok in/out, GLM a Kimi $1/$3 u západních poskytovatelů na OpenRouter). Takže to paradoxně vychází úplně přesně, přičemž většina uživatelů předplatné nevyužije do mrtě.
30. 3. 2026, 23:26 editováno autorem komentáře
Sorry, blbě jsem si článek přečetl, není to 5x ale 10x více tokenů.
I tak si myslím, že to vyjde, pokud průměrný uživatel vyčerpá ze svého předplatného polovinu, což mi přijde možná i jako nadhodnocený odhad (ne všichni jsou poweruseři programující do mrtě, mají dovolenou a tak).