Vlákno názorů k článku Python a Ollama: pracujeme s lokálnymi jazykovými modelmi od Zdeno Sekerák - Mam takovou predstavu ze nasypu od offline AI...

Mam takovou predstavu ze nasypu od offline AI vsechny zdrojaky a pak budu nad nima delat dotazy.
Podminka je ze nic nesmi opustit firmu a ze to bude k necemu.

Priklad: najdu chybu, tak napisu do AI jakou a zeptam se jestli je nekde v jinem zdrojaku.
Nebo nemohu najit tak se zeptam kde nalezu zdroj.

Jo, mám něco podobného s emaily. "Psal jsem si s někým, teď nevím s kým, ale chtěl něco o A, nebo možná B?"

A přidám ještě dvě podmínky nebude to trvat desítky minut a nebude k tomu potřeba stroj který potřebuje vedle jadernou elektrárnu.

MCP server na Gitem pokud tam budou potřeba dotazy typu "kdo napsal toto" a "ktere změny udělal Zdeno v lednu 2026". Jinak by to šlo zapsat do RAGu, tuším jsem tady o tom maličko psal v článku o Llama Stacku (ale má to spoustu možností dolaďování, takže výsledek nebude napoprvé úplně nejlepší).

Pôjde to a aj svižne. Stačí tak 30GB ramky (ideálne viac) a slušnejší CPU. A hoooodne času na spravenie si RAG flowu/pipeliny, alebo doučenie nejakého oss modelu svojimi dátami.

O rád jednoduchšie je spustiť InteliJ Idea, prepnúť sa na codex agenta a spýtať sa ho, čo treba. Áno, zdrojáky, či ich časti, pôjdu do cloudu...

Tretia cesta, celkom lokálna, je nahodiť AnythingLLM a tomu dať git repo a on umožňuje spustiť rag nad dátami s ľubovolným llm modelom (mám drobnú skúsenosť s mistral a chatgpt oss). Ani toto ale nieje zázračné. Zázračne fungujú tie komerčné veci...

15. 2. 2026, 20:27 editováno autorem komentáře

Je to !statistickej model! aby ti to fungovalo, potrebujes idealne nekonecny mnoztvi dat.

Predpokladam, ze stejnej kus kodu s chybou umis najit mnohem efektivnejs bez "AI" a na to aby ti generovala statistickej model nemas dost dat. Proc myslis ze soudruzi vysavaj nejen verejnej internet ale prave i vsechno co kde u jakyho touby kterej si to zapne najdou.

Navic ai neumi chyby hledat, umi je jen ve velkym mnoztvi a rychle generovat.

To je samozrejme blbost, co nam tu sdelujete. A realny dukaz mate o nekolik zpravicek vedle. Vase tvrzeni, ze to jen generuje chyby je lzive a nicim nepodlozene.