Takmer každý model má aj svoje webové rozhranie, či už platené, zadarmo, prípadne zadarmo s limitmi.
Námatkovo:
https://gemini.google.com/
https://chat.deepseek.com/
https://chat.qwen.ai/
https://grok.com/
OpenRounter má takmer 500 modelov, a k nim slušné webové UI.
Mozna bys chtel vyzkouset ECA, pred par dny jsme ji vydali i pro Intellij.
https://github.com/editor-code-assistant/eca
https://plugins.jetbrains.com/plugin/28289-eca
Jeste se dost veci vylepsuje, ale jde to rychle...
Pripadne tiez Aider. (https://aider.chat/)
Ale vdaka, za link na ECA. Ta Emacs integracia vyzera super. Musim to vyskusat niekedy. Aider zatial vyzera ze je trochu popredu co sa funkcii tyka, ale v principe je IDE integracia nejaka forma wrapperu okolo CLI applikacie. Ten pristup ECA sa mi zda omnoho rozumnejsi.
Tolko k funkcnosti ECA.
Unexpected Application Error!
window.postMessageToEditor is not a function
TypeError: window.postMessageToEditor is not a function
at cn (http://eca/dist/assets/index.js:93:679)
at http://eca/dist/assets/index.js:159:10720
at Ss (http://eca/dist/assets/index.js:48:83317)
at QI (http://eca/dist/assets/index.js:48:97990)
at sr (http://eca/dist/assets/index.js:48:97874)
at QI (http://eca/dist/assets/index.js:48:98726)
at sr (http://eca/dist/assets/index.js:48:97874)
at QI (http://eca/dist/assets/index.js:48:97970)
at sr (http://eca/dist/assets/index.js:48:97874)
at QI (http://eca/dist/assets/index.js:48:98011)
Ano, jak je například uvedeno ve zprávičce, třeba hned na openrouteru je vidět, že s tím lidé používají OpenRouter: Chatroom (integrovaný chat přímo v openrouteru, hostovaný u nich) nebo Open WebUI.
To API je široce kompatibilní a takových "lokálních chatů" které mohou používat vzdálená API jako openrouter je více. (nemám osobní zkušenosti, jen dávám odkazy a co jsem kde slyšel)
To je ale jen nepochopení, jak to funguje. To, že to může běžet offline znamená, že to může běžet offline, nic víc, nic méně.
Prostě tam máte nějakých 1 <= n serviců co to používá, kde vyplníte URL (připadně API key), a ono to s nima komunikuje.
To, jestli to nasměrujete přes Internet na ChatGPT, Openrouter, nebo na Groka, nebo doma na manželčině stroji na Ollama, případně na localhostu na KoboldCPP nebo třeba na NASce na text-generation-webui je už jen a jen na Vás.
Však tohle se začíná zabydlovat třeba i v gamesnickém světě, SkyrimNet nebo Mantella/Pantella jsou to samé, nějakej mezikus, co něco dělá a k tomu využívá další AI modely, které mohou být kdekoli.
Jak vaši uživatelé používají AI, že to stojí šílenosti? Mně přijde, že i blbý GitHub Copilot za $10 měsíčně stačí (a navíc teda v rámci firemního GSuite máme Gemini). Jasně, pak jsou nástroje jako Augment Code nebo Claude Max za $50 a $100, ale ty zase mají schopnosti, které lokální Gemmou a open-source softwarem bohužel nejspíš neodemuluješ.