Vlákno názorů k článku
Microsoft zverejnil pre verejnosť svoj jazykový model Phi-4 od K> - Zkusil jsem to v ubuntu, pomoci 'snap install...

Zkusil jsem to v ubuntu, pomoci 'snap install ollama'. Problem je ze snap instaluje ollama do /var/snap, a ollama tam taha i binarni bloby modelu. Takze je potreba pomerne velke misto na root parition. Coz ja nemel, takze jsem to musel odrbavat symlinkem /var/snap/olla­ma/common/models do adresare na velkem disku. Ollama ma mit moznost nastavit systemovou promennou kam ma ukladat modely, ale to mi nefungovalo, a dle diskuzi s tim meli problemy i jini.

No ale funguje to hezky, diky za zpravicku.

Muzete zkusit misto snapu docker nebo podman. Jestli budete zkouset vice sluzeb, docker image je casty zpusob distribuce.

1. Vytvorte soubor docker-compose.yml
2. Spustte "docker compose up -d"

services:
  ollama:
    image: ollama/ollama
    ports:
      - 11434:11434
    volumes:
      - ~/.ollama:/root/.ollama

Modely se vam budou ukladat do ~/.ollama. To az se budete pidit, kam vam mizi misto na disku :-)

Anebo jestli mate C/C++ a Go kompilator, tak Ollamu rozjedete za par minut bez snapu a dockeru:

git clone https://github.com/ollama/ollama.git
cd ollama
make
./ollama serve

11. 1. 2025, 18:58 editováno autorem komentáře

Já to asi nechápu. Když už má někdo docker, což tvůj post předpokládá, nejspíš ví, co je docker-compose. K čemu je těch tvých pár řádků pro compose? Tam není ani zahrnuta hw akcelerace GPU, ani nějaké rozhraní, které by se případně dolepilo k tomu dockeru. K čemu je teda proboha tvůj příspěvek?

Mně na starším mintu bezproblémově zafungoval přímo instalační skript of ollamy https://ollama.com/download/linux .