Odpověď na názor

Odpovídáte na názor k článku Greenboost přidává paměť pro GPU Nvidia z RAM a NVMe. Názory mohou přidávat pouze registrovaní uživatelé. Nově přidané názory se na webu objeví až po schválení redakcí.

  • Článek je starý, nové názory již nelze přidávat.
  • 17. 3. 2026 18:51

    Wasper

    Tak to je divný. U mě to prvně defaultní qwen3.5 (tuším 9B) nacpalo celý na CPU, rychlost byla kolem 2t/s, ale na prastaré M40 to jede řádově nízké desítky/s, na RTX 4060Ti pokud je vše v VRAM ještě líp pro stejný prompt.

    Ale souhlasí, jakmile z toho ollama udělala ~50% CPU 50% GPU, tak to šlo na stejně pomalé jako na samotném CPU (to ještě bez Greenboostu). Až/jestli se mi podaří to přesvědčit, aby offloading dělal greenboost, tak to zkusím změřit taky.