Odpověď na názor
Odpovídáte na názor k článku Zpráva OpenAI ukazuje, že ChatGPT používá desetina dospělé populace. Názory mohou přidávat pouze registrovaní uživatelé. Nově přidané názory se na webu objeví až po schválení redakcí.
-
Problém je, že i kdyby takové modely byly k dispozici, na provoz frontier-level LLM by byl potřeba o dost dražší a méně dostupný hardware, než si většina jednotlivců může dovolit. (Taky to není moc efektivní, protože pak máte HW, který je vytížený 0.1% času a zbytek odpočívá, kdežto service provideři dokážou svá GPU vytížit víceméně kontinuálně). Nevím, jestli toto má dobré řešení. Možná nějaká community-managed inference ala vpsfree?
