Jenže problém je právě v tom, že u těch NPU je výkon mnohdy tak nízký, že je otázka, jestli ještě mluvíme o AI, nebo jen o primitivních deterministických filtrech a skriptech. Několik desítek TOPS samo o sobě ještě neznamená, že zařízení zvládne lokálně něco, co by bylo rozumné označovat za skutečnou AI funkcionalitu.
AI samozřejmě není jen LLM a existují legitimní úlohy, kde takový výkon stačí. Jenže marketing používání slova AI bez uvedení výkonu a toho, co skutečně běží lokálně.
To je podstatnější problém než možnosti pustit si offline aspoň středním LLM.