AI s miliardami parametrů dosahují dobrých výsledků, mají však při předpovídání na CPU nebo GPU také velkou spotřebu. Problém řeší analog in-memory computing, kdy se maticové násobení vektorem dělá paralelně v paměťových dlaždicích (memory tiles). Používá se k tomu phase-change memory (PCM). Malý kousek materiálu se roztaví a podle rychlosti chlazení buď zkrystalizuje (pomalu) a bude vodivý, nebo zůstane amorfní (rychle) a bude nevodivý. Zároveň můžete mít i více analogových stavů mezi těmito dvěma extrémy.
Čip od IBM je vyroben 14nm technologií a má 34 dlaždic. Každá dlaždice má šířku 512 a délku 2048 jednotek. Celý procesor má tedy 35 miliónů analogových PCM. Výkon na Watt dosahuje 6,7 TOPS/W, což je asi 14× lepší výsledek než zatím nejlepší v MLPerf. Více informací v článku.
(zdroj: arstechnica)