Instrukční sada Intel Advanced Matrix Extensions (zkráceně Intel AMX) je jednou z klíčových částí výbavy představenou před 5 lety s procesory Xeon generace Sapphire Rapids. Spolu s dalšími rozšířeními ji Intel nasadil i u aktuální 6. generace Xeonů Scalable, známé jako Granite Rapids.
Tyto až 128jádrové Xeony přicházely na trh od konce loňského roku, resp. začátku tohoto. Nezřídka píšeme o testech, které Phoronix provádí na nejvyšší modelové řadě Xeon 6980P. Nejinak je tomu i u aktuální testu vlivu použití AMX na výpočty strojového učení.
Konkrétně Phoronix měřil na stroji se dvěma těmito Xeony, tedy celkově s 256 CPU jádry / 512 HT vlákny. Testy provedené na balíku OpenVINO a Llama.cpp v průměru ukazují nárůst výkonu na trojnásobek, při velmi mírně vyšší spotřebě a prakticky nezměněné teplotní charakteristice CPU za běhu. Jinými slovy: použití AMX přináší zhruba trojnásobný výkon bez vlivu na spotřebu systému a jeho provozní teploty.
Další testy, které Phoronix plánuje, provedou srovnání s aktuálními možnostmi obdobné platformy s AMD EPYC.
