Názory k článku
Výkon Apple M1 v trénování neuronových sítí

Ty grafy jsou skoro až k neuvěření. Krásný příklad sladěnosti HW a SW.

At daji vedle i nVidii, pak bude ten graf rikat neco zajimaveho. Ted rika jenom to, ze na M1 lze trenovat rychleji nez zpusobem, ktery nikdo rozumny nepouziva.

Souhlasim, a jeste at prihodi do srovnani i nejaky Movidius dongle od Intelu. Pak si muzem udelat realnou predstavu o stavu veci.

chtel bych videt jak tam das testy nVidie na macOS :D

Klid, on neví, o čem mluví.

Tak trochu jo. Taky ti mohu rict, ze tech 16GB neni zas tak velka hitparada pro vetsi modely.

Ale pro nekoho dobry. A fanboys gonna fan.

24. 11. 2020, 11:50 editováno autorem komentáře

eGPU :-/

Ten test je inconclusive. Nikde nepisou, s jakymi build flagy byl ten ktery tensorflow zbuildeny. A to sakramentsky hraje roli. Napr. defaultni knihovna distribuovana pres pip nema FMA a AVX512, mozna ani AVX2 (ted si presne nepamatuju). A zrovna tyhle instrukce muzou delat dost zasadni rozdil. A proc ty instrukce nema? Protoze ne kazde CPU je umi... Kdezto kdyz delaji verzi pro Apple M1, tak je podpora zadnych starych CPU netizi, tim padem muzou naplno vyuzit celou jeho instrukcni sadu. Pripadne jeho neural koprocesor.

No jo, jenomze kdyby se to udelalo poctiveji, tak by to zase nemuselo tak pekne vyjit :-(

Použili Compute ML, takže CPU nehraje roli, podobně by to mohli pustit na Macu s Intelem (nějakém novějším s podporou Compute ML), to ostatně také reportují.

Obecně CPU je pro náročné úlohy na TensorFlow irelevantní, buď se jede čistě přes GPU nebo TPU (Google) či Neural Engine (Apple). Srovnání TPU vs. Neural Engine bych rád viděl na nějakém reálném projektu (absolutní výkon vs. per watt). Ideálně na mobilních čipech, Apple to už v praxi používá roky ("on-device AI") a Qualcomm má v čipech něco podobného.

Gratuluji, prave jsi se obloukem dostal k tomu, ze ten test nic moc nerika :-D