Názory k článku
Úvod do technologie CUDA

Ten graf vznikl z výsledku měření na výkon z hlediska operací které běžně provádí GPU nebo CPU? I když jsou dnes GPU velmi rychlá připadá mi absurdní že by takto na poli CPU dominovala nvidia :), jinak se zde porovnává neporovnatelné.

A ještě něco. V úvodu článku se píše že by bylo hezký využít GPU k něčemu jinému nežli k 2D a 3D. Potom nevím co takový GPU počítá u zpracování videa, filmu či offline renderingu :). U vědy a medicíny se autor raději vyhnul konkretizaci. Skoro jakoby tu byla důležitější značka grafické karty nežli podstata technologie která je tu prezentována.

Jako zástupce vědy si dovolím konkretizovat: ve fyzice je velmi často třeba počítat Fourierovu transformaci, pro velké soubory dat (a často také mnoho takových souborů). A pro takové úkoly je GPU jako stvořené.

A samozřejmě nejen Fourierovu transformaci … libovolné výpočty vektory/poly, kdy se na jednotlivé prvky aplikuje stejná operace, jsou pro výpočty na GPU jako stvořené. To zahrnuje kromě Fourierovy transformace i lineární algebru, numerické řešení diferenciálních rovnic nebo zpracování obrazu. Ve výsledku to může dát pěknou medicínskou aplikaci na analýzu dat třeba z magnetické rezonance.

Ja bych jako zastupce vedy taky konkretizoval zhruba stejne. Hodne Fourierek, velke mnozstvi dat a rychle a paralelne.

Já bych, co by bývalý „zástupce vědy“ (LOL! :-D), namítnul, že numerické výpočty je třeba dělat s nějakou rozumnou přesností a přesně definovanou chybou, což možnost využití GPU v této oblasti značně problematizuje.

A v čem spočívá ten problém?

problem je typ float, nebo chces-li single precision

Novější karty od NVidie (tuším počínaje GTX280) umí double precision.

a nebo Tesla…

Double precision jednotka je na GT 200 čipech pořád jenom jedna na multiprocesor (stejně jako dělička), takže pořád nic moc. Ale jde to použít pro rychlou aproximaci a dopočítat to pak na CPU.

No grafická karta se dá využít i k akceleraci třídění dat. Viz stránky k CUDA. Tam jsou i příklady aplikací.

Ten graf bude nejspíš ukazovat maximální teoretický počet floating-point operací za sekundu (viz. svislá osa), tedy operací, které běžně provádějí CPU i GPU. Nevznikl asi z žádného konkrétního měření a v praxi bude dosažitelný počet FLOP samozřejmě nižší. Kdyby v tom grafu bylo i ATI, předpokládám, že by se křivka pohybovala v okolí nvidie, rozhodně nad libovolným CPU.

GPU je pekelne rychle ovsem data nad kterymi pracuje musi byt v pameti na graficke karte a ty presuny stoji neco casu. Pokud se nad daty nedela na GPU vice operaci, pak se vyplati to same spocitat na beznem CPU.

A do toho jeste vstupuje dulezita promena – cas programatora.

Tak, tak. Já byl poměrně zklamaný režií nutnou ke kopírování dat na grafickou kartu a po výpočtu zpět. Pro matici 50×50 se mi to nevyplatilo. Člověk musí opravdu pracovat s objemem dat nad stovky kb, ale pak to skutečně stojí za to. :) Zrychlení určitých algoritmů až 100× je reálné.

asi proto se snazi AMD nacpat „grafiku“ primo do CPU, ze?

Jojo. Az nekdo udela pro GPU Linearni solver (GMRes) pro matice radu stovek tisic, pak koupim poradnou grafiku :)).

Chtělo by to, aby nvidia optimalizovala pro CUDA alespoň BLAS a LAPACK. Jak mám sakra ve Fortranu kopírovat data do a z paměti grafické karty? :-)

A nejsou tyto knihovny předělané pro CUDA náhodou už dávno dostupné přímo od nVidie?

Pokud vím, tak BLAS ano (CUBLAS), ale LAPACK zatím ne a přilinkování CUBLASu do neoptimalizovaného LAPACKu není efektivní právě pro neustálé kopírování z a do paměti grafické karty. Ale sám jsem to nezkoušel.

http://geraldine.fjfi.cvut.cz/…diplomka.pdf

Tady máte ukázku výkonu pro vcelku praktickou a přitom vysoce náročnou aplikaci při numerické předpovědi počasí. Je tam taky dobře vidět výše zmiňovaná režie za načítání dat do gr. karty a zpět.

GPU Acceleration of NWP: Benchmark Kernels Web Page

Ale dejte pokoj s FFT ;-) Tady je ponekud praktictejsi pouziti CUDA pro obycejne lidi ;-)

obycejni lide, kteri se chcou zabyvat CUDA vetsinou povazuji FFT za „obycejnou“ vec :-)

Ahoj, já bych zase rád viděl pomocí gpu pattern matching. To je silně parelelizovatelná záležitost a pomocí CPU je to pomalé.

Představte si třeba clamav nebo dspam pro GPU.

Zkuste běžným počítačem udělat wire speed antispam.

A nebo zone minder pro GPU. V plném palu běžný CPU zabijí jednotky kamer.

mna by zaujimalo ako sa GPGPU vyvynie ak to ma existovat pre vsetky karty nie len nvidia

teraz som nasiel ze opencl by malo byt univerzalne. je potom nejaky dovod pouzivat CUDA ak funguje len na jednych kartach?

Chystá se OpenCL, ale zatím je to v plenkách a CUDA taky víc těží z přímé vazby na HW, což u OpenCL musí řešit překladač.

Ten nazov balicku je mi povedomy. Obsahuju uz standardne balicky s ovladacom pre grafiku aj CUDA? Alebo je nejaky sposob ako zistim ci uz ten spravny driver mam?

Diky.

Mohli by to víc otevřít. Takhle to je jen proprietární hračka na pár speciálních úloh.

Kdyby to otevřeli, třeba by tomu někdo napsal systémový ovladač, a začalo by se to chovat jako další procesory. I když mít v systému procesory dvou různých architektur by asi bylo celkem maso. K něčemu podobnému to ale stejně směřuje – mít část procesorů jen na grafiku a část na zbytek není optimální.

Chtel jsem se neco dozvedet, ale clanek stoji za uplne kulove. Chapu, ze autor za nej ma asi zaplaceno, takze snazi to tema natahnout neplodnym obecnym popularnim zvatlanim, ale ja, jako koder, bych ocenil nejaky motivacni zdrojak hned v prvnim prispevku tak, jak to maji skutecni muzi radi.