Nevím jak je to na Linuxu, ale předpokládám že desktopové prostředí používá OpenGL stejně jako hra, takže se dělí o zdroje.
Ve Windows může hra běžet v okně, a pak také sdílí prostředky s desktopem (Desktop Window Managerem). Pokud běží hra ve full screen mode, tak je DWM vypnutý a zdroje nežere (jsou tam ještě další podmínky, ale to je mimo rámec).
Předpokládám že na Linuxu podobné "odpojení" desktopového prostředí za běhu hry nefunguje, a proto výkon hry závisí na desktopovém prostředí, pod kterým běží.
To může záviset na způsobu práce s grafickou kartou. X11 pokud vím neumí aplikaci odpojit a znovu připojit, takže předpokládám, že po celou dobu běhu hry musí držet veškeré informace o všech oknech. To by znamenalo držet vyrastrovaná okna, jejich prvky, možná i fonty, shadery atd. Typ a množství těch zdrojů se liší podle prostředí, s tím že nemusí nutně korespondovat s náročností prostředí na CPU a RAM.
Nejvyšší výkon také dostanete pokud hra kreslí do back bufferu, který se pak předhodí grafické kartě k zobrazení (flip). Předpokládám že kompozitní desktop může vést k tomu že hra kreslí do back bufferu, který se potom kopíruje> na front buffer (blit), což je o dost pomalejší.
To jsou některé problémy, které by mohly nastat. Ale bez znalosti konkrétní implementace desktopových prostředí (kterou nemám) jsou to jen dohady.
Mýlíte se. X11 má hint, kterým může aplikace zažádat o vypnutí kompozitního desktopu, problém může být maximálně na straně okenního správce, který ten požadavek musí dodržet. Vetšina z nich to dělá. Dalším mechanismem je "unredirecting", který pro aplikaci běžící ve fullscreenu obejde kompozitování. Obě techniky existují a fungují už roky což je z těch benchmarků vlastně i vidět.