Hlavní navigace

Brněnské datacentrum Faster topí teplem ze svých serverů

14. 11. 2016
Doba čtení: 8 minut

Sdílet

Datacentrum Faster je velmi mladé a možná právě proto se v něm věci dělají hodně moderně a trochu jinak. Pojďte s námi do zeleného datacentra, kde se šetří energie i zbytečné náklady.

Průvodcem v mladém datacentru nám byl vedoucí datového centra Václav Nesvadba. Společnost Faster začala jako klasický poskytovatel připojení v roce 1997. Tehdy jsme používali Wi-Fi, stejně jako zbytek světa. Brzy se ale ukázalo, že se takhle pokračovat nedá a okolo roku 2001 jsme začali v Brně budovat optiku, říká Václav Nesvadba. Byli jsme úplně první komerční subjekt, který měl v kolektorech vlastní optické trasy. Dodnes si pamatuji oslavu první spuštěné optiky.

V roce 2014 pak v Brně Maloměřicích vzniklo datové centrum. Těžíme z toho, že nás zákazníci znají, protože polovinu služeb ISP poskytujeme firmám a druhou polovinu velkoobchodně pro velké operátory. Domácností máme připojených minimum, vysvětluje logiku spojení ISP a datacentra Nesvadba.

Václav Nesvadba z datacentra Faster

Společnost dlouho řešila, zda má koupit starší budovu a opravit ji nebo začít stavět. Nakonec jsme se rozhodli pro tohle místo, které je na optických trasách a je tu možnost dále růst, říká Nesvadba a popisuje, že v tuto chvíli vedou optické trasy do všech čtyř světových stran. Některé už tu byly kvůli vysílači Hády a další jsme si postavili sami. To je alfa a omega datového centra.

Budova je připojena ke dvěma různým sítím dvou dodavatelů elektrické energie. Jsme připojeni na jednoho celorepublikového a jednoho místního distributora, který má vlastní síť a energii bere z jiného uzlu. Datacentrum zatím nemá vlastní trafostanici, ale je v plánu ji budovat společně se stavbou druhé budovy. V tuto chvíli nám stačí 50 kW, takže by to zatím nemělo význam. Projekt stavby je ale schválený a na jaře začínáme kopat.

Pohled na datacentrum, vpravo zákaznický vchod

V tuto chvíli je v budově instalováno 130 racků a datacentrum je schopno okamžitě kapacitu zdvojnásobit. První budova počítá jen s jedním společným sálem, připravovaná budova B pak nabídne oddělené kóje. Nepočítali jsme vůbec s tím, že v Brně budou tak velcí zákazníci, že budou chtít vlastní prostory. Přišla ale velká finanční instituce a museli jsme pro ni oddělit a zaklecovat část racků. Podle Nesvadby se podobná poptávka objevuje i od dalších zákazníků, kteří často také vyrostou a mají jiné požadavky. Cítíme, že je o takovou službu zájem, takže na ni chceme být připraveni.

Zelené datacentrum po svém

Datacentrum Faster se chlubí tím, že je „zelené“ a snaží se maximálně využívat obnovitelné zdroje a šetřit energií. Datacentrum dnes nemůže ušetřit na konektivitě ani na hardware, to stojí všude stejně. Dá se ušetřit na lidech, což jsme nechtěli, nebo na energiích.

S tím souvisí také detailní systém regulace, který si tu vyvíjejí sami. Máme vlastní řízení prostředí postavené na open-source technologiích, kolegové tu vyvíjí vlastní hardware. Uvnitř krabičky je schované Raspberry Pi a vlastní řídicí deska. O samotnou regulaci se pak stará software napsaný v Pythonu. Schválně jsme nakoupili ‚hloupé‘ technologie a řídíme si je sami, to je obrovská výhoda.

Regulační jednotka, kterou si tu staví sami

Velmi zajímavé je využití odpadního tepla ze sálu pro vytápění celé budovy. Byli jsme první v téhle republice, kteří začali takto využívat energii. Není tu žádný jiný zdroj tepla než to, co vygenerují servery. Vytápění fungovalo už první zimu v roce 2014, kdy byly v datacentru nasazeny servery jen s příkonem 10 kW. Odmítli jsme nabídku teplárny na přípojku, byli jsme za podivíny, směje se Nesvadba.

Chladicím médiem je voda proudící pod podlahou v sále saharami, které pomocí ventilátorů ženou vzduch do uliček. Ohřátá voda pak putuje do tepelných čerpadel pro zvýšení spádu a odtud do radiátorů a do bojleru pro ohřev teplé vody. Systém má podle Nesvadby více než 90 % účinnost a nakonec má více energie, než kolik dokáže spotřebovat. Na střeše proto máme i chladiče a klimatizaci. V zimě stačí klasický free cooling, v létě během dne zapínáme i klimatizaci. Chlazení vody se ale podle Nesvadby provádí jen v časových intervalech a běží přibližně 30 % doby.

Prohlídka energetické místnosti

Prostředí sálu je chlazeno na obvyklých 23 stupňů, ale teplotu je možné cíleně upravovat. V tuto chvíli je prostor propojený, ale počítali jsme i s nasazením technologií, které mají jiné požadavky, takže jsme schopni regulovat teplotu po uličkách. V tuto chvíli se průměrné roční PUE podle Nesvadby pohybuje okolo 1,2.

Co je to PUE?

PUE (Power Usage Effectiveness) neboli česky Indikátor energetické efektivity ukazuje, kolik ze spotřebované energie datacentra je využito IT vybavením a kolik zkonzumují podpůrné systémy. Jde jednoduše o poměr těchto dvou hodnot. Ideální PUE by bylo 1,0 a v takové situaci by byla veškerá energie používána pro provoz samotných serverů a síťových prvků. V praxi je ale nutné veškeré zařízení chladit, což přináší další energetické náklady. Obvykle se tedy PUE pohybuje mezi 1,1 až 1,5.

Celý oběh se skládá ze dvou okruhů, které je možné nezávisle odstavit a servisovat. Můžeme bez odstávky opravovat jak samotný chladicí systém, tak i část v datacentru. Jako záloha tu navíc přirozeně funguje tříkilometrový zemní kolektor, který obsahuje nachlazenou vodu. I kdybychom museli celé chlazení vypnout, můžeme ještě několik desítek minut fungovat.

Graf ukazující dlouhodobé PUE

Přestože se pro správu používá komplexní systém řízení, nespoléhá se obsluha datacentra jen na něj. Máme tu klasický termostat spínající sirénu, pro kontrolu používáme analogové teploměry, na všech trubkách máme nezávislé budíky pro kontrolu teploty. Podle Nesvadby je vždycky v případě problému lepší se podívat na klasické měřidlo než spoléhat na elektroniku připojenou k počítači. Podobně jako většina lidí pohybujících se kolem technologií jim tolik nevěříme, směje se Nesvadba.

V sále, srdci datacentra

Přecházíme do sálu, ke kterému je možné dojít buď z kancelářské části nebo samostatným vchodem pro zákazníky. Ten je zcela bezbariérový, takže je možné sem přímo z auta převézt na vozíčku veškeré technologie. Obouváme si návleky na boty pomocí stroje a náš průvodce přidává další historku: Uvažovali jsme i nad zapékacími návleky, ale většina ajťáků sem chodí v sandálech, směje se.

Stroj na obouvání návleků

Přicházíme do samotného sálu, do kterého je vidět i kulatým oknem ze schodiště. Na rozdíl od klasických klimatizovaných serveroven je tady skutečně příjemná teplota a i v tričku tu obsluha určitě nezmrzne. Není tu ani velký hluk, sahary nejsou skoro slyšet. Všechno, co tu slyšíte, vydávají samotné servery.

Pod rošty je vidět, že podlaha je nezvykle vysoko. V prostoru vysokém 120 centimetrů jsou vidět velké ventilátory chladičů. Jsou tak tiché, že jsme do nich museli montovat dodatečně doutnavku, abychom mohli kontrolovat jejich stav. Sice jsou zapojené do dohledu, ale takto je možné skutečně zkontrolovat, že jsou pod proudem.

Pod podlahou: vlevo čistička vzduchu, vpravo sahary

Pod podlahou stojí také čistička vzduchu, která snižuje prašnost. Protože tu nemáme přímý free cooling, vzduch se nám tu mění pomalu a problémy s prachem nemáme. Napomáhají tomu také automatické vysavače, které pravidelně čistí celý prostor pod podlahou. Po otevření jsme tu měli prachu víc, protože z novostavby ho nikdy úplně nedostanete. Přibližně po půl roce se ale situace stabilizovala a dnes většinu polétavého prachu zachytíme a ve vzduchu není.

Exkurze v sále

Dozvídáme se také, že celé routování včetně páteře tu provádí linuxové routery. Už od roku 1999 tu routujeme na Linuxu, stavíme si vlastní minimalistickou distribuci. Centrální routery jsou dva: linuxový s démonem BIRD a komerční značky Juniper. Komfort správy linuxového routeru ale nic nepřekoná, vysvětluje Nesvadba.

Datacentrum se podle Václava Nesvadby snaží být síťově neutrální a nenutí zákazníky nakupovat připojení od konkrétního dodavatele. Zákazník si může pronajmout čistě housing a nakoupit si konektivitu vlastní. Jsou tu všichni velcí operátoři a všichni brněnští poskytovatelé, vysvětluje Nesvadba.

Na střeše a v zázemí

Přecházíme do zázemí budovy, kde se nachází velká dílna a sklad a v rohu stojí lahve s hasicím plynem. Používáme Argonit, což je směs argonu a dusíku. Vytlačí kyslík na takovou úroveň, kdy už nedochází k hoření, ale vzduch je stále dýchatelný a obsluha může v klidu datacentrum opustit. Součástí hasicího systému jsou i detektory kouře a prachu a teplotní čidla. Systém potřebuje potvrzený požár ze dvou vstupů, aby nedošlo k planému poplachu.

Lahve s hasicím plynem

Přicházíme na střechu, kde vidíme zmíněný chladič a klimatizaci. Na druhé části jsou pak vidět solární panely. Myslím, že to je nejlépe využitá solární energie. Tady se vyrobí a o deset metrů dál v sále se použije. Spotřebováváme veškerou energii, kterou si vyrobíme, vysvětluje Nesvadba.

Pohled na střechu a do Maloměřic

Na střeše je celkem osazeno 30 kW solárních článků, v praxi ale špičkový výkon dosahuje přibližně 24 kW. Když je pod mrakem, získáváme denně 25 kWh. Když svítí sluníčko, dostaneme se i na sedminásobek, kolem 170 kWh. Udělá to nemalé peníze, ročně ušetříme na jeden nový server. Přesto se podle Nesvadby čistě ekonomicky investice do fotovoltaiky nevyplatí, protože se bez dotací nemůže zaplatit. Přesto je to příjemné, vědět, že si část energie vyrábíme sami. Nehledě na to, že takovou investicí pomáháme tu technologii zlepšovat a dále zlevňovat.

Ze střechy je vidět také diesel generátor, který společně se třemi propojenými UPS tvoří zálohu elektrické energie. Do každého racku vedou dvě nezávislé větve, které se setkávají až přímo u serveru. Obě větve jsou podle Nesvadby napojené na baterie i na diesel. Děláme to hlavně kvůli sobě, abychom předešli nárazům v síti.

CS24_early

Diesel generátor připravený ke startu

Zatím je tu jediný generátor s výkonem 200 kVA, který výkonově dostačuje, ale chybí mu redundance. Tohle je náš jediný prohřešek proti úrovni Tier 3. Zákazníkům to ale netajíme, společně s druhou budovou máme v plánu pořídit druhý diesel a máme připravené místo na další tři, vysvětluje Nesvadba. Tomu současnému věnujeme extrémně velkou péči a pozornost. Je předehřívaný a startujeme ho každý týden.

Datacentrum jako startup

Opouštíme brněnské datacentrum, na jehož parkovišti stojí dvanáct různě velkých automobilů polepených firemními logy. Jsme pořád hlavně poskytovatel připojení, tohle datacentrum je vlastně ještě pořád takový startup, směje se Václav Nesvadba, když se s námi loučí. Viděli jsme, že nejen v Praze jsou datacentra na velmi solidní úrovni. Navíc s viditelnou snahou dělat věci trochu jinak a po vlastní ose.

Byl pro vás článek přínosný?

Autor článku

Petr Krčmář pracuje jako šéfredaktor serveru Root.cz. Studoval počítače a média, takže je rozpolcen mezi dva obory. Snaží se dělat obojí, jak nejlépe umí.