Na návštěvě v serverovně u Active 24: vlastně přeprodáváme elektřinu

Společnost Active 24 sídlí na pražské Florenci. Po drobných peripetiích s výtahem, který nás nejprve zavezl do jiného patra, jsme se už dostali k proskleným dveřím, za kterými už bylo vidět logo společnosti a recepce. Přivítal nás Ing. Tomáš Hála, vedoucí týmu linuxových administrátorů, který nás také bude celou dobu provázet.

Hned v recepci nás zaujaly pohovky a stoleček v rohu. To je pro naše zákazníky, kteří za námi přijdou. Někteří prostě pořád preferují přímý kontakt, takže se sem za námi občas staví, vysvětluje Hála a hned přidává historku. Jednou sem dokonce přišel pán, který říkal: ‚Jdu takhle kolem a vidím Active, tak jsem se stavil, abych si u vás koupil tu doménu.‘ směje se Hála a dodává, že pán skutečně odešel s novou doménou.

V kancelářích firmy

Obcházíme open space prostory firmy, doplněné o několik prosklených kanceláří. Tady sídlí samotná firma, servery máme jinde. Tady jsou programátoři, administrátoři, podpora, obchodníci a další lidé, říká Hála. Ukazuje nám velkou obrazovku, na které se zobrazují aktuální údaje o případných frontách e-mailových či telefonických zákaznických požadavků a zároveň výstupy z monitoringu.

Servery jsou umístěny v Sitelu, kam se pojedeme za hodinku podívat. Tady je jen malá serverovna pro potřeby kanceláří a na testování. V kancelářích máme dvě nezávislé konektivity do internetu, aby zejména naše nonstop zákaznická podpora, kterou odtud provozujeme, nikdy nezůstala bez připojení, vysvětluje Hála.

To už si sedáme a ptáme se na technické podrobnosti, operační systémy, software a další detaily, protože Tomáš Hála je především linuxák a technik. Děláme Linux i Windows, máme obě platformy. Ale kolem 80 % našich služeb běží na Linuxu. Část zákazníků nicméně stále vyžaduje platformu Windows. Samozřejmě bychom mohli nabízet ASP na Linuxu, ale je to stejně podivné, jako mít PHP na Windows. To sice nabízíme, ale zájem je minimální. Na Windows platformě se podle Hály naopak dobře daří například aplikačním serverům, což jsou VPS, které zákazník využívá typicky jako vzdálenou plochu pro práci s různým ekonomickým a kancelářským SW. Jde to nakonfigurovat tak, že koncový uživatel ani nepozná, že nepracuje na lokálním počítači.

Nás samozřejmě zajímá především linuxové prostředí a ptáme se pochopitelně na distribuci. Ve většině případů používáme na serverech Ubuntu. Může to znít překvapivě, ale je to logické. Je to vlastně pořád Debian a na rozdíl od něj má pevný vývojový cyklus. Víme tedy přesně, kdy vychází která verze, jak dlouhá je podpora, můžeme plánovat upgrade a podobně, vysvětluje volbu distribuce Tomáš Hála.

I přesto má Ubuntu své mouchy. V poslední době nám přidávají vrásky na čele různé změny, které Ubuntu zavádí. Například přechod z initu na Upstart není na serverech ideální. Je proto možné, že se firma opět přikloní k Debianu. V tuto chvíli je to ale čistě ve stavu úvah, zatím zůstáváme na Ubuntu.

Dnes svůj boom zažívají VPS, a tak se ptáme i na ně. Máme dva typy VPS. Největší poptávka je po virtuálních managed serverech (VMS), ty běží na Ubuntu, spravujeme je my a jsou určeny zejména pro webové vývojáře, kteří chtějí mít bez starostí připravené prostředí pro deploy webových aplikací na jednom místě i s možností individuální konfigurace serveru. Na rozdíl od klasického hostingu tam jsou k dispozici i další služby jako SSH přístup, verzovací systém GIT a podobně, vysvětluje jednu ze služeb Hála. Klasickým VPS pak říkáme full controll a na těch si samozřejmě uživatelé mohou instalovat libovolný operační systém. Jako virtualizační technologii na nich používáme OpenVZ.

Zajímá nás, proč volba padla právě na OpenVZ. Samozřejmě existuje celá řada virtualizačních řešení, každé má své výhody i nevýhody. Pro nás je třeba důležité, že se v OpenVZ dobře nastavují restrikce pro síť, takže si uživatelé nemohou krást vzájemně IP adresy a nevhodným nastavením své VPS rozbít něco dalšího, říká Hála. Pokud by tohle poskytovatel VPS neřešil, mohl by si některý zákazník nastavit třeba IP adresu brány a ovlivnit tak celou síť. Některé firmy tohle vůbec neřeší technicky, ale jen zákazníka při odhalení odpojí. Technické řešení je podle mého lepší. Pro veškerou ostatní virtualizaci na linuxové platformě tady používají Xen a zároveň bedlivě sledují vývoj KVM.

I přes podporu VPS zůstává Active 24 stále především webhostingovou společností. Tam jsou zákazníci velmi konzervativní a drtivá většina poptávky se zaměřuje na PHP. Nabízíme i další možnosti jako Python, Perl a na virtuálních managed serverech i Ruby on Rails. Ale poptávka po těchto službách je minoritní, masa pořád vyžaduje PHP, Apache a MySQL.

Před časem správci uvažovali nad nasazením serveru Nginx, který je odolnější vůči DDoS útokům. Plošné nasazení uživatelům místo Apache ale nebylo možné. Před několika lety jsme zvažovali nasazení Nginx kvůli nižším nárokům na udržování spojení a dalším dobrým vlastnostem. Nakonec jsme ho ale nenasadili jako samostatný web server, ale jen jako reverzní proxy před Apache. Uživatelé jsou totiž zvyklí na Apache, na jeho rewrite pravidla, soubor htaccess a podobně. To všechno lze v Nginx provozovat, ale je to jiné a zákazníci to nechtějí. V konfiguraci reverzní proxy využíváme z obojího to lepší.

Tomáš Hála nám dále vysvětluje, že firma nasadila novinku – takzvaný multihosting. Uživatelé tak mají možnost hostovat více webů v rámci jedné služby. Samozřejmě nás zajímá, proč je to v Česku tak výjimečná služba, když v zahraničí je to naprosto běžné. To je dost filozofická otázka a souvisí to se specifiky českého trhu. My jsme zaznamenali, že o to zájem je, tak jsme multihosting zavedli. Velkou roli tu samozřejmě hrají peníze, protože firmy se bojí, aby jim neklesly zisky. Samozřejmě to na příjmech vidět je, ale ve výsledku jsme na tom rozhodně netratili. Uživatelé prý navíc přišli na to, že více virtuálů mohou využívat také pro devel účely, kde si ladí prezentaci v prostředí totožném s tím produkčním. Na to by si jinak samostatný hosting nikdy neobjednali, říká Hála.

Na cestě do serverovny

Po obecném úvodu do toho, co a hlavně jak Active 24 dělá, se už těšíme na prohlídku serverovny samotné. Ta je umístěna v pražském Sitelu (dnes nese název CeColo), kde si firma pronajímá prostor i služby. Cesta tam nám autem zabere necelých dvacet minut. V Sitelu to známe, byli jsme tam před časem fotit zařízení NIXu.

Přesto se o tomto centru dozvídáme po cestě zajímavé informace. Sitel je vynikající datacentrum, zajímavé na něm je, že budova byla jako jedna z mála v Česku pro tento účel přímo vyprojektována, na rozdíl od většiny ostatních, kde se jen rekonstruují prostory původně postavené za jiným účelem, vysvětluje nám po cestě Hála.

Celá budova je připojena ke dvěma nezávislým rozvodnám elektrické energie, aby se vyvarovala výpadkům. Přesto se stává, že obě větve najednou vypadnou a na řadu přicházejí diesel generátory. My vůbec napájení ani zálohu neřešíme, vše je v rukou Sitelu a nezažil jsem, že bychom někdy byli bez proudu, kývá hlavou Hála. To už ale projíždíme místní zahrádkářskou kolonií a blížíme se k Sitelu. Napadá nás, že právě zázemí Sitelu by mohlo být jedním z dalších míst, na která bychom mohli na návštěvu. Co myslíte?

V Sitelu nás pěkně uvítají, ale ochranka zpozorní, když náš fotograf Ondřej rozbalí svou brašnu. Vy tu budete fotit? ptá se trochu výhružně hlídač. To si budete muset domluvit nahoře, dodává a vypadá neoblomně. Tomáš Hála nás na chvíli opouští, aby vše domluvil a vysvětlil. Po chvíli je zpět i s propustkami a my můžeme do serverovny.

V serverovně

Je tady ohromný hluk z klimatizací a serverů, takže musíme vypnout nahrávání. Teď přijde ke slovu fotoaparát a vlastní paměť, do které se musí uložit vše, co nám náš průvodce řekne. Naštěstí je schopen to zopakovat i později na diktafon, takže je z čeho přepisovat. Máme tu dvanáct racků asi se dvěma stovkami serverů od jednoho výrobce, v současné době od HP, říká Hála a odemyká postupně několik racků, abychom mohli nahlédnout. Na dvou stovkách fyzických serverů tu běží asi 600 virtuálních serverů v naší správě a k tomu VPS.

Unifikovaný hardware je pro nás důležitý, protože se o servery staráme sami. Nemáme zaplacený žádný servis. Držíme si vlastní hardwarové zálohy a posíláme sem vlastní lidi. Snažíme se být co nejvíc samostatní, abychom nebyli závislí na nějakém dodavateli, vysvětluje Hála a ukazuje nám rack plný náhradních switchů, disků a dalších zařízení.

Máme i záložní serverovnu, která byla původně u GTS, dnes je v Cassablance. Obě jsou propojeny přímou optickou linkou, takže kdyby něco selhalo, jsme schopni data posílat jinudy, říká Hála a dodává, že v záložní serverovně je další rack s technologiemi sloužícími pro zálohování dat a k tomu síťové prvky pro zálohu konektivity.

Ptáme se na to, jak jsou serverovny připojené do internetu. Samozřejmě máme dvě přípojky do NIXu, jednu přímo sem do Sitelu a druhou do GTS. Obě linky mají jen gigabit, ale nám to bohatě stačí, v současné době máme toky ve stovkách megabitů. Aktuálně je v běhu rozsáhlá obnova síťové infrastruktury, která bude samozřejmě připravena na přepnutí na 10 Gbps, jakmile to bude reálně potřeba. Kromě toho má Active ještě dvě nezávislé zahraniční konektivity. Ty jsou dále obohaceny o několik přímých propojů do dalších peeringových center – AMS-IX, DE-CIX a podobně.

Zajímavá je také problematika napájení. Už víme, že do racků vedou dvě nezávislé napájecí větve, ale i přesto nemohou být skříně úplně plné. Servery mají poměrně značnou spotřebu a my máme k dispozici dvakrát 16 A v každém stojanu. Kvůli rezervě se ale snažíme mít okamžitou spotřebu maximálně 11 nebo 12 A, aby nedošlo k nějakému domino efektu, kdy by při výpadku byly přetíženy další a další zásuvky a popadalo by to všechno, říká Hála. Nemáme problém s nedostatkem místa, nacpali bychom tam ještě podstatně více serverů. Problémem je nedostatek energie.

Zásadní nákladovou položkou v našem rozpočtu je samozřejmě elektřina. Navíc si spotřebu musíte vynásobit dvěma, protože co spotřebujete, musíte zase uchladit klimatizací, vysvětluje Tomáš Hála a krásně shrnuje problém do jedné věty: Řečeno s nadsázkou, webhostingy vlastně jen přeprodávají elektřinu svým zákazníkům. Ročně prý jde o miliony korun.

Ve firmě aktuálně probíhá změna interní topologie z kruhu na dvojitou hvězdu, podobně, jako to má v současné době NIX.CZ. Výhodou pak bude větší robustnost a škálovatelnost. Používáme výhradně síťové prvky Cisco, ale v rámci rekonstrukce infrastruktury začínáme nakupovat zařízení značky Juniper. Ukazuje se totiž, že jsou kvalitní a lépe se nám s nimi pracuje. Tato zařízení běží na systému zvaném JunOS, ale jedná se o modifikované FreeBSD. Máte tam třeba přístup do klasického shellu, můžete se přihlašovat SSH klíči a je zde implicitně podpora pro commit a rollback všech provedených konfiguračních změn, což správu velice zjednodušuje, pochvaluje si Hála.

V serverovně je také umístěn nový storage cluster od HP, který je rozdělen do jedenácti samostatných nodů, propojených gigabitovým Ethernetem. Jednotlivé uzly jsou rozděleny do obou zmíněných lokalit – aktuálně je jich v Sitelu sedm a čtyři jsou v Casablance. Je to největší instalace tohoto řešení v České republice. Dříve tomu v HP říkali LeftHand, dnes P4000. Výhodou je, že data jsou mezi uzly automaticky distribuována a nám se pak vše jeví jako jedna storage. V každém uzlu je 12 disků s 15 000 otáčkami, nad tím vším je vytvořen network RAID, takže je zajištěna redundance. I kdyby došlo k výpadku celého uzlu, všechna data budou stále dostupná, říká Hála a dodává, že při případném stěhování by bylo možné jednotlivé uzly odpojovat a postupně převážet, aniž by to zákazníci poznali. Navíc každý uzel má samozřejmě zdvojené napájení a je připojen dvěma linkami do dvou různých SAN switchů, takže pojistky proti jejich výpadku jsou na celé řadě úrovní.

Prakticky veškerý servis v serverovně je možné provádět na dálku, všechny servery mají KVM, jsou připojené ke dvěma lištám s managovatelnými zásuvkami, které je možné nezávisle zapínat a vypínat přes IP síť. Jen asi jednou do roka se stane, že je třeba vyrazit na neplánovaný výjezd. V případě problému má vždy pohotovost alespoň jeden technik, který situaci řeší. Většinou ji vyřeší vzdáleně přes SSH nebo přes KVM, přinejhorším může cvaknout IP zásuvkou a vypnout serveru elektřinu. Pak ještě máme takzvané ‚vzdálené ruce‘, kdy technik ze Sitelu může udělat nějaký jednoduchý úkon. Až když tohle všechno selže, musí se sednout do auta a vyrazit.

Tím naše návštěva v Active 24 končí, viděli jsme kanceláře i to hlavní – hučící servery. Ten hukot nám bude v hlavě znít ještě hodnou chvíli. Pracovat tu na přestavbě sítě třeba osm hodin v kuse musí být velmi nepříjemné. Pro nás byla půlhodinka docela příjemná. Kam máme zajít příště?

• 
• 
• 

Dalších 24 fotografií

(Foto: Ondřej Hošt)