Hlavní navigace

Network coding v peer-to-peer sieťach

Ondrej Mikle

Existuje aj iný spôsob posielania dát súborov, ako je jednoduché sťahovanie po kusoch, ktoré má niektoré veľmi zaujímavé vlastnosti: časti sú do veľkej miery navzájom zameniteľné. V ideálnom prípade dokonca stačí stiahnuť n ľubovolných rôznych častí súboru rozdeleného na n častí. Táto technika môže zoptimalizovať priepustnosť siete.

Network coding

Zatiaľ všetky spomenuté siete distribuovali samotné dáta súborov tak, že uzly si jednoducho posielali medzi sebou časti súborov. Takéto riešenie je funkčné a jednoduché, ale pri zriedkavých súboroch sa celkom často stáva, že pôvodný vlastník celého súboru opustí sieť a niekoľko uzlov ostane bez niektorej časti súboru. Klientské programy sa to väčšinou snažia riešiť tak, že sa snažia získať najprv najzriedkavejšiu časť súboru. Existuje ale spôsob, ktorý umožňuje, aby kusy súborov boli „navzájom zameniteľné“. V ideálnom prípade stačí ľubovolných rozdielnych n častí zakódovaného súboru namiesto konkrétnych n častí (ako v prípade klasických p2p sietí). Jedna z možností, ako to dosiahnuť, sa nazýva network coding. Network coding je pomerne rozsiahla teória, preto sa zameriame na jeden príklad, linear network coding. Na úplné pochopenie treba vedieť dosť z lineárnej algebry a konečných telies, ale myšlienka sa dá vysvetliť len s použitím jednoduchej (maximálne stredoškolskej) matematiky. Zároveň sa to bude ľahšie čítať a človeka hneď z toho netrafí šľak ;-) Pre účely výkladu nebudeme potrebovať nič zložitejšie než sčítanie, násobenie a umocňovanie v reálnych číslach.

Kódovanie súboru

Súbor sa, ako obvykle, najprv rozdelí na n častí. Teraz si predstavíme každú časť súboru nie ako postupnosť bitov, ale ako číslo (hoci šialene veľké), bity časti súboru sú reprezentácia toho čísla. Posielať nebudeme jednotlivé časti, ale ich lineárnu kombináciu. Lineárna kombinácia čísel a1, a2, …, an vznikne tak, že každý z členov vynásobíme nejakým koeficientom a sčítame, teda je to

c1a1 + c2a2 + … + cn*an

Členy ci sú koeficienty lineárnej kombinácie, ktoré si zvolíme. Pri kódovaní súboru si najprv náhodne zvolíme jednotlivé koeficienty ci, napr. ako celé číslo od 0 po 216-1. Väčšinu koeficientov si dokonca môžme zvoliť nulové, to znamená, že daná časť nebude zahrnutá v lineárnej kombinácii. Mnoho nulových koeficientov tiež znamená rýchlejšie počítanie. Po sieti iným účastníkom posielame práve až túto lineárnu kombináciu spolu s koeficientami, aké sme zvolili. Stiahnutie súboru teda znamená získanie n lineárnych kombinácií s ich koeficientami (matematici by doplnili, že lineárne nezávislých).

Najlepšie bude asi uviesť príklad. Predstavme si, že náš súbor rozdelíme na 4 kusy a tieto kusy budú mať hodnoty 4, 7, 12, 9 (v realite by boli samozrejme obrovské). Označíme tieto štyri hodnoty ako x, y, w, z. Účastník, ktorý si tento súbor bude chcieť od nás stiahnuť, si od nás teda vypýta postupne 4 lineárne kombinácie. Pošleme mu napríklad tieto štyri:

2x + 7w = 92, pošleme 92 a koeficienty (2, 0, 7, 0)
x + y + 3z = 32, pošleme 32 a koeficienty (1, 1, 0, 3)
7
y + 7z = 112, pošleme 112 a koeficienty (0, 7, 0, 7)
5
y + 14*z = 161, pošleme 161 a koeficienty (0, 5, 0, 14)

Dekódovanie súboru

Asi ste si už všimli, že sme tomu druhému účastníkovi vlastne poslali systém 4 lineárnych rovníc, kde neznáme sú práve časti súboru. Aby získal dekódovaný súbor, stačí mu vyriešiť ten systém. Na to klientský program musí invertovať maticu a vynásobiť ju obdržanými časťami. V skutočnosti sa koeficienty aj časti súborov nepočítajú v celých (alebo reálnych) číslach, ale v konečných telesách. Preto sa pri násobení/sčítavaní lineárne kombinácie nepredlžujú. Jediný overhead sú koeficienty, ale tie sú maličké (maximálne pár kB) oproti veľkosti lineárnej kombinácie (stovky kB až niekoľko MB).

Výhody network codingu

Pravdepodobnosť úspešného doťahania súboru je vždy aspoň taká, ako pri klasickej „rozdeľ a ťahaj“ metóde (vrátane stratégie „najzriedkavejšie prvé“), ale typicky vyššia. Jediný predpoklad je, že klient posielajúci lineárne kombinácie musí voliť koeficienty so správnym pravdepodobnostným rozdelením, tj. vhodný počet častí musí byť zahrnutý do lineárnej kombinácie a samotné koeficienty by sa nemali príliš opakovať (uniformné rozdelenie je asi dosť dobré).

Klient, ktorý ešte nemá doťahaný celý súbor (dostatočný počet lineárnych kombinácií), ich samozrejme môže zdieľať ďalej s ostatnými. Naviac má možnosť lineárne kombinácie ďalej kombinovať. Napr. dajme tomu, že má tieto tri lineárne kombinácie z prechádzajúceho príkladu (prvé číslo v zátvorke je hodnota tej lineárnej kombinácie, vnútorná zátvorka sú koeficienty):

(92, (2, 0, 7, 0)), (32, (1, 1, 0, 3)), (112, (0, 7, 0, 7))

Keď ho iný klient požiada o lineárnu kombináciu, vytvorí novú. Vyberie si najprv zase náhodne 3 koeficienty, každú z jeho troch lineárnych kombinácií vynásobí odpovedajúcim koeficientom a pošle ich súčet. Nové koeficienty vie vypočítať, pretože pozná staré. Napríklad si zvolí koeficienty 1, 2, 0. Vypočíta a pošle:

1(92, (2, 0, 7, 0)) + 2(32, (1, 1, 0, 3)) + 0*(112, (0, 7, 0, 7)) = (156, (4, 2, 7, 6))

Tým pádom vytvorí lineárnu kombináciu, ktorá obsahuje nové informácie, iné než ktorákoľvek jeho kombinácia predtým. Čím viac rozličných lineárnych kombinácií existuje, tým väčšia je pravdepodobnosť, že keď nejakú kombináciu stiahne od niektorého klienta, bude „vhodná“ (pre matematikov: lineárne nezávislá od už získaných). V skutočnosti ale klient nikdy nesťahuje nejakú kombináciu, o ktorej vie, že mu už nič nové nepovie. Pred stiahnutím kombinácie sa opýta druhého klienta najprv na koeficienty a porovná si ich s koeficientami už stiahnutých kombinácií. Ak by sa mu nehodili, povie druhému klientovi, nech mu ponúkne inú lineárnu kombináciu.

Pri network codingu (takmer) neexistuje „najzriedkavejší kus“, všetky časti (lineárne kombinácie) sú „rovnako dôležité“. Ako dôsledok sa (takmer) nikdy nestane, že by nejaký klient mal ako jediný určitú časť súboru, ktorú všetci chcú a musia na neho čakať.

Network coding vs. tradičné „rozdeľ a ťahaj“ metódy

O koľko lepší je vlastne linear network coding než klasický prenos skombinovaný so stratégiou „najprv najzriedkavejšie“? Na to nie je vôbec jednoduché odpovedať, existuje velmi veľa parametrov, od ktorých to závisí – počet uzlov siete, počet ľudí hľadajúcich daný súbor, počet ľudí zdieľajúcich daný súbor alebo jeho časť, priebeh pripájania a vypadávania uzlov, ktoré majú aspon časť súboru, atď.

Dá sa povedať, že pri populárnych súboroch (aspoň 100 ľudí zdieľa celý súbor) je pravdepodobnosť kompletného získania súboru takmer rovnaká (skoro 100%). Network coding ale môže stále optimalizovať samotný prenos. Vyplýva to z faktu, že network coding je teória založená na tokoch v sieťach, ktorá sa snaží minimalizovať nutnosť retransmisie rovnakých dát v sieti. Naopak je to ale pri zriedkavých súboroch – tam network coding ponúka veľké výhody.

Foťák

Letní fotosoutěž o ceny

Čas dovolených, prázdnin a digitálních foťáků je tady. Připravili jsme pro vás na prázdniny velkou fotosoutěž o zajímavé ceny. Máte šanci vyhrát PDA s operačním systémem Palm OS, set-top-box pro příjem digitální televize a další skvělé ceny! Pošlete nám své fotky a vyhrajte.

Asi pred rokom vyšla štúdia, ktorá mala na túto otázku odpovedať – model siete Avalanche od výskumnej sekcie Microsoftu. Porovnáva sa tam BitTorrent oproti sieti s network codingom. Štúdia nie je zlá, ale porovnáva sa s pomerne starou verziou BitTorrent protokolu (čo jej Bram Cohen, autor siete BitTorrent, už vtedy vytýkal). Ďalej je to len model, skutočná implementácia ešte neexistuje. Je ale stále dosť možné, že by to naozaj bolo rýchlejšie, len by to chcelo skutočne namerať – modeluje sa to dosť ťažko. Pokiaľ viem, neexistuje žiadna p2p sieť, ktorá by implementovala network coding.

Nevýhody network codingu

Invertovanie matice (pri počítaní sústavy lineárnych rovníc) nie je zrovna rýchla operácia. Závisí od jej veľkosti, teda na koľko častí bude distribuovaný súbor rozdelený (viac častí znamená spomalenie). Oproti času sťahovania to ale stále nie je veľa, naviac invertovať sa dá postupne, ako prichádzajú jednotlivé lineárne kombinácie. Oveľa väčší problém je pamäťová náročnosť. Pre najrýchlejšie dekódovanie súboru by mali byť všetky lineárne kombinácie naraz v pamäti. Keďže lineárne kombinácie dokopy sú práve také veľké, ako sťahovaný súbor, pri (niekoľko)giga­bajtových súboroch to môže byť trocha problém. Problém pamäťovej náročnosti sa dá ale obísť za cenu dlhšieho počítania.

Je tu ale ešte jeden problém, ktorý sme nespomenuli: ako zaručiť integritu prenášaných častí? Tradičné haše ako SHA-1 nám príliš nepomôžu, pretože násobenie a sčítanie by ich úplne rozhádzalo. Integrita by sa dala overiť až po stiahnutí súboru, ale v prípade chyby by sme nevedeli, kde nastala. Existuje ale riešenie.

Homomorfný haš

Homomorfná hašovacia funkcia H je taká, ktorá má nasledovnú vlastnosť: pre každé dve čísla x, y (resp. bloky dát) platí

H(x+y) = H(x) * H(y)

Táto vlastnosť nám umožní overovať aj lineárne kombinácie blokov na základe známych hašov jednotlivých kusov súboru (tie zverejní vlastník pri zverejňovaní súboru). Naviac od našej funkcie požadujeme bezpečnostné vlastnosti, ako jednosmernosť a odolnosť na kolízie. Našu funkcia H skonštruujeme nasledovne: Súbor bude delený na rovnako veľké bloky (okrem posledného), napr. 8 MB. Pri počítaní hašu každého bloku ho rozdelíme na m podblokov (napr. 512) po 16 kB. Funkciu definujeme takto:

H(b) = g1^b1 * g2^b2 * … * gm^bm

kde ‚^‘ znamená umocnenie. Členy gi sú tzv. generátory a sú pre všetkých rovnaké (raz určené pre celý systém), b predstavuje celý blok, bi sú jednotlivé podbloky daného bloku (zase si ich predstavíme ako číslo). Hľadaná vlastnosť H(x+y) = H(x) * H(y) plynie z jednoduchej vlastnosti umocňovania, že a^(x+y) = a^x*a^y pre každé a>0, reálne x a reálne y. V skutočnosti sa to počíta zase v konečných telesách, pretože v reálnych číslach by haše boli šialene veľké.

Haš overíme tak, že najprv vypočítame haš práve stiahnutej lineárnej kombinácie. Jej koeficienty vieme a tiež vieme, aké haše by mali mať jednotlivé ešte nekódované bloky (to sme si zistili na začiatku). Nech ci sú jednotlivé koeficienty a hi sú haše jednotlivých blokov (i od 1 po n, čo je počet blokov). Vypočítame číslo:

h1^c1 * h2^c2 * … * hn^cn

Porovnáme toto číslo oproti práve vypočítanému hašu stiahnutej lineárnej kombinácie. Ak sedí, lineárna kombinácia je v poriadku, inak je chybná. Bezpečnosť (jednosmernosť) hašu spočíva v tom, že nikto nedokáže nájsť také i, j, x, y, že gi^x = gj^y – keby dokázal, mohol by haš falšovať (poprehadzovaním poradia blokov alebo výmenou blokov). To je druhý dôvod, prečo sa nepočíta v reálnych číslach, tam by stačilo vypočítať logaritmus. V konečných telesách je to ale inak – tzv. problém diskrétneho logaritmu je nemožné riešiť v rozumnom čase v telesách (grupách) s určitými vlastnosťami.

Homomorfná hašovacia funkcia má niekoľko parametrov: spomínané gi a ešte dve prvočísla p a q. Výsledný haš je o dosť väčší než u klasických hašov typu SHA-1, rádovo 1024 bitov alebo viac. Problém diskrétneho logaritmu by bol riešiteľný v prípade, že by za p a q boli vybrané tzv. cooked primes („predvarené prvočísla“), čo sú špeciálne vybrané prvočísla, ktoré umožňujú niektoré inak nemožné útoky. Brániť sa dá tomu dvoma spôsobmi: buď veríme, že boli vybrané tvorcom software (p2p siete) poctivo, alebo budú vyberané pre každý súbor zvlášť. Vybratie pre daný súbor by vyzeralo tak, že by sa súbor zhašoval nejakou klasickou haš funkciou (napr. SHA-1) a tento haš by sa použil ako seed pre generátor pseudonáhodných čísel (PRNG). Nejaký jasne stanovený (a verejný) algoritmus by použil PRNG na vygenerovanie tých dvoch prvočísiel. Každý by si potom mohol overiť, že pre daný súbor boli vygenerované prvočísla čestne. Záujemcov o podrobnejší rozbor bezpečnosti homomorfného hašu odkážem na prácu On-the-Fly Verification of Rateless Erasure Codes for Efficient Content Distribution, sekcia IV – Homomorphic hashing.

Popísaná homomorfná hašovacia funkcia má kopu zaujímavých vlastností, ale má jednu drobnú chybu krásy – je o dosť pomalšia než bežné hašovacie funkcie (SHA-1, Tiger, atď.), pretože používa mnoho modulárneho umocňovania. Ak by ale network coding naozaj pomohol znížiť čas distribúcie súboru, tento nedostatok by sa tým mohol kompenzovať. Ďalšia pozitívna vec je, že takto definovaná homomorfná funkcia zrejme vydrží oveľa dlhšie snahám kryptoanalytikov o jej prelomenie, pretože je založená na dlho známom (a dlho odolávajúcom) probléme diskrétneho logaritmu.

Nabudúce

Keď sme už načali témy o bezpečnosti a integrite, pozrieme sa, ako fungujú siete snažiace sa o anonymitu účastníkov – siete založené na onion routingu.

Našli jste v článku chybu?

11. 7. 2006 17:26

Práve predpoklad "seed posle N blokov a odide, klienti neodidu nikdy" neplatí, v skutočnosti sa správajú klienti väčšinou opačne, po stiahnutí často prestanú zdieľať.

Na to, aby BitTorrent umožnil maximalizáciu pravdepodobnosti úspešného doťahania, musel by tracker neustále sledovať, kto čo aktuálne má (čo myslím nerobí). Tak by vedel distribuovať momentálne najzriedkavejšie bloky. Je nemožné, aby to vedel vždy presne, napr. niektorý uzol môže vypadnúť a on to zistí až po nejakom time…

11. 7. 2006 12:39

Na pochopenie myšlienky zrejme stačí matematika základnej školy. Ale veľa vecí je tam skrytých. Napr. pri násobení n-bitového čísla (blok) koeficientom (16-bitové číslo) normálne potrebujete k*n bitových operácií, kde k je počet jednotkových bitov v koeficiente. Ale to násobenie sa dá robiť v 2 bytových operáciách použitím modulárnej reprezentácie.

Každý blok je prvkom telesa GF(2^(2^m)), pre predstavu si za m dosaďte napr. 23 pre 1 MB bloky (2^23=1MB*8 bitov/byte). Teleso GF(2^(2^m)) je izomor…

Podnikatel.cz: Změny v cestovních náhradách 2017

Změny v cestovních náhradách 2017

Lupa.cz: Teletext je „internetem hipsterů“

Teletext je „internetem hipsterů“

DigiZone.cz: TV Philips a Android verze 6.0

TV Philips a Android verze 6.0

Lupa.cz: Kdo pochopí vtip, může jít do ČT vyvíjet weby

Kdo pochopí vtip, může jít do ČT vyvíjet weby

Vitalia.cz: Taky věříte na pravidlo 5 sekund?

Taky věříte na pravidlo 5 sekund?

Měšec.cz: mBank cenzuruje, zrušila mFórum

mBank cenzuruje, zrušila mFórum

120na80.cz: Horní cesty dýchací. Zkuste fytofarmaka

Horní cesty dýchací. Zkuste fytofarmaka

Vitalia.cz: Paštiky plné masa ho zatím neuživí

Paštiky plné masa ho zatím neuživí

120na80.cz: Pánové, pečujte o svoje přirození a prostatu

Pánové, pečujte o svoje přirození a prostatu

Podnikatel.cz: Udávání a účtenková loterie, hloupá komedie

Udávání a účtenková loterie, hloupá komedie

Lupa.cz: Proč firmy málo chrání data? Chovají se logicky

Proč firmy málo chrání data? Chovají se logicky

Vitalia.cz: Když přijdete o oko, přijdete na rok o řidičák

Když přijdete o oko, přijdete na rok o řidičák

Lupa.cz: Propustili je z Avastu, už po nich sahá ESET

Propustili je z Avastu, už po nich sahá ESET

DigiZone.cz: Rádio Šlágr má licenci pro digi vysílání

Rádio Šlágr má licenci pro digi vysílání

Měšec.cz: Air Bank zruší TOP3 garanci a zdražuje kurzy

Air Bank zruší TOP3 garanci a zdražuje kurzy

Lupa.cz: Co se dá měřit přes Internet věcí

Co se dá měřit přes Internet věcí

Měšec.cz: Kdy vám stát dá na stěhování 50 000 Kč?

Kdy vám stát dá na stěhování 50 000 Kč?

Lupa.cz: Insolvenční řízení kvůli cookies? Vítejte v ČR

Insolvenční řízení kvůli cookies? Vítejte v ČR

Podnikatel.cz: Udávání kvůli EET začalo

Udávání kvůli EET začalo

Podnikatel.cz: Chtějte údaje k dani z nemovitostí do mailu

Chtějte údaje k dani z nemovitostí do mailu