Boj o první místo v žebříčku TOP500 byl vždy urputný. Je to soutěž definovaná čistou rychlostí a masivní spotřebou energie. Nyní se pravidla hry navždy změnila. Poprvé v historii překonal superpočítač práh exascale. To není malý krok. Toto je skok do nové éry výpočetní techniky.
Frontier, sídlící v Oak Ridge National Laboratory ve Spojených státech, dosáhl bezprecedentního výsledku. Nyní zpracovává 1,1 bilionu operací s pohyblivou řádovou čárkou za sekundu. Toto číslo je těžké si představit. Abychom to uvedli do perspektivy, je to miliarda miliard výpočtů každou sekundu. Oficiálně jsme vstoupili do řady exascale.
Co to ale ve skutečnosti znamená pro svět mimo laboratoř? A jak jsme se k tomuto bodu dostali?
Definice exascale
Exaflop je jeden kvintilion operací s pohyblivou řádovou čárkou za sekundu. Termín pochází z „flops“, což znamená operace s pohyblivou řádovou čárkou. Toto je standardní metrika pro měření výkonu superpočítačů. Donedávna byly limitem petaflopy (jedna kvadrilion). Exaflopy představují tisícinásobný nárůst.
Dosažení hranic není jen o rychlosti. Jde také o efektivitu a architekturu. Využívá procesory AMD EPYC a akcelerátory Radeon Instinct. Tato kombinace umožňuje enormní výkon bez spotřeby celé elektrické sítě malé země. No, nebo skoro všechno.
Jak se to měří?
Možná se ptáte, jak takové ohromující číslo vzniká. Hodnota se získá pomocí benchmarku LINPACK. Jedná se o standardní sadu testů používaných k hodnocení TOP500 superpočítačů. Řeší soustavu lineárních rovnic. Čím rychleji dokáže stroj vyřešit tyto složité rovnice, tím vyšší je jeho hodnocení.
Frontierův výsledek 1,1 exaflops na LINPACK potvrzuje jeho dominanci. Toto není teoretické maximum. Toto je měřená realita. To znamená, že hardware může podporovat tuto úroveň hustoty výpočtu při zatížení. To dokazuje, že design funguje. To dokazuje, že chladicí systémy, propojení a softwarový stack fungují tak, jak mají.
Proč na tom teď záleží
Možná se ptáte, proč potřebujeme stroj, který dokáže provést kvintilion výpočtů za sekundu. Odpověď spočívá ve složitosti. Některé úlohy jsou pro současné systémy příliš složité. Modelování klimatu vyžaduje simulaci atmosférických interakcí na podrobné úrovni. Objev nových léků zahrnuje modelování molekulárních interakcí s atomovou přesností. Trénink umělé inteligence vyžaduje zpracování obrovských datových souborů v rekordním čase.
Frontier tyto výzvy zvládne. Může spouštět simulace, které byly dříve nemožné. Může zkrátit dobu výzkumu z let na měsíce. Může urychlit vědecké objevy.
Vezměte si například skládání proteinů. Pochopení toho, jak se proteiny skládají, je klíčem k léčbě nemocí. Frontier dokáže tyto procesy modelovat s nebývalou přesností. To vede k vývoji lepších léčebných postupů. Rychleji. Účinnější.
Posun ve výpočetním výkonu
Není to jen výhra pro Oak Ridge. Jde o posun v oblasti vysoce výkonných počítačů. Bariéry byly prolomeny. Ostatní laboratoře se budou snažit tohoto čísla dosáhnout. Pokusí se ho překonat. Ale základní čára se změnila.
Nastala éra exascale. Přináší nové výzvy. Spotřeba energie je hlavním problémem. Ale také otevírá nové možnosti. Už nás neomezuje rychlost našich aut. Jsme omezeni složitostí
Více než TOP500 benchmarků
Měříme výpočetní výkon počítače podle toho, kolik operací může provést za sekundu. Toto je základní ukazatel. Máme více jader. Máme specializované akcelerátory. Syrová rychlost raketově vzrostla. Ale oficiální metrika pro superpočítače, seznam TOP500, používá specifický program. Řeší obrovské soustavy lineárních rovnic. Používá dvojitou přesnost, což znamená 64bitovou přesnost. Toto je zlatý standard pro hodnocení.
V roce 1997 jsme dosáhli hranice teraflopů. Jeden bilion operací s pohyblivou řádovou čárkou za sekundu. Pak přišel rok 2008. Začala éra petaflopů. Jedna kvadrilion operací. Byla to velká událost. To znamenalo, že jsme mohli snadněji modelovat složité vzorce počasí a skládání proteinů. Cíl se ale vždy posunul nahoru. Dalším symbolickým prahem byly exaflopy. Jeden kvintilion výpočtů za sekundu.
Zvažme měřítko. Stáří vesmíru je přibližně $10^{18}$ sekund. Pokud by člověk od Velkého třesku vyřešil každou sekundu jeden problém, exascale počítač by mohl dokončit stejnou práci za jednu sekundu. Není to jen rychlejší. To je další dimenze času.
Skutečná věda rychlostí exascale
Christian Plössl z Centra pro paralelní výpočty na univerzitě v Paderbornu to dobře ví. On a jeho tým nedávno spustili simulace při skutečných rychlostech exascale. Použili superpočítač Perlmutter v americkém Národním centru pro vědecké výpočty pro energii. Cíl? Spike protein viru SARS-CoV-2.
Nešlo o standardní spuštění benchmarku. TOP500 vyžaduje 64bitovou přesnost. Plösslův tým místo toho použil 32/16bitovou přesnost. Proč? Pro modelování na atomární úrovni je tato úroveň detailů často dostatečná a mnohem efektivnější. Výsledek byl ohromující. Simulace 83 milionů atomů trvala pouhých 42 sekund.
“Velikost tohoto čísla bude jasnější, když si uvědomíte, že vesmír je asi $10^{18}$ sekund starý.”
Provedli asi $47 \krát 10^{18}$ operací s pohyblivou řádovou čárkou. To je 1,1 exaflops. Nový světový rekord. To dokazuje, že exascale computing již není teoretickým milníkem. Toto je pracovní realita pro vědecké objevy.
Proč na přesnosti záleží
Přechod z 64bitové na 32/16bitovou přesnost zdůrazňuje rostoucí trend ve vysoce výkonných počítačích. Ne vždy potřebujeme maximální přesnost, abychom dosáhli smysluplných výsledků. V mnoha simulacích šetří snížená přesnost obrovské množství energie a času. Seznam TOP500 zůstává důležitý pro standardizované srovnání. Ukazuje, kdo má nejsurovější sílu dvojité přesnosti. Ale skutečná věda se často odehrává na okraji.
Plösslův tým ukázal, že dokážeme modelovat virové struktury s atomovou přesností během několika sekund. Tato rychlost je důležitá pro vývoj léků. Je důležité pochopit, jak se proteiny skládají. Je to důležité pro reakci na pandemie. Propast mezi hodnocením a realitou se zmenšuje.
Závod o další číslo pokračuje. Pozornost se ale posouvá. Není to jen o nejvyšším počtu na seznamu. Jde o to, co vlastně s tou silou můžeme dělat. Modelování vrcholového proteinu viru za 42 sekund se změní
Frontier: první exascale superpočítač na světě
Toto číslo je nyní oficiální. 30. května 2022. Seznam TOP500 zveřejněný na konferenci Supercomputing v Hamburku to potvrdil.
Hranice.
Superpočítač Oak Ridge National Laboratory (ORNL) v USA není jen rychlý. Toto je první skutečný exascale superpočítač na světě. A tak se historie vědy navždy změnila.
Čísla mluví sama za sebe. 1,102 bilionu operací s pohyblivou řádovou čárkou za sekundu. To je 1,1 exaflops. V oficiálním benchmarku Frontier tuto značku překonal. Konečně.
“Frontier zahájil novou éru exascale computingu a pomáhá řešit nejsložitější vědecké problémy světa.”
Thomas Zachariah, ředitel ORNL, opakuje tento sentiment. Pro něj je tento milník jen začátkem. Je to očekávání něčeho mnohem většího. Neuvěřitelná síla Frontieru jako nástroje vědy.
Jak je ale tohoto výkonu dosaženo?
Frontier byl nedávno postaven. Je však působivý ve své účinnosti. 8,7 milionu výpočetních jader. To jsou „svaly“ stojící za výpočetním výkonem. Ale skutečná síla spočívá v energetické bilanci. 52,23 gigaflops na watt.
Relativně energeticky efektivní pro tuto úroveň.
Ve světě, kde datová centra neustále spotřebovávají stále více elektřiny, to není jen detail. To je klíč. Koneckonců, exascale computing není jen o rychlosti. Znamenají řešení složitých problémů, které se dříve zdály nemožné.
Předpověď počasí. Klimatické modelování. Genomika.
Tyto úkoly vyžadují více než jen více energie. Potřebují správnou sílu. Ten, který nespálí planetu, zatímco vypočítává tyto úkoly.
Frontier ukazuje, že je to možné.
Éra začala. To, co začíná jako exascale computing, se může brzy ukázat jako průkopnická práce pro post-exascale computing. Ale to už je jiný příběh.
Nejprve mluvíme o tom, co je nyní.
Čísla jsou na místě. Auto je funkční. A vědecké problémy čekají na vyřešení.
Scaling Beyond Moore’s Law: Skutečná úzká místa Exascale Computing
Thomas Lippert a Estela Suarez ze Superpočítačového centra v Jülichu situaci nijak necukrují. Přejít na exascale computing není jen otázka nákupu dalších komponent a stisknutí velkého červeného tlačítka. Je to dřina. Stovky etap. Mnoho úrovní obtížnosti. A stará pravidla? Už nefungují.
Po dvacet let byl Moorův zákon spolehlivým prediktorem. Každých deset let se výkon procesoru zvýšil stonásobně. V kombinaci s dalšími optimalizacemi v oblasti superpočítačů to znamenalo tisícinásobný nárůst surového výkonu. Tato éra skončila. Počínaje rokem 2005 tyto zákony o škálování přestaly fungovat. Už se nemůžete spoléhat na takt nebo hustotu tranzistorů, že většinu práce uděláte.
Problém s teplem je fyzický, nejen logistický.
Pojďme se bavit o energii. Zde se teorie setkává s praxí. Jedna serverová skříň v moderním superpočítači spotřebuje 150 kilowattů elektřiny. Přemýšlejte o tom. To je desetkrát až patnáctkrát více než spotřeba topného systému v průměrném soukromém domě.
Pokud toto teplo není řízeno, systém se během několika minut odpaří. Je to jednoduché.
Před deseti lety stačilo chlazení vzduchem. Teď? Potřebujete chladicí systémy, které cirkulují teplou vodu. Jsou efektivnější. Odstraňují teplo dříve, než zničí křemíkové čipy. A protože účinně zachycují odpadní teplo, lze je přivádět přímo do topných systémů budov. Nejde jen o udržení počítače při životě; jde o to, aby nedošlo k roztavení samotné budovy.
Spravujte tisíce strojů
Pak přichází na řadu kontrolní vrstva. Jak spravovat systém skládající se z 10 000 strojů? Nemůžete to udělat ručně. S flashkou se nedá chodit.
Ruční aktualizace softwaru v tomto rozsahu se rovná rozsudku smrti. Potřebujete organizovaný software. Potřebujete systém, který dokáže autonomně spravovat celou vaši infrastrukturu. Pokud softwarová vrstva není spolehlivá, hardware je k ničemu.
Proč potřebujeme víc než jen „rychlejší“
Tak proč procházet všemi těmi potížemi? Proč stavět exascale stroj?
Odpověď spočívá v rozlišení. V modelování klimatu nyní narážíme na zeď. Na petaflopovém superpočítači je nejlepší, čeho můžeme dosáhnout, 10kilometrová mřížka s rozlišením pro globální modely. Potřebujeme povolení na jeden kilometr. Potřebujeme zachytit místní zóny – fenomény malého rozsahu, které se vzájemně ovlivňují složitým způsobem. Nemůžete přesně modelovat hurikán, pokud vaše čtverce v mřížce mají velikost malé země.
“Naší filozofií je neustále se zdokonalovat v simulaci větších a složitějších problémů, abychom nakonec vytvořili stále realističtější obraz světa.”
Není to jen o počasí. To je molekulární dynamika. To je objev nových léků. Pokud je výpočetní výkon vyšší, simulace je spolehlivější. Výsledek, který získáte z počítače, se stává vědecky platným a ne pouze hrubým odhadem.
Připojení nepřipojitelného
Estela Suarezová poznamenává, že přesnost je jen polovina úspěchu. Druhá polovina je integrace. V klimatologii nemůžete jen modelovat atmosféru. Musíte modelovat oceány. Musíte modelovat povrch Země. Propojit všechny tyto proměnné matematicky je neuvěřitelně obtížné.
Neurověda naráží na stejnou zeď. Chceme simulovat celý lidský mozek. Ale abychom porozuměli nemocem, musíme se současně podívat na jednotlivé neurony a jejich specifické funkce. Na to současný výpočetní výkon nestačí. Potřebujeme exascale stroj, který překlene mezeru mezi makroskopickým modelováním a mikroskopickými detaily.
Přechod na heterogenní výpočty
Jak frekvence hodin dosáhla fyzického limitu kvůli tepelným a energetickým omezením, průmysl změnil kurz. Začali jsme do každého modulu balit více jader. To je důvod, proč mají vaše telefony a notebooky vícejádrové procesory.
Poté jsme zaměřili svou pozornost na jiná řešení. Grafické procesorové jednotky (GPU). Původně byly navrženy pro hraní her, nabízejí enormní výkon paralelního zpracování při relativně nízké spotřebě energie. Superpočítače je aktivně pohlcují.
Tento trend bude pokračovat. Díváme se na technologie, které nebyly navrženy pro superpočítače, ale lze je násilně přizpůsobit, aby fungovaly. Kvantové počítače. Neuromorfní čipy, které napodobují lidský mozek.
Jülich sází na modulární architekturu. Definujete různé clustery s různými hardwarovými charakteristikami. Spojíte je. Uživatelé mohou k těmto modulům přistupovat současně v závislosti na tom, co jejich konkrétní kód vyžaduje. Už to není monolit jedné velikosti. Toto je sada nástrojů.
A to je stále málo. Vždy se budeme snažit posouvat hranice. Exascale stroj je jen další krok, ne cílová čára.
Software: Skutečné úzké hrdlo v exascale computingu
Všichni upírají oči na křemík. Na chladicích systémech. Při neuvěřitelné hustotě procesoru. Ale to je jen polovina příběhu.
Hardware je jen motor. Software je volant, převodovka a uživatelská příručka srolované do jedné složité spleti. Pokud kód nezvládne chaos, z hardwaru se stane jen drahý cár papíru.
Systémy se stávají fraktálně složité. Nelze jen přidat další jádra a očekávat lineární škálování. Hlavním problémem je heterogenita. Spravujete GPU, TPU, vlastní akcelerátory a tradiční clustery CPU. Všichni mluví různými jazyky. Každý má jiný profil latence. Zásobník softwaru musí překlenout tyto mezery, aniž by se zhroutil pod tíhou vlastních abstraktních vrstev.
Zpřístupnění „černé skříňky“.
Nejde jen o hrubý výpočetní výkon. Jde o dostupnost.
Výzkumníci nejsou správci systému. Jsou to biologové, klimatologové a astrofyzici. Nezajímá je koherence mezipaměti. Zajímají je výsledky. Software musí skrývat složitost. Musí poskytovat koncovému uživateli jediné rozhraní, i když je backend spletitá síť specializovaného hardwaru.
Mluvíme o nových rozhraních. O vylepšených vrstvách abstrakce. O nástrojích, které umožňují portovat a optimalizovat aplikační kód pro stroje, které ještě ani neexistují. Jedná se o inženýrský přístup s ohledem na budoucnost. Nemůžete optimalizovat kód pro stroj, který jste viděli pouze ve vědecké práci.
Projekt DEEP-SEA
Sledujeme, jak se to děje v reálném čase. Podívejte se na projekt DEEP-SEA. Již je v realizaci. Cíl? Vyvíjejte software nové generace speciálně navržený pro exascale prostředí.
Neopravují jen starý kód. Obnovují základ. Připravte aplikační kód pro efektivní práci na budoucích architekturách. Hovoříme o vytvoření middlewaru, díky kterému budou systémy exascale použitelné. Nejen mocný. Vhodné k použití.
Protože surová síla nevadí, pokud ji nedokážete ovládat.
