Wyścig o pierwsze miejsce w rankingu TOP500 zawsze był zacięty. To konkurencja, którą definiuje czysta prędkość i ogromne zużycie energii. Teraz zasady gry zmieniły się na zawsze. Po raz pierwszy w historii superkomputer przekroczył próg eksaskali. To nie jest mały krok. To skok w nową erę informatyki.
Frontier, zlokalizowane w Narodowym Laboratorium Oak Ridge w Stanach Zjednoczonych, osiągnęło bezprecedensowy wynik. Obecnie przetwarza 1,1 biliona operacji zmiennoprzecinkowych na sekundę. Tę liczbę trudno sobie wyobrazić. Dla porównania, oznacza to miliard miliardów obliczeń na sekundę. Oficjalnie weszliśmy w zakres eksaskali.
Ale co to naprawdę oznacza dla świata poza laboratorium? A jak dotarliśmy do tego punktu?
Definicja eksaskali
Exaflop to jeden trylion operacji zmiennoprzecinkowych na sekundę. Termin pochodzi od słowa „flops”, co oznacza operacje zmiennoprzecinkowe. Jest to standardowy wskaźnik służący do pomiaru wydajności superkomputerów. Do niedawna limitem były petaflopy (jeden biliard). Exaflopy oznaczają tysiąckrotny wzrost.
Osiągnięcie granicy to nie tylko szybkość. Chodzi także o wydajność i architekturę. Wykorzystuje procesory AMD EPYC i akceleratory Radeon Instinct. To połączenie pozwala na uzyskanie ogromnej mocy bez zużywania całej sieci energetycznej małego kraju. No, albo prawie wszystko.
Jak to jest mierzone?
Być może zastanawiasz się, jak powstaje tak oszałamiająca liczba. Wartość uzyskano za pomocą testu porównawczego LINPACK. Jest to standardowy zestaw testów służących do rankingu superkomputerów TOP500. Rozwiązuje układ równań liniowych. Im szybciej maszyna może rozwiązać te złożone równania, tym wyższa jest jej ocena.
Wynik Frontiera na poziomie 1,1 exaflopsa na LINPACK potwierdza jego dominację. Nie jest to teoretyczne maksimum. To jest mierzona rzeczywistość. Oznacza to, że sprzęt może obsłużyć ten poziom gęstości obliczeniowej pod obciążeniem. To dowód, że projekt działa. Dowodzi to, że systemy chłodzenia, złącza i stos oprogramowania działają zgodnie z przeznaczeniem.
Dlaczego to ma teraz znaczenie
Możesz zapytać, po co nam maszyna, która może wykonać kwintylion obliczeń na sekundę. Odpowiedź kryje się w złożoności. Niektóre zadania są zbyt złożone dla obecnych systemów. Modelowanie klimatu wymaga szczegółowej symulacji interakcji atmosferycznych. Odkrywanie nowych leków obejmuje modelowanie interakcji molekularnych z atomową precyzją. Szkolenie sztucznej inteligencji wymaga przetwarzania ogromnych zbiorów danych w rekordowo krótkim czasie.
Frontier poradzi sobie z tymi wyzwaniami. Może przeprowadzać symulacje, które wcześniej były niemożliwe. Może skrócić czas badań z lat do miesięcy. Może przyspieszyć odkrycia naukowe.
Weźmy na przykład zwijanie białek. Zrozumienie sposobu zwijania się białek jest kluczem do leczenia chorób. Frontier może modelować te procesy z niespotykaną dotąd dokładnością. Prowadzi to do opracowania lepszych metod leczenia. Szybciej. Bardziej wydajny.
Zmiana mocy obliczeniowej
To nie tylko zwycięstwo Oak Ridge. Oznacza to zmianę w krajobrazie obliczeń o wysokiej wydajności. Bariery zostały przełamane. Pozostałe laboratoria będą dążyć do osiągnięcia tej liczby. Będą próbowali go prześcignąć. Ale podstawa się zmieniła.
Nadeszła era eksaskali. Niesie nowe wyzwania. Zużycie energii jest poważnym problemem. Ale otwiera też nowe możliwości. Nie ogranicza nas już prędkość naszych samochodów. Ogranicza nas złożoność
Poza benchmarkami TOP500
Moc obliczeniową komputera mierzymy liczbą operacji, które może wykonać w ciągu sekundy. To jest podstawowy wskaźnik. Mamy więcej rdzeni. Posiadamy specjalistyczne akceleratory. Surowa prędkość gwałtownie wzrosła. Jednak oficjalny wskaźnik superkomputerów, lista TOP500, wykorzystuje konkretny program. Rozwiązuje ogromne układy równań liniowych. Wykorzystuje podwójną precyzję, co oznacza precyzję 64-bitową. To złoty standard ocen.
W 1997 roku osiągnęliśmy granicę teraflopów. Jeden bilion operacji zmiennoprzecinkowych na sekundę. Potem przyszedł rok 2008. Rozpoczęła się era petaflopów. Jeden biliard operacji. To było wielkie wydarzenie. Oznaczało to, że mogliśmy łatwiej modelować złożone wzorce pogodowe i zwijanie białek. Ale cel zawsze przesuwał się w górę. Kolejnym symbolicznym progiem był eksaflop. Jeden kwintylion obliczeń na sekundę.
Weźmy pod uwagę skalę. Wiek Wszechświata wynosi około 10 $^{18}$ sekund. Gdyby od Wielkiego Wybuchu ktoś rozwiązywał jeden problem co sekundę, komputer eksaskalowy mógłby wykonać to samo zadanie w ciągu jednej sekundy. To nie tylko szybsze. To inny wymiar czasu.
Prawdziwa nauka z szybkością eksaskali
Dobrze o tym wie Christian Plössl z Centrum Obliczeń Równoległych na Uniwersytecie w Paderborn. On i jego zespół niedawno przeprowadzili symulacje przy rzeczywistych prędkościach eksaskalowych. Wykorzystali superkomputer Perlmutter w amerykańskim Narodowym Centrum Obliczeń Naukowych ds. Energii. Cel? Białko szczytowe wirusa SARS-CoV-2.
To nie była standardowa premiera benchmarku. TOP500 wymaga 64-bitowej precyzji. Zamiast tego zespół Plössla zastosował precyzję 32/16-bitową. Dlaczego? W przypadku modelowania na poziomie atomowym ten poziom szczegółowości jest często wystarczający i znacznie bardziej wydajny. Rezultat był oszałamiający. Symulacja 83 milionów atomów trwała zaledwie 42 sekundy.
„Wielkość tej liczby stanie się wyraźniejsza, gdy zdamy sobie sprawę, że wszechświat ma około 10 dolarów^{18}$ sekund.”
Wykonali około 47 $ \times 10^{18}$ operacji zmiennoprzecinkowych. To 1,1 eksaflopa. Nowy rekord świata. Dowodzi to, że obliczenia eksaskalowe nie są już teoretycznym kamieniem milowym. To jest realna rzeczywistość odkryć naukowych.
Dlaczego precyzja wyboru ma znaczenie
Przejście z precyzji 64-bitowej na 32/16-bitową podkreśla rosnący trend w obliczeniach o wysokiej wydajności. Nie zawsze potrzebujemy maksymalnej precyzji, aby uzyskać znaczące wyniki. W wielu symulacjach zmniejszona precyzja pozwala zaoszczędzić ogromne ilości energii i czasu. Lista TOP500 pozostaje ważna dla standardowych porównań. Pokazuje, kto ma najbardziej surową moc podwójnej precyzji. Ale prawdziwa nauka często dzieje się na marginesie.
Zespół Plössla pokazał, że możemy modelować struktury wirusowe z atomową precyzją w ciągu kilku sekund. Szybkość ta jest istotna dla opracowywania leków. Jest to ważne dla zrozumienia sposobu zwijania się białek. Jest to ważne, aby móc reagować na pandemie. Rozbieżność między ocenami a rzeczywistością zmniejsza się.
Wyścig o kolejny numer trwa. Ale punkt ciężkości się zmienia. Nie chodzi tylko o numer szczytu na liście. Chodzi o to, co faktycznie możemy zrobić z tą mocą. Zmiany w modelowaniu białka kolczastego wirusa w ciągu 42 sekund
Frontier: pierwszy na świecie superkomputer eksaskalowy
Liczba ta jest już oficjalna. 30 maja 2022 r. Potwierdziła to lista TOP500 opublikowana na konferencji Supercomputing w Hamburgu.
Granica.
Superkomputer Oak Ridge National Laboratory (ORNL) w USA jest nie tylko szybki. To pierwszy na świecie prawdziwy superkomputer eksaskalowy. I w ten sposób historia nauki została zmieniona na zawsze.
Liczby mówią same za siebie. 1,102 biliona operacji zmiennoprzecinkowych na sekundę. To 1,1 eksaflopa. W oficjalnym benchmarku Frontier przekroczył tę granicę. Wreszcie.
„Frontier zapoczątkował nową erę obliczeń eksaskalowych i pomaga rozwiązywać najbardziej złożone problemy naukowe świata”.
Thomas Zachariah, dyrektor ORNL, podziela tę opinię. Dla niego ten kamień milowy to dopiero początek. To oczekiwanie na coś znacznie większego. Niesamowita moc Frontier jako narzędzia nauki.
Ale jak osiąga się tę wydajność?
Frontier został niedawno zbudowany. Zachwyca jednak swoją skutecznością. 8,7 miliona rdzeni obliczeniowych. To właśnie te „mięśnie” odpowiadają za moc obliczeniową. Ale prawdziwa moc leży w równowadze energetycznej. 52,23 gigaflopów na wat.
Stosunkowo energooszczędny jak na ten poziom.
W świecie, w którym centra danych stale zużywają coraz więcej energii elektrycznej, nie jest to tylko szczegół. To jest klucz. W końcu obliczenia eksaskalowe to nie tylko szybkość. Oznaczają rozwiązywanie złożonych problemów, które wcześniej wydawały się niemożliwe.
Prognoza pogody. Modelowanie klimatu. Genomika.
Zadania te wymagają czegoś więcej niż tylko większej mocy. Potrzebują odpowiedniej mocy. Taki, który nie spala planety, kalkulując te zadania.
Frontier pokazuje, że jest to możliwe.
Rozpoczęła się era. To, co zaczęło się jako obliczenia eksaskalowe, może wkrótce okazać się pionierskimi pracami w dziedzinie obliczeń posteksaskalowych. Ale to inna historia.
Najpierw rozmawiamy o tym, co jest teraz.
Numery są na swoim miejscu. Samochód działa. A problemy naukowe czekają na rozwiązanie.
Skalowanie wykraczające poza prawo Moore’a: prawdziwe wąskie gardła obliczeń eksaskalowych
Thomas Lippert i Estela Suarez z Centrum Superkomputerów w Jülich nie osładzają sytuacji. Przejście na obliczenia eksaskalowe to nie tylko kwestia zakupu dodatkowych komponentów i naciśnięcia dużego czerwonego przycisku. To ciężka praca. Setki etapów. Wiele poziomów trudności. A stare zasady? Już nie działają.
Od dwudziestu lat prawo Moore’a jest niezawodnym prognostykiem. Co dziesięć lat wydajność procesora wzrasta stukrotnie. W połączeniu z innymi optymalizacjami w dziedzinie superkomputerów oznaczało to tysiąckrotny wzrost mocy pierwotnej. Ta era się skończyła. Od około 2005 roku te przepisy dotyczące skalowania przestały działać. Nie można już polegać na szybkości zegara ani gęstości tranzystorów, aby wykonać większość pracy.
Problem ciepła ma charakter fizyczny, a nie tylko logistyczny.
Porozmawiajmy o energii. Tutaj teoria spotyka się z praktyką. Jedna szafa serwerowa w nowoczesnym superkomputerze zużywa 150 kilowatów energii elektrycznej. Pomyśl o tym. To dziesięć do piętnastu razy więcej niż zużycie energii cieplnej w przeciętnym domu prywatnym.
Jeżeli ciepło to nie zostanie zagospodarowane, system wyparuje w ciągu kilku minut. To proste.
Dziesięć lat temu wystarczające było chłodzenie powietrzem. Teraz? Potrzebujesz systemów chłodzenia, które cyrkulują ciepłą wodę. Są bardziej wydajne. Usuwają ciepło, zanim zniszczy ono chipy krzemowe. A ponieważ skutecznie wychwytują ciepło odpadowe, można je wprowadzić bezpośrednio do systemów grzewczych budynków. Nie chodzi tylko o utrzymanie komputera przy życiu; chodzi o to, żeby nie stopić samego budynku.
Zarządzaj tysiącami maszyn
Następnie następuje warstwa kontrolna. Jak administrować systemem składającym się z 10 000 maszyn? Nie możesz tego zrobić ręcznie. Nie możesz chodzić z pendrive’em.
Ręczna aktualizacja oprogramowania na taką skalę jest równoznaczna z wyrokiem śmierci. Potrzebujesz zorganizowanego oprogramowania. Potrzebujesz systemu, który będzie w stanie samodzielnie administrować całą Twoją infrastrukturą. Jeśli warstwa oprogramowania nie jest niezawodna, sprzęt jest bezużyteczny.
Dlaczego potrzebujemy czegoś więcej niż tylko „szybszego”
Po co więc przechodzić przez te wszystkie kłopoty? Po co budować maszynę eksaskalową?
Odpowiedź leży w rozdzielczości. Uderzamy teraz w ścianę w modelowaniu klimatu. Na superkomputerze petaflopowym najlepsze, co możemy osiągnąć, to siatka o rozdzielczości 10 km dla modeli globalnych. Potrzebujemy pozwolenia na kilometr. Musimy uchwycić lokalne strefy – zjawiska na małą skalę, które oddziałują na siebie w złożony sposób. Nie można dokładnie modelować huraganu, jeśli kwadraty siatki mają rozmiar małego kraju.
„Naszą filozofią jest ciągłe doskonalenie symulacji większych, bardziej złożonych problemów, aby ostatecznie stworzyć coraz bardziej realistyczny obraz świata”.
Nie chodzi tylko o pogodę. To jest dynamika molekularna. To odkrycie nowych leków. Im większa moc obliczeniowa, tym symulacja jest bardziej wiarygodna. Wynik uzyskany z komputera staje się naukowo uzasadniony, a nie tylko przybliżonym szacunkiem.
Podłączanie tego, czego nie można podłączyć
Estela Suarez zauważa, że dokładność to tylko połowa sukcesu. Druga połowa to integracja. W naukach o klimacie nie można po prostu modelować atmosfery. Trzeba modelować oceany. Musisz modelować powierzchnię Ziemi. Matematyczne powiązanie wszystkich tych zmiennych jest niezwykle trudne.
Neuronauka uderza w ten sam mur. Chcemy symulować cały ludzki mózg. Aby jednak zrozumieć choroby, musimy jednocześnie przyjrzeć się poszczególnym neuronom i ich specyficznym funkcjom. Obecna moc obliczeniowa nie jest do tego wystarczająca. Potrzebujemy maszyny eksaskalowej, aby wypełnić lukę między modelowaniem makroskopowym a szczegółami mikroskopowymi.
Przejście na przetwarzanie heterogeniczne
Gdy częstotliwość zegara osiągnęła fizyczny limit ze względu na ograniczenia termiczne i energetyczne, branża zmieniła kurs. Zaczęliśmy pakować więcej rdzeni do każdego modułu. Dlatego Twoje telefony i laptopy mają procesory wielordzeniowe.
Następnie zwróciliśmy uwagę na inne rozwiązania. Jednostki przetwarzania grafiki (GPU). Pierwotnie zaprojektowane do gier, oferują ogromną moc przetwarzania równoległego przy stosunkowo niskim zużyciu energii. Superkomputery aktywnie je absorbują.
Ten trend będzie kontynuowany. Przyglądamy się technologiom, które nie zostały zaprojektowane z myślą o superkomputerach, ale można je na siłę przystosować do pracy. Komputery kwantowe. Neuromorficzne chipy imitujące ludzki mózg.
Jülich stawia na architekturę modułową. Definiujesz różne klastry o różnych charakterystykach sprzętowych. Łączysz je. Użytkownicy mogą uzyskać dostęp do tych modułów jednocześnie, w zależności od wymagań ich konkretnego kodu. Nie jest to już jednolity monolit. To jest zestaw narzędzi.
A to wciąż nie wystarczy. Zawsze będziemy dążyć do przekraczania granic. Maszyna eksaskalowa to tylko kolejny krok, a nie meta.
Oprogramowanie: prawdziwe wąskie gardło w obliczeniach eksaskalowych
Wszyscy wpatrują się w krzem. O układach chłodzenia. Przy niesamowitej gęstości procesorów. Ale to tylko połowa historii.
Sprzęt to tylko silnik. Oprogramowanie to kierownica, skrzynia biegów i instrukcja obsługi połączone w jeden skomplikowany splot. Jeśli kod nie poradzi sobie z chaosem, sprzęt stanie się tylko kosztowną kartką papieru.
Systemy stają się fraktalnie złożone. Nie można po prostu dodać więcej rdzeni i oczekiwać liniowego skalowania. Głównym problemem jest heterogeniczność. Zarządzasz procesorami graficznymi, TPU, niestandardowymi akceleratorami i tradycyjnymi klastrami procesorów. Wszyscy mówią różnymi językami. Każdy ma inny profil opóźnień. Stos oprogramowania musi wypełnić te luki, nie zapadając się pod ciężarem własnych abstrakcyjnych warstw.
Udostępnienie „czarnej skrzynki”.
Nie chodzi tylko o czystą moc obliczeniową. Chodzi o dostępność.
Badacze nie są administratorami systemu. Są to biolodzy, klimatolodzy i astrofizycy. Nie dbają o spójność pamięci podręcznej. Są zainteresowani wynikami. Oprogramowanie musi ukrywać złożoność. Musi zapewniać użytkownikowi końcowemu pojedynczy interfejs, nawet jeśli zaplecze stanowi splątana sieć specjalistycznego sprzętu.
Mówimy o nowych interfejsach. O ulepszonych warstwach abstrakcji. O narzędziach pozwalających przenieść i zoptymalizować kod aplikacji na maszyny, które jeszcze nie istnieją. Jest to podejście inżynieryjne z myślą o przyszłości. Nie możesz zoptymalizować kodu dla maszyny, którą widziałeś tylko w artykule naukowym.
Projekt DEEP-SEA
Obserwujemy to wydarzenie w czasie rzeczywistym. Spójrz na projekt DEEP-SEA. Jest już w trakcie realizacji. Cel? Twórz oprogramowanie nowej generacji zaprojektowane specjalnie dla środowisk eksaskalowych.
Nie tylko łatają stary kod. Odbudowują fundamenty. Przygotuj kod aplikacji do efektywnej pracy na przyszłych architekturach. Mówimy o stworzeniu oprogramowania pośredniczącego, które sprawi, że systemy eksaskalowe staną się użyteczne. Nie tylko potężny. Zdatny do użytku.
Ponieważ surowa moc nie ma znaczenia, jeśli nie możesz jej kontrolować.
