Гонка за перше місце у рейтингу TOP500 завжди була жорстокою. Це змагання, яке визначається чистою швидкістю та величезним енергоспоживанням. Тепер правила гри назавжди змінились. Вперше в історії суперкомп’ютер подолав поріг ексафлопсу. Це не маленький крок. Це стрибок у нову еру обчислень.
Frontier, розташований у Національній лабораторії Оук-Рідж у США, досяг безпрецедентного результату. Тепер він обробляє 1,1 трильйона операцій із плаваючою комою на секунду. Це число важко уявити. Для порівняння: це один мільярд мільярдів обчислень кожну секунду. Ми офіційно увійшли до діапазону ексафлопсів.
Але що це означає для світу за межами лабораторії? І як ми до цього дійшли?
Визначення ексафлопсу
Ексафлопс – це один квінтиліон операцій з плаваючою комою на секунду. Термін походить від “флопс” (flops), що означає Floating Point Operations (операції з плаваючою комою). Це стандартна метрика вимірювання продуктивності суперкомп’ютерів. Донедавна межею були петафлопси (один квадрильйон). Ексафлопси є збільшення в тисячу разів.
Досягнення Frontier – це не лише швидкість. Це також ефективність та архітектура. Він використовує процесори AMD EPYC та прискорювачі Radeon Instinct. Ця комбінація дозволяє забезпечувати величезну продуктивність, не споживаючи всю енергомережу невеликої країни. Ну, чи майже всю.
Як це вимірюється?
Можливо, ви запитуєте, як виходить таке приголомшливе число. Значення виходить за допомогою бенчмарку LINPACK. Це стандартний набір тестів для ранжування суперкомп’ютерів TOP500. Він вирішує систему лінійних рівнянь. Чим швидше машина може вирішити ці складні рівняння, тим вищий її рейтинг.
Результат Frontier у 1,1 ексафлопсі на LINPACK підтверджує його домінування. Це не теоретичний максимум. Це виміряна реальність. Це означає, що апаратне забезпечення може підтримувати рівень обчислювальної щільності під навантаженням. Це доводить, що конструкція працює. Це доводить, що системи охолодження, міжз’єднання та програмний стек функціонують як задумано.
Чому це важливо зараз
Ви можете запитати, навіщо нам машина, здатна виконувати квінтильйон обчислень за секунду. Відповідь криється у складності. Деякі завдання надто складні для поточних систем. Моделювання клімату потребує симуляції атмосферних взаємодій на детальному рівні. Відкриття нових ліків включає моделювання молекулярних взаємодій з атомною точністю. Навчання штучного інтелекту потребує обробки величезних наборів даних у рекордний час.
Frontier може впоратися з цими завданнями. Він може запускати симуляції, які раніше були неможливими. Він може скоротити терміни досліджень із років до місяців. Він може пришвидшити наукові відкриття.
Візьмемо, наприклад, фолдинг (згортання) білків. Розуміння того, як згортаються білки є ключем до лікування захворювань. Frontier може моделювати ці процеси безпрецедентної точністю. Це призводить до створення найкращих методів лікування. Швидше. Ефективніше.
Зсув у обчислювальній потужності
Це не просто перемога для Оук Рідж. Це зрушення у ландшафті високопродуктивних обчислень. Бар’єри зруйновано. Інші лабораторії прагнутимуть цього числа. Вони спробують перевершити його. Але базовий рівень змінився.
Ера ексафлопсів настала. Вона приносить нові дзвінки. Споживання енергії є серйозною проблемою. Але вона також відкриває нові можливості. Ми більше не обмежені швидкістю наших машин. Ми обмежені складністю
За межами бенчмарків TOP500
Ми вимірюємо обчислювальну потужність комп’ютера тим, скільки операцій може виконати за секунду. Це базовий показник. У нас більше ядер. Ми маємо спеціалізовані прискорювачі. Сира швидкість злетіла до неба. Але офіційна метрика суперкомп’ютерів, список TOP500, використовує специфічну програму. Вона вирішує величезні системи лінійних рівнянь. Вона використовує подвійну точність, що означає 64-бітну точність. Це золотий стандарт для рейтингу.
1997 року ми досягли позначки в терафлопс. Один трильйон операцій із плаваючою комою на секунду. Потім настав 2008 рік. Почалася епоха петафлопсів. Один квадрильйон операцій. Це була велика подія. Це означало, що ми могли з більшою зручністю моделювати складні погодні патерни та згортання білків. Але ціль завжди зміщувалася вгору. Наступним символічним порогом став екзафлоп. Один квінтильйон обчислень за секунду.
Розглянемо масштаб. Вік Всесвіту становить приблизно $10^{18}$ секунд. Якби людина вирішувала одне завдання кожну секунду з моменту Великого вибуху, комп’ютер ексафлопного рівня міг би виконати ту саму роботу за одну секунду. Це не просто швидше. Це інший вимір часу.
Реальна наука на швидкості ексафлопсів
Крістіан Плессль із Центру паралельних обчислень Університету Падерборна добре це знає. Він та його команда нещодавно провели симуляцію на справжній швидкості у екзафлопси. Вони використовували суперкомп’ютер Perlmutter у Національному центрі наукових обчислень у галузі енергетики США. Ціль? Шипоподібний білок SARS-CoV-2.
Це не був стандартний запуск бенчмарку. TOP500 вимагає точності 64 біти. Команда Плессля натомість використовувала точність 32/16 біт. Чому? Для моделювання на атомному рівні цієї деталізації часто буває достатньо, і вона значно ефективніша. Результат був приголомшливим. Симуляція 83 мільйонів атомів зайняла лише 42 секунди.
“Розмір цього числа стає зрозумілішим, коли ви усвідомлюєте, що вік Всесвіту становить близько $10^{18}$ секунд.”
Вони виконали близько $47 \times 10^{18}$ операцій із плаваючою комою. Це 1,1 екзафлопсу. Новий світовий рекорд. Це доводить, що обчислення ексафлопного рівня більше не є теоретичною віхою. Це робоча дійсність для наукових відкриттів.
Чому вибір точності має значення
Перехід від 64-бітної до 32/16-бітної точності підкреслює зростаючий тренд у високопродуктивних обчисленнях. Нам не завжди потрібна максимальна точність, щоб отримати значні результати. У багатьох симуляціях знижена точність заощаджує величезну кількість енергії та часу. Список TOP500 залишається важливим для стандартизованого порівняння. Він показує, хто має найбільшу сиру потужність подвійний точності. Але справжня наука часто відбувається на периферії.
Команда Плессля показала, що ми можемо моделювати вірусні структури із атомарною точністю за секунди. Ця швидкість важлива розробки ліків. Вона важлива розуміння того, як згортаються білки. Вона важлива реагування на пандемії. Розрив між рейтингом та реальністю скорочується.
Перегони за наступним числом продовжуються. Але фокус зміщується. Йдеться не лише про пікову кількість у списку. Йдеться про те, що ми можемо реально зробити із цією потужністю. Моделювання шиповидного білка вірусу за 42 секунди змінює
Frontier: перший у світі суперкомп’ютер ексафлопного рівня
Це число тепер офіційно. 30 травня 2022 року. Список TOP500, опублікований на конференції Supercomputing у Гамбурзі, підтвердив це.
frontier.
Суперкомп’ютер Національної лабораторії Ок-Рідж (ORNL) у США – це не просто швидко. Це перший у світі справжній суперкомп’ютер ексафлопного рівня. І цим історія науки назавжди змінилася.
Цифри говорять самі за себе. 1,102 трильйона операцій із плаваючою комою на секунду. Це 1,1 ексафлопу. В офіційному бенчмарку Frontier подолав цю позначку. Нарешті.
“Frontier відкрив нову еру обчислень ексафлопного рівня та допомагає вирішувати найскладніші наукові завдання світу.”
Томас Захарія, директор ORNL, поділяє цю думку. Для нього ця віха лише початок. Це передчуття чогось значно більшого. Неймовірні можливості Frontier як інструменту науки.
Але як досягається така продуктивність?
Frontier був збудований зовсім недавно. Проте він вражає своєю ефективністю. 8,7 мільйонів обчислювальних ядер. Це «м’язи», які стоять за обчислювальною силою. Але справжня сила полягає у енергетичному балансі. 52,23 гігфлоп на ват.
Щодо енергоефективно для такого рівня.
У світі, де центри обробки даних споживають дедалі більше електроенергії, це не просто деталь. Це ключ. Адже обчислення ексафлопного рівня означають не лише швидкість. Вони означають вирішення складних проблем, які раніше здавалися неможливими.
Прогноз погоди. Кліматичне моделювання. Геноміка.
Ці завдання вимагають не просто більшої потужності. Їм потрібна правильна потужність. Та, яка не спалює планету, поки що обчислює ці завдання.
Frontier показує, що це можливо.
Епоха почалася. Те, що починається як ексафлопні обчислення, можливо, незабаром виявиться піонерською роботою для постексафлопних обчислень. Але то вже інша історія.
Спочатку йдеться про те, що є зараз.
Цифри на місці. Машина працює. А наукові завдання чекають на своє рішення.
Масштабування за межі закону Мура: реальні вузькі місця ексафлопсних обчислень
Томас Ліпперт та Естела Суарес із Суперкомп’ютерного центру в Юлісі не прикрашають ситуацію. Перехід до ексафлопних обчислень — це не просто питання купівлі додаткових компонентів та натискання великої червоної кнопки. Це важка праця. Сотні етапів. Безліч рівнів складності. І старі правила? Вони більше не діють.
Двадцять років закон Мура був надійним предиктором. Щодесять років продуктивність процесорів зростала в сто разів. У поєднанні з іншими оптимізаціями у суперкомп’ютерній сфері це означало збільшення чистої потужності у тисячу разів. Ця епоха закінчилася. Приблизно з 2005 року закони масштабування перестали працювати. Ви не можете покладатися на частоту тактового сигналу або щільність транзисторів для виконання основної роботи.
Проблема тепла носить фізичний, а не тільки логістичний характер
Поговоримо про енергію. Саме тут теорія зустрічається із практикою. Одна серверна шафа в сучасному суперкомп’ютері споживає 150 кіловат електроенергії. Подумайте про це. Це у десять-п’ятнадцять разів більше, ніж споживання системою опалення у середньому приватному будинку.
Якщо не керувати цим теплом, система випарується за лічені хвилини. Все просто.
Десять років тому було достатньо повітряного охолодження. Тепер? Вам потрібні системи охолодження із циркуляцією теплої води. Вони ефективніші. Вони відводять тепло до того, як воно знищить кремнієві чіпи. І оскільки вони ефективно вловлюють відпрацьоване тепло, його можна безпосередньо подавати до систем опалення будівель. Йдеться не лише про те, щоб зберегти комп’ютер у живих; мова йде про те, щоб не розплавити саму будівлю.
Управління тисячами машин
Потім іде шар управління. Як адмініструвати систему, що складається із 10 000 машин? Ви не можете зробити це вручну. Ви не можете ходити із флешкою.
Ручне оновлення програмного забезпечення за таких масштабів рівносильне смертному вироку. Вам потрібне оркестроване програмне забезпечення. Вам потрібна система, яка здатна автономно адмініструвати всю інфраструктуру. Якщо програмний шар не є надійним, апаратне забезпечення марне.
Чому нам потрібно більше, ніж просто «швидше»
То навіщо проходити всі ці труднощі? Навіщо будувати ексафлопну машину?
Відповідь криється у роздільній здатності. У кліматичному моделюванні ми зараз упираємося у стіну. На петафлопсному суперкомп’ютері найкраще, чого ми можемо досягти, – це сітка з роздільною здатністю 10 кілометрів для світових моделей. Нам потрібна роздільна здатність в один кілометр. Нам необхідно вловлювати локальні зони — явища малого масштабу, які складно взаємодіють. Ви не можете точно змоделювати ураган, якщо квадрати вашої сітки розміром невелику країну.
«Наша філософія полягає в тому, щоб постійно ставати краще, моделювати більші та складніші проблеми, щоб у результаті отримати все більш реалістичну картину світу».
Йдеться не лише про погоду. Це молекулярна динаміка. Це відкриття нових ліків. Якщо обчислювальна потужність вища, симуляція надійніша. Результат, який ви отримуєте від комп’ютера, стає науково обґрунтованим, а не грубою оцінкою.
З’єднання непоєднуваного
Естела Суарес зазначає, що точність – це лише половина справи. Друга половина – це інтеграція. У кліматичних науках не можна моделювати лише атмосферу. Ви повинні моделювати океани. Ви повинні моделювати поверхню Землі. Математичне зв’язування цих змінних неймовірно складно.
Нейробіологія стикається з тією ж стіною. Ми хочемо змоделювати весь людський мозок. Але щоб зрозуміти хвороби, нам потрібно одночасно розглядати окремі нейрони та їх специфічні функції. Поточної обчислювальної потужності цього недостатньо. Нам потрібна ексафлопна машина, щоб подолати розрив між макроскопічним моделюванням та мікроскопічними деталями.
Перехід до гетерогенних обчислень
Оскільки частота тактового сигналу досягла фізичної межі через обмеження тепла та енергії, індустрія змінила курс. Ми почали упаковувати більше ядер у кожний модуль. Саме тому ваші телефони та ноутбуки мають багатоядерні процесори.
Потім ми звернули увагу на інші рішення. Графічний процесор (GPU). Спочатку створені для ігор, вони пропонують величезну потужність паралельної обробки за відносно низького енергоспоживання. Суперкомп’ютери активно їх поглинають.
Ця тенденція продовжуватиметься. Ми дивимося на технології, які були створені для суперкомпьютинга, але можуть бути примусово адаптовані до роботи. Квантові комп’ютери. Нейроморфні чіпи, що імітують людський мозок.
У Юлісі роблять ставку на модульну архітектуру. Ви визначаєте різні кластери з різними апаратними характеристиками. Ви поєднуєте їх. Користувачі можуть одночасно звертатися до цих модулів залежно від того, що вимагає їхнього конкретного коду. Це вже не моноліт “один розмір для всіх”. Це набір інструментів.
І цього все одно замало. Ми завжди намагатимемося розширювати кордони. Ексафлопна машина це лише наступний крок, а не фінішна риса.
Програмне забезпечення: справжня вузька шийка у обчисленнях ексафлопсного рівня
Усі фіксують погляд на кремнії. на системах охолодження. На неймовірній густині процесорів. Але це лише половина справи.
Апаратне забезпечення – це лише двигун. Програмне забезпечення – це кермо, коробка передач та посібник користувача, об’єднані в один складний клубок. Якщо код не справляється з хаосом, апаратне забезпечення стає дорогим підставкою для паперів.
Системи стають фрактально складними. Не можна просто додати більше ядер та очікувати лінійного масштабування. Головна проблема – гетерогенність. Ви керуєте GPU, TPU, спеціалізованими прискорювачами та традиційними кластерами CPU. Всі вони розмовляють різними мовами. В усіх різні профілі затримок. Стек програмного забезпечення повинен долати ці розриви, не звалившись під вагою власних абстрактних верств.
Робимо «чорну скриньку» доступною
Йдеться не лише про сирі обчислювальні потужності. Йдеться про доступність.
Дослідники – не системні адміністратори. Вони біологи, кліматологи та астрофізики. Їх не турбує когерентність кешу. Їх цікавлять результати. Програмне забезпечення має приховувати складність. Воно має надавати єдиний інтерфейс кінцевому користувачеві, навіть якщо на бекенді заплутане павутиння зі спеціалізованого обладнання.
Ми говоримо про нові інтерфейси. Про покращені шари абстракції. Про інструменти, які дозволяють переносити та оптимізувати прикладний код для машин, яких ще навіть не існує. Це інженерний підхід із прицілом на майбутнє. Не можна оптимізувати код для машини, яку ви бачили лише у науковій статті.
Проект DEEP-SEA
Ми спостерігаємо, як це відбувається у реальному часі. Подивіться на проект DEEP-SEA. Він уже на стадії реалізації. Ціль? Розробка програмного забезпечення наступного покоління, спеціально призначеного для ексафлопних середовищ.
Вони не просто патчать старий код. Вони перебудовують фундамент. Готують прикладний код для ефективної роботи на майбутніх архітектурах. Йдеться про створення проміжного програмного забезпечення (middleware), яке зробить ексафлопні системи придатними для використання. Не просто сильними. Придатними для використання.
Тому що сира потужність не має значення, якщо ви не можете нею керувати.
