Компанія Anthropic оголосила про вкрай незвичайний спосіб впровадження своєї новітньої ІІ-моделі – Mythos. Замість широкого публічного релізу передова ІІ-лабораторія обмежує доступ до моделі, надаючи його лише вузькому колу найбільших корпорацій та постачальників критично важливої інфраструктури, включаючи Amazon Web Services і JPMorgan Chase.
Офіційна причина? Безпека. Anthropic стверджує, що Mythos настільки ефективно виявляє вразливість у програмному забезпеченні, що публічний доступ до неї може дати зловмисникам потужний інструмент для злому глобальної цифрової інфраструктури.
Дилема кібербезпеки
Суть проблеми полягає у подвійному призначенні великих великих мовних моделей (LLM). Модель, здатна знаходити вразливість «нульового дня» (раніше невідомі помилки в ПЗ), є золотою жилою для захисників, але водночас і зброєю для атакуючих.
Надаючи Mythos тільки великим підприємствам, Anthropic прагне створити перевагу для захисту, дозволяючи компаніям закривати вразливості до того, як їх встигнуть використовувати хакери. Однак галузеві експерти вважають, що реальна користь таких моделей може бути неоднозначною:
- Можливість експлуатації проти виявлення: Ден Лахав, генеральний директор лабораторії ІІ-кібербезпеки Irregular, зазначає, що виявлення бага – це не те саме, що створення робочого експлойту. Справжня цінність ІІ-інструменту залежить від того, чи зможе він знайти вразливості, які можна об’єднати в ланцюжок для проведення повноцінної атаки.
- Питання ефективності: Стартап Aisle стверджує, що спеціалізовані, компактніші моделі з відкритими вагами часто можуть повторити успіхи в кібербезпеці, досягнуті масивними моделями на кшталт Mythos. Це наводить на думку, що “груба сила” масштабу моделі – не єдиний шлях до ефективного кіберзахисту.
Фактор «дистиляції»: захист прибутку
Хоча аргументи на користь безпеки виглядають переконливо, галузеві спостерігачі припускають наявність більш комерційного мотиву за цим обмеженим випуском: запобігання дистиляції моделей.
Дистиляція – це процес, при якому більш дрібні та дешеві моделі навчаються на основі результатів роботи масивних, високотехнологічних моделей. Це дозволяє невеликим лабораторіям «імітувати» можливості передових моделей без астрономічних витрат на їхнє початкове навчання. Для таких компаній, як Anthropic, OpenAI та Google, дистиляція становить пряму загрозу їх конкурентній перевагі та моделям монетизації.
На думку Девіда Крошоу, генерального директора exe.dev, стратегія селективного випуску може мати дві стратегічні цілі:
1. Створення «корпоративного маховика»: Залишаючи найпросунутіші версії ексклюзивними для великих корпорацій, лабораторії забезпечують безперервний потік високоприбуткових контрактів з ентерпрайз-сектором.
2. Удушення конкурентів: До того моменту, коли модель стане доступна широкому загалу або невеликим лабораторіям, нова, ще потужніша версія вже буде закрита корпоративними угодами. Це фактично утримує дрібних гравців у стані вічної погоні.
Зростаюча «холодна війна» у розробці ІІ
Цей крок відбиває загальну тенденцію в екосистемі ІІ. Спостерігається загострення гонки між:
* Передовими лабораторіями: Вони інвестують мільярди у створення найбільших та найздібніших моделей та агресивно захищають свою інтелектуальну власність.
* Гнучкими конкурентами: Вони використовують моделі з відкритим вихідним кодом та методи дистиляції (часто пов’язані з фірмами з Китаю), щоб швидко досягти економічного та технологічного паритету.
Згідно з звітами, Anthropic, Google та OpenAI все частіше співпрацюють, щоб виявляти та блокувати структури, що займаються несанкціонованою дистиляцією, розглядаючи це як серйозну загрозу своїм бізнес-моделям.
Рішення обмежити доступ до Mythos може бути майстерним ходом подвійного призначення: воно виконує реальний обов’язок захисту безпеки інтернету і одночасно зміцнює комерційне домінування лабораторій, захищаючи їх від дистиляції.
Висновок
Поки що неясно, чи є Mythos реальною загрозою безпеці чи стратегічним бізнес-ходом. Однак підхід Anthropic підкреслює складне перетин глобальної кібербезпеки та високоризикованої боротьби за панування на ринку ІІ.
