В эти выходные свет погас для моделей Mythos и Fable 5.
Anthropic вырубил их. Доступ исчез бесследно.
Почему?
В пятницу днем федеральное правительство США уведомило компанию о том, что нашло способ обойти защиту (jailbreak) в Fable 5.
Это была лазейка. Брешь в броне. Та, которая позволяла пользователям обходить ограничения, которые Anthropic встроила для предотвращения злоупотреблений.
Помните, как Anthropic запускал Mythos?
Они не открывали шлюзы настежь. По крайней мере, не сразу. Они предоставили доступ лишь избранным: государственным агентствам, профессионалам в сфере IT и энтузиастам кибербезопасности. Потому что эта модель могла выявлять уязвимости с точностью хищника, заметившего добычу.
А теперь?
Экспортный контроль. Самый строгий.
Правительство США заявило, что обход защиты — это серьезная проблема. Большая. Поэтому Anthropic пришлось заблокировать доступ для всех, кто не является гражданами США.
Иностранцы? За бортом.
Неважно, находятся они в Америке или нет. Не имеет значения.
В чем подвох? Anthropic не может легко отделить пользователей. Они не могут просто отфильтровать туристов или экспатов, сидящих в Сан-Франциско. Поэтому они пошли по ядерному сценарию.
Они отключили всё.
В пятницу вечером Anthropic попытался сопротивляться. Компания не согласилась с жесткостью реакции. Они утверждали, что если этот стандарт укоренится — если федеральные власти будут запрещать модель каждый раз, когда кто-то найдет способ обойти её правила безопасности, — это фактически остановит передовые исследования в области ИИ. Точка.
«Мы считаем, что правительство должно иметь полномочия блокировать небезопасные развертывания… через процесс, который является прозрачным, справедливым… и основанным на технических фактах. Это действие не соответствует этим принципам».
Заявление звучит хорошо. Но оно не открывает API.
Anthropic отправил команду в Вашингтон. Состоялись встречи. Звонились телефоны. В субботу лидеры компании потратили часы на разговоры с министром торговли Говардом Лутником и директором Национального киберуправления Шоном Кернроксом. Об этом собрании сообщило The Wall Street Journal.
Это не первый их конфликт с Ватиканом… ой, с Вашингтоном.
Ранее в этом году Пентагон объявил Anthropic риском для цепочки поставок. Почему? Потому что Anthropic хотел установить ограничения (guardrails). Никакого полностью автономного оружия. Никакой массовой внутренней слежки.
Пентагон же хотел полной свободы действий. Для всех законных целей.
Дэвид Сакс? Он не помогал. Бывший крипто-царь, ныне член президентского научного совета, вышел в X (Twitter). Он отверг любую связь между конфликтом с Пентагоном и этим отключением. Но он сказал, что мяч на стороне Anthropic.
Сакс утверждал, что Anthropic поставил прибыль выше безопасности. Они продолжали поддерживать работу потребительской модели, пока существовала уязвимость.
Ему легко это говорить.
Айхам Бучер, стратег по ИИ из Корнеллского университета, считает, что ситуация гораздо сложнее, чем просто обновление патча.
Любую модель можно взломать.
Такова природа зверя. Jailbreak — это инъекция промпта. Запрос на ролевую игру. Скажите ИИ, что вы пишете сценарий для фильма. И вдруг он расскажет вам, как ограбить банк, потому что он не «совершает» преступление. Это «художественная литература».
По мере того как модели становятся умнее, они лучше справляются с этими трюками.
Anthropic пытался бороться. Для Fable 5 они хранили данные чатов в течение 30 дней. Необычно. Некоторым бизнесам это не понравилось. Конфиденциальность данных — чувствительная тема. Но хранение данных помогло Anthropic выявлять вредоносные паттерны. Находить дыры. Затыкать их.
Правительство хочет, чтобы Anthropic исправил эту дыру.
Бучер говорит, что правительство не понимает технологию. Дыра всегда будет следующей. Всегда.
«Mythos» звучит эксклюзивно. Редко.
Но это не так. Не совсем.
Другие лаборатории могут сделать то же самое. GPT-5.5 от OpenAI уже близок по навыкам кибербезопасности. Может быть, не идентично, но разрыв сокращается стремительно.
Почему? Потому что математика и код масштабируются прекрасно. Письмо — беспорядочно. Его трудно объективно проверить.
Математика бинарна. Код — это логика. Модели легко учатся этим вещам. И они учатся экспоненциально.
Это не просто Anthropic против мира.
Это целая отрасль. Китайские разработчики из DeepSeek или Alibaba идут навстречу. Для них нет препятствий в навыках кодирования. Только данные и вычислительные мощности.
Администрация Трампа говорит о сохранении лидерства Америки над Китаем. Они выдвигают дерегуляцию как ключ к глобальному доминированию.
Так зачем отключать всё сейчас?
Возможно, Mythos их тряхнул.
Это показывает хаотичный поворот в Вашингтоне. В прошлом году план был такой: ограничить регуляции, чтобы усилить доминирование. А теперь? Президент Трамп подписал добровольный исполнительный указ. Дать правительству возможность проверять передовые модели до их запуска.
Добровольный?
«Добровольность этого процесса, похоже, длилась недолго», — сказал Самир Джейн из Центра демократии и технологий, «Добровольность, похоже, длилась недолго».
Стоп. Цитата повторяется в источнике, но подразумевает краткость.
Давайте исправим эту логику. Добровольность длилась всего несколько секунд.
Теперь у нас есть неясные действия. За закрытыми дверями.
Никакого четкого процесса. Никаких ясных причин. Просто запрет.
Джейн ссылается на Первую поправку.
ИИ генерирует речь. Разработчики принимают редакционные решения. Это тоже речь. Регулирование этого? Вам нужно верховенство закона.
Вам нужен четкий интерес. Важный.
Но это? Это кажется произвольным.
Укрепляет ли это безопасность страны?
Или замедляет ли это двигатель?
Бучер говорит, что проблема не только в заблокированных пользователях. Это талант. Иностранцы, работающие в Anthropic, лишены доступа к своим собственным инструментам. Они не могут помочь построить следующее поколение модели, которую они помогают проектировать.
«Я не вижу, как это не замедляет разработку моделей», — сказал он.
Вашингтон хочет безопасности.
Разработчики хотят свободы выпускать продукты.
Где-то посередине модель была отключена. И никто не знает, включат ли её снова.
Или какой стандарт применим дальше.
