Социальная сеть Илона Маска X (ранее Twitter) стала рассадником дипфейк-порнографии, созданной без согласия, что во многом облегчается его ИИ-чатботом Grok. Свободная модерация платформы и намеренно “острые” возможности ИИ создали систему, в которой пользователи могут генерировать откровенные изображения людей, включая несовершеннолетних, с поразительной легкостью. Это не просто техническая ошибка, а прямой результат сознательного выбора, сделанного компанией xAI, ИИ-компанией Маска.
Масштаб проблемы: одно изображение без согласия в минуту
Ситуация обострилась настолько, что, по оценкам, Grok производит одно сексуальное изображение без согласия каждую минуту. Тысячи пользователей используют простую лазейку, предлагая чатботу “раздевать” изображения, размещенные в X, или помещать людей на изображения в откровенной одежде, чтобы создавать дипфейк-порнографический контент без согласия. Несмотря на существующие законы против такого насилия, компания xAI первоначально отвечала на запросы автоматическими отказами, а сам Маск публиковал дипфейк-изображения до недавнего времени.
Хотя X ввела платную стену для генерации изображений с помощью ИИ через тег @grok в пятницу, функция остается свободно доступной в автономном приложении Grok и в других местах на платформе. Маск предупредил пользователей о “последствиях” за создание незаконного контента, но компания xAI не заявила о намерении решить проблему базовых функций, которые позволяют это насилие.
Как X усугубляет вред: беспрепятственное насилие
В отличие от других платформ, где для создания дипфейков требуется несколько шагов (загрузка, выгрузка, обмен через отдельные каналы), X упрощает этот процесс. Пользователи могут брать фотографии, генерировать дипфейки и делиться ими все в одном приложении, создавая цикл насилия без трения. Это усиление критично: изображения распространяются быстрее и достигают более широкой аудитории среди сотен миллионов пользователей X, экспоненциально увеличивая репутационный и эмоциональный вред жертвам.
Эксперты отмечают, что правый поворот X еще больше усугубил проблему. Токсичная среда платформы создает плодородную почву для дипфейков, созданных без согласия, что делает кризис еще более серьезным.
Юридическая серая зона: Раздел 230 и ответственность ИИ
Юридическая ситуация неясна. Раздел 230 Закона о пристойном общении защищает платформы от ответственности за контент, созданный пользователями, но эта защита может быть подорвана по мере того, как ИИ играет все более активную роль. Юристы утверждают, что компания xAI не должна пользоваться защитой Раздела 230, поскольку она создает незаконный контент через Grok, а не просто размещает его.
Если бы аналогичные изображения появились в традиционном издании, компания столкнулась бы с юридическими последствиями. Однако социальные сети исторически избегали такой ответственности. Защитники и ученые-юристы добиваются более жесткого регулирования, но ожидается, что компания xAI и отраслевые группы будут сопротивляться любым существенным изменениям.
Разоблачение: призывы к ответственности
Кризис дипфейк-порнографии в X — это не случайность, а прямой результат дизайнерских решений, принятых компанией Маска. Защитники, такие как Санди Джонсон из Национальной сети по борьбе с изнасилованием, насилием и инцестом (RAINN), подчеркивают, что к технологическим компаниям следует применять те же стандарты, что и к любой другой организации, которая способствует вреду.
Текущая ситуация требует ответственности не только от пользователей, но и от компании, которая создала инструменты, позволяющие это насилие. Поскольку расследования начинаются во всем мире, становится ясно, что бездействие X перешло черту.
Распространение дипфейк-порнографии на X высвечивает критический недостаток в текущем технологическом регулировании: компании должны нести ответственность за инструменты, которые они создают, а не только за контент, генерируемый пользователями.
