Поручение дано прямолинейно и без обиняков.
Городской прокурор Сан-Франциско потребовал от Apple и Google удалить из их магазинов десятки приложений. Цель у этих программ одна: с помощью искусственного интеллекта они снимают одежду с людей на фотографиях без их согласия. Этот процесс называют «nudification» (обнажением). Он носит характер сексуальных домогательств без согласия. И прямо сейчас две технологические корпорации продолжают размещать эти инструменты на своих платформах.
Дэвид Чиу, городской прокурор Сан-Франциско, не стал смягчать формулировки в своем электронном заявлении для TechCrunch. Он обвинил обе платформы в извлечении прибыли из программного обеспечения, которое эксплуатирует женщин и девочек.
«Apple и Google зарабатывают на этом», — сказал он.
В этом заключается суть конфликта. Законы в Калифорнии уже четко определены: действия, которые «умышленно содействуют» созданию дипфейк-порнографии, являются уголовно наказуемыми. В 2025 году государство ужесточило эти нормы еще больше. Теперь жертвы могут подавать в суд на третьих лиц-соучастников в гражданском порядке. Аргумент Чиу прост: если правила написаны и общедоступны, то Apple и Google знали, что размещают незаконные инструменты. Тем не менее они продолжали брать свою долю комиссионных.
Доказательства указывают на то, что это не было случайным упущением. Проект технической прозрачности (Tech Transparency Project, TTP) дважды предупреждал обе компании: сначала в январе, затем в апреле. В их отчетах перечислялись десятки приложений, продающих такие услуги. TTP утверждал, что магазины не просто пассивно размещали контент. По их словам, Google и Apple фактически «направляли» пользователей к этим токсичным приложениям. Они назвали их ключевыми участниками распространения ИИ-инструментов, превращающих реальных людей в сексуализированные изображения.
Почему город действует именно сейчас?
Дело в деньгах. По словам Чиу, говорящего с Wired, эти платформы, вероятно, собрали миллионы долларов в виде разработческих сборов. В письмах отмечается, что они обрабатывали платежи почти целый год. Требование конкретное: удалить приложения, исправить эту схему и связаться с городскими властями в течение 28 дней, иначе грозят гражданские штрафы.
Как они реагируют?
Позиция Apple стандартна: корпоративное отведение ответственности с добавлением мер реагирования. Представитель компании заявил TechCrunch, что приложения для «nudify» запрещены. Они сообщили об удалении трех приложений, упомянутых в письме. У этих разработчиков блокируются аккаунты. Четыре других находятся под пристальным вниманием.
Google звучал столь же сдержанно, но тверд в действиях. Все пять приложений, указанные Чиу, были заблокированы. Компания заявила, что уже заблокировала сотни подобных нарушений. Они также ограничили поисковые запросы, такие как «nudify».
«Когда о нарушениях сообщают… мы принимаем быстрые меры», — заявил представитель Google.
Это игра в догонялки. Дипфейк-порнография давно целенаправленно атаковала женщин-знаменитостей. Публичные фигуры привлекают самое пристальное и неприятное внимание. Но приложения для «nudify» меняют ландшафт угроз. Теперь уязвим любой человек, чье фото находится в открытом доступе. Не только знаменитости. Каждый.
Технология развивается быстрее, чем модерация. Apple удаляет три приложения. Сотни других продолжают существовать. Кот уже спущен с цепи и одновременно бегает по разным платформам.
Остановит ли это цепочку поставок? Скорее всего, не полностью. Инфраструктура распределена. Спрос существует. Но Сан-Франциско посылает новый сигнал. Они больше не спрашивают вежливо. Они угрожают судебными исками самим платформам. Не только отдельным создателям приложений. Стражи ворот внезапно оказались под прицелом.
У Чиу есть причина формулировать это как халатность, а не незнание. Это подразумевает умысел. Или, по крайней мере, безразличие. Вопрос, висящий в воздухе: изменит ли страх перед штрафами больше, чем пять приложений, сейчас находящихся под прицелом. Или же маржа прибыли настолько высока, что стоит юридических хлопот продолжать позволять другим проскальзывать через трещины в системе.
Пока что приложения удалены. Или приостановлены. Но код остается.
