Доручення дано прямолінійно і без натяків.
Міський прокурор Сан-Франциско вимагає від Apple і Google видалити з їхніх магазинів десятки додатків. Мета цих програм одна: за допомогою штучного інтелекту вони знімають одяг з людей на фотографіях без їх згоди. Цей процес називають “nudification” (оголення). Він має характер сексуальних домагань без згоди. І зараз дві технологічні корпорації продовжують розміщувати ці інструменти на своїх платформах.
Девід Чіу, міський прокурор Сан-Франциско, не пом’якшував формулювання у своїй електронній заяві для TechCrunch. Він звинуватив обидві платформи у отриманні прибутку з програмного забезпечення, яке експлуатує жінок та дівчаток.
“Apple і Google заробляють на цьому”, – сказав він.
У цьому полягає суть конфлікту. Закони в Каліфорнії вже чітко визначені: дії, які «навмисне сприяють» створенню дипфейк-порнографії, є кримінальними. У 2025 році держава посилила ці норми ще більше. Наразі жертви можуть подавати до суду на третіх осіб-співучасників у цивільному порядку. Аргумент Чіу простий: якщо правила написані та загальнодоступні, то Apple та Google знали, що розміщують незаконні інструменти. Проте вони продовжували брати свою частку комісійних.
Докази свідчать, що це був випадковим недоглядом. Проект технічної прозорості (Tech Transparency Project, TTP) двічі попереджав обидві компанії: спочатку у січні, потім у квітні. У звітах перелічувалися десятки додатків, які продають такі послуги. TTP стверджував, що магазини просто пасивно розміщували контент. За їхніми словами, Google і Apple фактично «направляли» користувачів до цих токсичних програм. Вони назвали їх ключовими учасниками поширення ІІ-інструментів, які перетворюють реальних людей на сексуальні зображення.
Чому місто діє саме зараз?
Справа в грошах. За словами Чіу, який говорить з Wired, ці платформи, ймовірно, зібрали мільйони доларів у вигляді розробницьких зборів. У листах наголошується, що вони обробляли платежі майже цілий рік. Вимога конкретна: видалити програми, виправити цю схему та зв’язатися з міською владою протягом 28 днів, інакше загрожують цивільні штрафи.
Як вони реагують?
Позиція Apple є стандартною: корпоративне відведення відповідальності з додаванням заходів реагування. Представник компанії заявив TechCrunch, що додатки для “nudify” заборонені. Вони повідомили про видалення трьох додатків, згаданих у листі. У цих розробників блокуються облікові записи. Чотири інших перебувають під пильною увагою.
Google звучав так само стримано, але твердий у діях. Всі п’ять програм, вказаних Чіу, були заблоковані. Компанія заявила, що вже заблокувала сотні таких порушень. Вони також обмежили пошукові запити, такі як “nudify”.
«Коли про порушення повідомляють… ми вживаємо швидких заходів», — заявив представник Google.
Це гра в наздоганяння. Діпфейк-порнографія давно цілеспрямовано атакувала жінок-знаменитостей. Громадські постаті привертають найпильнішу і неприємну увагу. Але програми для «nudify» змінюють ландшафт загроз. Тепер вразлива будь-яка людина, чиє фото знаходиться у відкритому доступі. Не лише знаменитості. Кожен.
Технологія розвивається швидше за модерацію. Apple видаляє три програми. Сотні інших продовжують існувати. Кіт вже спущений з ланцюга і одночасно бігає різними платформами.
Чи зупинить це ланцюжок поставок? Скоріш за все, не повністю. Інфраструктуру розподілено. Попит існує. Але Сан-Франциско надсилає новий сигнал. Вони більше не питають ввічливо. Вони загрожують судовими позовами самим платформам. Не лише окремим творцям додатків. Вартові воріт раптово опинилися під прицілом.
Чіу має причину формулювати це як недбалість, а не незнання. Це має на увазі намір. Або принаймні байдужість. Питання, що висить у повітрі: чи змінить страх перед штрафами більше, ніж п’ять додатків, які зараз перебувають під прицілом. Або ж маржа прибутку настільки висока, що варто юридичного клопоту продовжувати дозволяти іншим прослизати через тріщини в системі.
Поки що програми видалені. Або припинено. Але код лишається.
