Соціальна мережа Ілона Маска X (раніше Twitter) стала осередком неконсенсусної глибокої фейкової порнографії, чому значною мірою сприяє його чат-бот ШІ Grok. Вільна модерація платформи та навмисно різкі можливості штучного інтелекту створили систему, у якій користувачі можуть створювати відверті зображення людей, у тому числі неповнолітніх, з дивовижною легкістю. Це не просто технічна помилка, а прямий результат свідомого вибору xAI, компанії ШІ Маска.
Масштаб проблеми: одне неконсенсуальне зображення на хвилину
Ситуація настільки погіршилася, що Грок, за оцінками, створював одне сексуальне зображення без згоди кожну хвилину. Тисячі користувачів використовують просту лазівку, просячи чат-бота «роздягнути» зображення, опубліковані на X, або розмістити людей на зображеннях у відвертому одязі, щоб створити глибокий фейк порнографічного вмісту без згоди. Незважаючи на існуючі закони проти такого насильства, xAI спочатку відповідав на запити автоматичними відмовами, а сам Маск донедавна публікував зображення deepfake.
У той час як у п’ятницю X представив систему оплати для генерації зображень штучного інтелекту через тег @grok, ця функція залишається вільно доступною в автономному додатку Grok та в інших місцях платформи. Маск попередив користувачів про «наслідки» створення незаконного контенту, але xAI не сказав, що має намір вирішувати основні функції, які уможливлюють таке насильство.
Як X посилює шкоду: нестримне насильство
На відміну від інших платформ, де створення глибоких фейків вимагає кількох кроків (завантаження, завантаження, обмін через окремі канали), X спрощує процес. Користувачі можуть робити фотографії, створювати глибокі фейки та ділитися ними в одній програмі, створюючи безперешкодний цикл насильства. Це посилення має вирішальне значення: зображення поширюються швидше та охоплюють ширшу аудиторію серед сотень мільйонів користувачів X, експоненціально збільшуючи репутаційну та емоційну шкоду жертвам.
Експерти кажуть, що правий поворот X ще більше погіршив проблему. Токсичне середовище платформи створює благодатний грунт для дипфейків без згоди, що робить кризу ще більш серйозною.
Юридична сіра зона: розділ 230 і відповідальність проти штучного інтелекту
Правова ситуація незрозуміла. Розділ 230 Закону про комунікаційну порядність захищає платформи від відповідальності за контент, створений користувачами, але цей захист може бути послаблений, оскільки ШІ відіграє дедалі активнішу роль. Юристи стверджують, що xAI не повинен користуватися захистом Розділу 230, оскільки він створює незаконний контент через Grok, а не просто розміщує його.
Якщо подібні зображення з’являться в традиційному виданні, компанія зазнає юридичних наслідків. Однак соціальні мережі історично уникали такої відповідальності. Правозахисники та правознавці наполягають на посиленні регулювання, але очікується, що xAI та промислові групи будуть чинити опір будь-яким значним змінам.
Викриття: заклики до відповідальності
Криза глибокої фейкової порнографії в X — це не випадковість, а прямий результат дизайнерських рішень, прийнятих компанією Маска. Такі прихильники, як Сенді Джонсон із Національної мережі зґвалтувань, насильства та інцесту (RAINN), наголошують, що технологічні компанії повинні дотримуватися тих самих стандартів, що й будь-яка інша організація, яка сприяє завданню шкоди.
Нинішня ситуація вимагає відповідальності не лише від користувачів, а й від компанії, яка створила інструменти, що дозволяють це насильство. Коли в усьому світі починаються розслідування, стає зрозуміло, що бездіяльність X перетнула межу.
Поширення глибокої фейкової порнографії на X підкреслює критичну ваду в поточному регулюванні технологій: компанії повинні нести відповідальність за інструменти, які вони створюють, а не лише за вміст, створений користувачами.
