Поширення ШІ-чат-ботів, здатних імітувати романтичні та сексуальні стосунки, — це не просто технологічна інновація, а й назріваюча криза людських стосунків. Компанії поспішають монетизувати синтетичну близькість, деякі вже вводять вікові обмеження для «еротики», тоді як реальна екзистенційна загроза полягає не в непокірному суперінтелекті, а в тихому згасанні нашої здатності створювати справжні людські зв’язки.
Ілюзія зв’язку
Потреба в спілкуванні є фундаментальною, і навіть примітивні машини можуть її використовувати. У 1960-х роках ELIZA, чат-бот, який просто відображав дані користувача у формі запитань, викликав у нормальних людей «сильні ілюзорні думки». Сьогодні компаньйони зі штучним інтелектом, як-от Кукі від Pandorabots, отримують мільярди повідомлень, чверть із яких — спроби романтичних чи сексуальних стосунків.
Темна сторона
Найбільш зацікавлені користувачі не просто шукають близькості; вони втілюють фантазії, включно зі сценами насильства, з тривожною частотою. Зусилля модерації, включаючи вікові обмеження та бани, не зупиняють найбільш мотивованих користувачів, багато з яких є підлітками. Це не просто нешкідлива рольова гра; це експлуатація вразливостей і стирання кордонів між фантазією та реальністю.
Генеративний ШІ прискорює вирішення проблеми
Вибух генеративного штучного інтелекту, наприклад моделей OpenAI, зробив синтетичну близькість ще більш привабливою. На відміну від старих чат-ботів із скриптовими відповідями, ці моделі можуть створювати реалістичні розмови без цензури, що робить їх унікальними для еротичних рольових ігор.
Безвідповідальний поворот галузі
Незважаючи на зростаючу критику, деякі компанії продовжують покладатися на компаньйонів ШІ. Replika і Character.AI ввели обмеження, але головна проблема залишається: монетизація самотності. Великі технологічні компанії, озброєні величезними обсягами даних, точно знають, що викликає «сильні оманливі думки», і використовують це для отримання прибутку.
Загроза більша, ніж порнографія
Компанії зі штучним інтелектом – це не просто інша форма медіа; Це продукти, що викликають звикання та мають психологічний ризик. На відміну від пасивного споживання порнографії, ці чат-боти діють як компаньйони без волі чи кордонів. Це становить набагато більшу загрозу психічному здоров’ю та стосункам.
Потрібна регуляція
Уряди повинні класифікувати компаньйони штучного інтелекту як продукти, що викликають залежність із відомими психологічними ризиками, подібно до азартних ігор чи тютюну. Положення має містити чіткі попереджувальні етикетки, часові обмеження, перевірку віку 18+ і механізм підзвітності, який покладає на компанії тягар доведення безпечності продуктів.
Вибір очевидний
Галузь має вибрати між пріоритетом отримання прибутку та захистом добробуту людей. Решта світу має регулювати компаньйонів ШІ, перш ніж вони повторять гріхи соціальних мереж у набагато більш деструктивному масштабі. Від цього може залежати майбутнє людських зв’язків.
