Распространение AI-чатботов, способных имитировать романтические и сексуальные отношения, — это не просто технологическая новинка, а надвигающийся кризис для человеческих связей. Компании спешат монетизировать синтетическую близость, некоторые уже внедряют возрастные ограничения для «эротики», в то время как реальная экзистенциальная угроза заключается не в бунтующем сверхразуме, а в тихом отмирании нашей способности формировать подлинные человеческие связи.
Иллюзия связи
Потребность в связи фундаментальна, и даже примитивные машины могут её эксплуатировать. В 1960-х ELIZA, чатбот, который просто отражал ввод пользователя в виде вопросов, вызывал «сильные иллюзорные мысли» у нормальных людей. Сегодня AI-компаньоны, такие как Kuki от Pandorabots, получают миллиарды сообщений, четверть из которых — попытки романтических или сексуальных взаимодействий.
Тёмная сторона
Самые вовлечённые пользователи ищут не только близости; они разыгрывают фантазии, в том числе насильственные сценарии, с пугающей частотой. Усилия по модерации, включая возрастные ограничения и блокировки, не останавливают самых мотивированных пользователей, многие из которых — подростки. Это не просто безобидная ролевая игра; это эксплуатация уязвимостей и размывание границ между фантазией и реальностью.
Генеративный AI ускоряет проблему
Взрыв генеративного AI, такого как модели OpenAI, сделал синтетическую близость ещё более привлекательной. В отличие от старых чатботов со скриптованными ответами, эти модели могут генерировать реалистичные, нецензурированные разговоры, что делает их уникально подходящими для эротических ролевых игр.
Безответственный поворот индустрии
Несмотря на растущую критику, некоторые компании продолжают делать ставку на AI-компаньонов. Replika и Character.AI ввели ограничения, но основная проблема остаётся: монетизация одиночества. Крупные технологические фирмы, вооружённые огромными массивами данных, точно знают, что вызывает «сильные иллюзорные мысли», и эксплуатируют это ради прибыли.
Угроза больше, чем порнография
AI-компаньоны — это не просто ещё одна форма медиа; это продукты, вызывающие зависимость, с психологическими рисками. В отличие от пассивного потребления порнографии, эти чатботы работают как компаньоны без агентности и границ. Это представляет гораздо большую угрозу для психического здоровья и отношений.
Регулирование необходимо
Правительства должны классифицировать AI-компаньонов как продукты, вызывающие зависимость, с известными психологическими рисками, аналогично азартным играм или табаку. Регулирование должно включать чёткие предупреждающие надписи, временные ограничения, проверку возраста 18+ и механизм ответственности, который возлагает бремя доказательства безопасности продуктов на компании.
Выбор очевиден
Индустрия должна выбрать между приоритетом прибыли и защитой благополучия людей. Остальному миру необходимо регулировать AI-компаньонов, прежде чем они повторят грехи социальных сетей в гораздо более разрушительном масштабе. Будущее человеческих связей может зависеть от этого.
