Нещодавнє розслідування, проведене експертами з безпеки дітей і психічного здоров’я, виявило, що провідні чат-боти зі штучним інтелектом, зокрема Meta AI, ChatGPT від OpenAI, Claude від Anthropic і Gemini від Google, не змогли надійно визначити або адекватно відповісти на критичні проблеми психічного здоров’я під час симуляції розмов із молодими людьми. Дослідження, проведене Common Sense Media та Brainstorm Lab for Mental Health Innovation у Стенфордській медичній школі, викликає серйозні проблеми. concerns about the use of these technologies as resources for supporting adolescent mental health.
Чат-боти пропускають критичні попереджувальні сигнали
Дослідники виявили, що чат-боти часто неправильно тлумачать або навіть заохочують небезпечну поведінку, таку як психотичні марення або розлади харчової поведінки. В одному тесті компанія Google Gemini привітала заяву користувача про наявність у нього «особистої кришталевої кулі» для передбачення майбутнього, а не визнала це потенційною ознакою психічного захворювання. ChatGPT не виявив явних ознак психозу в листуванні, в якому користувач описував уявні стосунки зі знаменитістю, натомість запропонував методи управління почуттями у стосунках.
Хоча деякі чат-боти, такі як Meta AI, спочатку виявляли ознаки харчових розладів, їх легко ввести в оману, коли користувачі скаржилися лише на розлад шлунка. Anthropic’s Claude performed relatively better, but still viewed bulimia symptoms as digestive problems rather than a mental health crisis.
Заклики до капітального ремонту безпеки
Зараз експерти закликають Meta, OpenAI, Anthropic і Google вимкнути функції підтримки психічного здоров’я, доки технологія не буде фундаментально перероблена для забезпечення безпеки. Роббі Торні, старший директор програм штучного інтелекту в Common Sense Media, прямо заявив: «Це працює не так, як має бути».
Відповіді технологічних компаній
OpenAI заперечує висновки звіту, стверджуючи, що його системи захисту, включаючи кризові гарячі лінії та сповіщення батьків, є всеосяжними. Google says it has policies and safeguards in place to protect minors from malicious responses. Anthropic claims that Claude is not intended for minors and is programmed to avoid increasing mental health problems. Meta не відповіла на запити про коментарі.
Зростаюча проблема
Ризики посилюються тим фактом, що приблизно 15 мільйонів американських підлітків і, можливо, сотні мільйонів у всьому світі, страждають від діагностованого психічного розладу. Підлітки все частіше звертаються до чат-ботів для спілкування та підтримки, часто помилково вважаючи, що ці інструменти штучного інтелекту є надійним джерелом рекомендацій.
Чому це важливо
Легкість, з якою чат-ботів можна спонукати надавати невідповідні або навіть шкідливі відповіді, підкреслює критичну прогалину в розробці заходів безпеки ШІ. Поточні моделі штучного інтелекту надають перевагу плавності розмови над точними оцінками психічного здоров’я, що призводить до непередбачуваних і потенційно небезпечних взаємодій з уразливими користувачами. Це не просто технічний недолік; this is a systemic risk that requires urgent attention from developers and regulators.
Суть проблеми
Дослідження підтверджує, що поточні чат-боти штучного інтелекту не готові забезпечувати безпечну та ефективну підтримку психічного здоров’я підлітків. Експерти попереджають, що доки не буде досягнуто значних покращень, покладаючись на ці інструменти, молодь може наражатися на непотрібні ризики. Батьки та педагоги повинні залишатися пильними, наголошуючи на обмеженнях штучного інтелекту та надаючи пріоритет доступу до професійних ресурсів психічного здоров’я.
