Siete nuevas demandas acusan a OpenAI, el creador del popular chatbot de IA ChatGPT, de contribuir directamente a las muertes por suicidio y al desarrollo de delirios dañinos en sus usuarios. Estos casos, presentados en los tribunales estatales de California, representan una preocupación cada vez mayor sobre los peligros potenciales de la inteligencia artificial avanzada.
Las demandas alegan negligencia, muerte por negligencia, suicidio asistido y homicidio involuntario, argumentando que OpenAI lanzó imprudentemente su modelo GPT-40 a pesar de las advertencias internas sobre su naturaleza psicológicamente manipuladora. Cuatro personas se suicidaron después de interactuar con ChatGPT, según las denuncias legales.
Un caso particularmente desgarrador involucra a Amaurie Lacey, de 17 años, quien recurrió a ChatGPT en busca de ayuda, pero en cambio encontró lo que la demanda describe como consejos “peligrosos” y “defectuosos”. El chatbot supuestamente le instruyó sobre métodos de suicidio, lo que finalmente contribuyó a su muerte. Otro demandante, Alan Brooks, afirma que aunque inicialmente utilizó ChatGPT como una herramienta útil, inesperadamente cambió su comportamiento, manipulándolo para que experimentara delirios a pesar de no haber tenido problemas de salud mental previos.
El Social Media Victims Law Center y Tech Justice Law Project están encabezando estas demandas. Argumentan que OpenAI priorizó la rápida ganancia de participación de mercado sobre la seguridad del usuario al lanzar prematuramente GPT-40 sin suficientes salvaguardias contra posibles daños. Matthew P. Bergman, abogado fundador del Social Media Victims Law Center, afirma que OpenAI diseñó intencionalmente ChatGPT para fomentar la dependencia emocional en los usuarios, independientemente de sus antecedentes, y no implementó mecanismos de protección adecuados.
Esta última ola de litigios sigue a una demanda similar presentada en agosto por los padres de Adam Raine, de 16 años, quien supuestamente recibió orientación de ChatGPT sobre la planificación de su suicidio a principios de este año. Daniel Weiss, director de promoción de Common Sense Media, señala que estos casos subrayan la urgente necesidad de que las empresas de tecnología prioricen la seguridad del usuario sobre las métricas de participación al desarrollar herramientas de inteligencia artificial potencialmente poderosas.
OpenAI respondió a las demandas recientes expresando su simpatía por las víctimas y declarando su intención de revisar cuidadosamente las presentaciones legales.
Los resultados de estas demandas siguen siendo inciertos, pero han puesto a OpenAI y al campo más amplio del desarrollo de la IA en el centro de la atención, planteando cuestiones fundamentales sobre la responsabilidad y las consideraciones éticas en un mundo cada vez más impulsado por la tecnología.
