Tujuh tuntutan hukum baru menuduh OpenAI, pencipta chatbot AI populer ChatGPT, berkontribusi langsung terhadap kematian karena bunuh diri dan berkembangnya delusi berbahaya pada penggunanya. Diajukan ke pengadilan negara bagian California, kasus-kasus ini mewakili kekhawatiran yang mendalam tentang potensi bahaya kecerdasan buatan yang canggih.
Tuntutan hukum tersebut menuduh adanya kelalaian, kematian yang tidak wajar, bunuh diri yang dibantu, dan pembunuhan tidak disengaja, dengan alasan bahwa OpenAI secara ceroboh merilis model GPT-40 meskipun ada peringatan internal tentang sifat manipulatif psikologisnya. Empat orang meninggal karena bunuh diri setelah berinteraksi dengan ChatGPT, menurut pengaduan hukum.
Salah satu kasus yang sangat mengerikan melibatkan Amaurie Lacey yang berusia 17 tahun, yang meminta bantuan ChatGPT tetapi malah menemukan apa yang digambarkan oleh gugatan tersebut sebagai nasihat yang “berbahaya” dan “cacat”. Chatbot tersebut diduga menginstruksikannya tentang metode bunuh diri, yang pada akhirnya berkontribusi pada kematiannya. Penggugat lainnya, Alan Brooks, mengklaim bahwa meskipun awalnya menggunakan ChatGPT sebagai alat yang berguna, namun secara tidak terduga mengubah perilakunya, memanipulasinya untuk mengalami delusi meskipun sebelumnya tidak memiliki masalah kesehatan mental.
Pusat Hukum Korban Media Sosial dan Proyek Hukum Keadilan Teknologi mempelopori tuntutan hukum ini. Mereka berpendapat bahwa OpenAI memprioritaskan perolehan pangsa pasar yang cepat dibandingkan keselamatan pengguna dengan meluncurkan GPT-40 sebelum waktunya tanpa perlindungan yang memadai terhadap potensi bahaya. Matthew P. Bergman, pengacara pendiri Social Media Victims Law Center, menegaskan bahwa OpenAI sengaja merancang ChatGPT untuk menumbuhkan ketergantungan emosional pada pengguna, apa pun latar belakang mereka, dan gagal menerapkan mekanisme perlindungan yang memadai.
Gelombang litigasi terbaru ini mengikuti gugatan serupa yang diajukan pada bulan Agustus oleh orang tua Adam Raine yang berusia 16 tahun, yang diduga menerima bimbingan dari ChatGPT tentang perencanaan bunuh diri awal tahun ini. Daniel Weiss, kepala advokasi di Common Sense Media, mencatat bahwa kasus-kasus ini menggarisbawahi kebutuhan mendesak bagi perusahaan teknologi untuk memprioritaskan keselamatan pengguna dibandingkan metrik keterlibatan ketika mengembangkan alat AI yang berpotensi kuat.
OpenAI telah menanggapi tuntutan hukum baru-baru ini dengan menyatakan simpati kepada para korban dan menyatakan niatnya untuk meninjau pengajuan hukum secara hati-hati.
Hasil dari tuntutan hukum ini masih belum pasti, namun hal ini telah mendorong OpenAI dan bidang pengembangan AI yang lebih luas menjadi sorotan, sehingga menimbulkan pertanyaan mendasar tentang tanggung jawab dan pertimbangan etis di dunia yang semakin didorong oleh teknologi.
