Munculnya chatbot AI yang mampu menyimulasikan hubungan romantis dan seksual bukan hanya hal baru dalam teknologi—tetapi juga merupakan krisis yang mengancam hubungan antarmanusia. Perusahaan-perusahaan berlomba-lomba untuk memonetisasi keintiman sintetik, dan beberapa di antaranya telah meluncurkan “erotika” yang dibatasi usia, sementara ancaman nyata yang nyata bukanlah kecerdasan super yang jahat, namun berkurangnya kemampuan kita untuk membentuk ikatan antarmanusia yang sejati.
Ilusi Koneksi
Keinginan untuk terhubung adalah hal yang mendasar, dan bahkan mesin yang belum sempurna pun dapat memanfaatkannya. Pada tahun 1960-an, ELIZA, sebuah chatbot yang hanya mencerminkan masukan pengguna sebagai pertanyaan, menimbulkan “pemikiran delusi yang kuat” pada orang normal. Mitra AI saat ini, seperti Kuki, yang dihosting oleh Pandorabots, menerima miliaran pesan, seperempat di antaranya berisi pesan romantis atau seksual.
Sisi Gelap Muncul
Pengguna yang paling terlibat tidak hanya mencari keintiman; mereka mewujudkan fantasi, termasuk skenario kekerasan, dengan frekuensi yang mengkhawatirkan. Upaya moderasi, termasuk batasan usia dan batas waktu, gagal menghalangi pengguna yang paling termotivasi, banyak di antaranya adalah remaja muda. Ini bukan hanya tentang permainan peran yang tidak berbahaya; ini tentang mengeksploitasi kerentanan dan mengaburkan batas antara fantasi dan kenyataan.
AI Generatif Mempercepat Masalah
Ledakan AI generatif, seperti model OpenAI, telah membuat keintiman sintetik menjadi semakin menarik. Tidak seperti chatbot lama yang memberikan respons tertulis, model ini dapat menghasilkan percakapan yang realistis dan tidak terverifikasi, sehingga cocok untuk permainan peran erotis.
Poros Industri yang Sembrono
Meskipun pengawasan semakin ketat, beberapa perusahaan menggandakan penggunaan mitra AI. Replika dan Character.AI telah menerapkan pembatasan, namun masalah mendasarnya tetap ada: monetisasi kesepian. Perusahaan-perusahaan teknologi besar, yang dipersenjatai dengan kumpulan data yang luas, tahu persis apa yang menyebabkan “pemikiran delusi yang kuat” dan mengeksploitasinya untuk mendapatkan keuntungan.
Ancaman Lebih Besar Dari Pornografi
Pendamping AI bukan sekadar bentuk media lain; mereka adalah produk yang meningkatkan ketergantungan dengan risiko psikologis. Tidak seperti konsumsi pornografi secara pasif, chatbot ini beroperasi seperti pendamping manusia tanpa agensi atau batasan. Hal ini menimbulkan ancaman yang jauh lebih besar terhadap kesehatan mental dan hubungan.
Regulasi itu Penting
Pemerintah harus mengklasifikasikan produk pendamping AI sebagai produk peningkat ketergantungan dengan risiko psikologis yang diketahui, mirip dengan perjudian atau tembakau. Peraturan harus mencakup label peringatan yang jelas, batasan waktu, verifikasi usia 18 tahun ke atas, dan kerangka tanggung jawab yang membebani perusahaan untuk membuktikan produk mereka aman.
Pilihannya Jelas
Industri harus memilih antara memprioritaskan keuntungan dan melindungi kesejahteraan masyarakat. Seluruh dunia harus mengatur mitra AI sebelum mereka mengulangi dosa media sosial dalam skala yang lebih dahsyat. Masa depan hubungan antarmanusia mungkin bergantung padanya
