Perintahnya blak-blakan.
Jaksa Kota San Francisco menuntut Apple dan Google menghapus lusinan aplikasi dari toko masing-masing. Aplikasi ini memiliki tujuan tunggal. Mereka menggunakan AI untuk menanggalkan pakaian orang-orang di foto tanpa persetujuan. Ini dikenal sebagai nudifikasi. Hal ini bersifat non-konsensual. Dan saat ini kedua raksasa teknologi itu sedang duduk di atasnya.
David Chiu, Jaksa Kota San Francisco, tidak berbasa-basi dalam pernyataan email ke TechCrunc. Dia menuduh kedua platform mengambil keuntungan dari perangkat lunak yang mengeksploitasi perempuan dan anak perempuan.
“Apple dan Google mendapat untung,” katanya.
Itulah gesekan inti. Hukumnya sudah jelas di California. Aktivitas yang “dengan sengaja memfasilitasi” pembuatan pornografi deepfake adalah tindakan kriminal. Pada tahun 2025, negara semakin memperketat hal ini. Para korban kini dapat menuntut fasilitator pihak ketiga di pengadilan perdata. Argumen Chiu sederhana saja. Jika aturannya tertulis dan bersifat publik, maka Apple dan Google tahu bahwa mereka menghosting alat ilegal. Mereka tetap mengambil potongan biayanya.
Bukti menunjukkan bahwa hal ini bukanlah suatu kekeliruan. Proyek Transparansi Teknologi (TTP) memperingatkan kedua perusahaan dua kali. Sekali di bulan Januari lalu lagi di bulan April. Laporan mereka mencantumkan lusinan aplikasi yang menjual layanan ini. TTP berargumen bahwa toko-toko tersebut bukan sekedar host pasif. Mereka mengatakan Google dan Apple sebenarnya “mengarahkan” pengguna ke aplikasi beracun ini. Mereka menyebut mereka sebagai peserta kunci dalam menyebarkan alat AI yang mengubah manusia nyata menjadi citra seksual.
Mengapa kota ini bergerak sekarang?
Uang. Menurut Chiu saat berbicara dengan Wired, platform ini kemungkinan besar telah mengumpulkan jutaan biaya pengembang. Surat-surat tersebut mencatat bahwa mereka telah memproses pembayaran selama hampir satu tahun. Permintaannya bersifat spesifik. Hapus aplikasi. Perbaiki saluran pipa. Hubungi kota dalam 28 hari atau hadapi hukuman perdata.
Bagaimana tanggapan mereka?
Pendirian Apple adalah pembelokan standar perusahaan dengan tindakan sampingan. Seorang juru bicara mengatakan kepada TechCrunch bahwa aplikasi nudify dilarang. Mereka mengatakan mereka menghapus tiga aplikasi dari surat itu. Pengembang tersebut kehilangan akunnya. Empat orang lainnya sedang diperiksa.
Google juga terdengar bungkam namun tegas dalam mengambil tindakan. Kelima aplikasi yang dikutip oleh Chiu ditangguhkan. Mereka mengaku telah menghentikan ratusan pelanggaran serupa. Mereka juga membatasi istilah pencarian seperti “nudify.”
“Saat pelanggaran dilaporkan… kami mengambil tindakan cepat,” kata perwakilan Google.
Ini adalah permainan mengejar ketinggalan. Pornografi deepfake telah lama menyasar selebriti wanita. Wajah-wajah terkenal paling menarik perhatian. Namun aplikasi nudify mengubah lanskap ancaman. Sekarang siapa pun yang memiliki foto publik rentan. Bukan hanya yang terkenal. Setiap orang.
Teknologi bergerak lebih cepat dibandingkan moderasi. Apple menghapus tiga. Ratusan lainnya ada. Kucing itu keluar dari tas dan berlari melintasi berbagai platform secara bersamaan.
Apakah ini akan menghentikan rantai pasokan? Mungkin tidak seluruhnya. Infrastruktur didistribusikan. Permintaan itu ada. Namun San Francisco memberi sinyal sesuatu yang baru. Mereka tidak lagi bertanya dengan sopan. Mereka mengancam akan melakukan litigasi terhadap platform itu sendiri. Bukan hanya masing-masing pembuat aplikasi. Para penjaga gerbang tiba-tiba berada di garis tembak.
Ada alasan mengapa Chiu memilih untuk menganggap hal ini sebagai kelalaian, bukan ketidaktahuan. Ini menunjukkan niat. Atau setidaknya ketidakpedulian. Pertanyaan yang mengemuka adalah apakah ketakutan akan denda akan mengubah lebih dari lima aplikasi yang saat ini menjadi sasaran. Atau jika margin keuntungan membuatnya sepadan dengan kerumitan hukum karena terus membiarkan pihak lain lolos.
Untuk saat ini aplikasi sedang down. Atau ditangguhkan. Tapi kodenya tetap ada.
