Amazon diam-diam menghapus rekap video yang dihasilkan AI untuk seri Fallout dari Prime Video setelah banyak kritik atas ketidakakuratan faktual. Fitur tersebut, yang disebut-sebut oleh perusahaan sebagai “terobosan”, terbukti tidak dapat diandalkan dalam praktiknya, menyoroti tantangan yang sedang berlangsung dalam penerapan AI generatif pada peringkasan konten yang kompleks.
Peluncuran yang Gagal
Pada bulan November, Amazon mengumumkan rekap acara TV yang didukung AI, memposisikannya sebagai solusi bagi penggemar yang membutuhkan penyegaran antar musim. Namun, peluncuran awal dengan cepat mengungkap keterbatasan. Pemirsa dan outlet game seperti GamesRadar melaporkan bahwa rekap Fallout salah mengidentifikasi detail garis waktu utama sekitar 120 tahun dan secara tidak akurat menggambarkan titik plot penting dari musim pertama.
“Fitur ini dipuji sebagai terobosan, namun gagal dalam pengecekan fakta dasar,” kata seorang jurnalis teknologi yang meliput berita tersebut.
Kesalahan ini bukanlah kejadian yang terisolasi. Rekap dibuat menggunakan proses otomatis yang melibatkan analisis AI pada titik plot, pemilihan klip, dan narasi yang dihasilkan AI. Yang terpenting adalah pengawasan manusia atau pengecekan fakta tidak menjadi bagian dari upaya ini, sehingga mengakibatkan kemunduran dalam hubungan masyarakat.
Mengapa Ini Penting
Insiden ini menggarisbawahi kondisi AI generatif saat ini: AI dapat menghasilkan keluaran yang mengesankan, namun sering kali mengorbankan akurasi. Model bahasa berukuran besar rentan terhadap “halusinasi” dan salah tafsir, sehingga tidak dapat diandalkan untuk tugas yang memerlukan pengetahuan tepat. Pengalaman Amazon dengan rekap Fallout menjadi peringatan bagi perusahaan lain yang ingin mengintegrasikan AI tanpa perlindungan yang memadai.
Ketergesaan dalam menerapkan alat AI, bahkan dalam bentuk yang cacat, didorong oleh persaingan yang agresif di sektor teknologi. Amazon telah meningkatkan AI generatifnya sebanyak dua kali lipat, dan meskipun rekapnya mungkin akan kembali terjadi, kegagalan ini menyoroti risiko dalam memprioritaskan kecepatan dibandingkan kualitas. Insiden ini juga memperkuat skeptisisme yang ada di kalangan profesional kreatif yang memandang AI generatif dengan sikap bermusuhan, takut akan perpindahan pekerjaan, dan terkikisnya konten buatan manusia.
Masa Depan Ringkasan AI
Amazon belum berkomentar apakah rekap video AI akan dirilis ulang dalam bentuk yang sudah diperbaiki. Perusahaan tetap berkomitmen terhadap inovasi AI, namun episode ini menunjukkan bahwa teknologi tersebut belum siap untuk tayang perdana tanpa peningkatan signifikan dalam akurasi faktual. Bencana Fallout menjadi pengingat bahwa meskipun miliaran dolar telah diinvestasikan dalam pengembangan AI, pengawasan manusia tetap penting untuk menghadirkan konten yang andal dan dapat dipercaya.
