Lebih dari setahun setelah mogok ganda Hollywood menyorot adopsi AI oleh industri, pembuat film sering kali menemukan diri mereka berada di persimpangan jalan – bagaimana menggunakan generative AI secara etis, jika bisa sama sekali? Di mana menarik garis terkait material sintetis? Pembuat film dokumenter, khususnya, telah menghadapi kekhawatiran yang meningkat terkait materi “arsip palsu” seperti suara, foto, atau video yang dihasilkan oleh AI.
Saat Hollywood terus mengadopsi kecerdasan buatan dalam produksi, sekelompok produser dokumenter telah menerbitkan seperangkat pedoman etika yang groundbreaking untuk membantu produser, pembuat film, studio, penyiar, dan penyedia layanan streaming mengatasi pertanyaan terkait penggunaan teknologi tersebut.
Aliansi Produser Arsip (APA), sebuah kelompok sukarelawan yang terdiri dari lebih dari 300 produser dan peneliti film dokumenter yang dibentuk sebagai respons terhadap kekhawatiran penggunaan generative AI dalam film nonfiksi, mengembangkan pedoman tersebut selama setahun, setelah menerbitkan surat terbuka di Hollywood Reporter yang menuntut lebih banyak aturan bagi industri. Pedoman tersebut, yang diumumkan di Festival Film Camden, bukan bertujuan untuk menolak kemungkinan teknologi yang sudah membentuk semua bentuk narasi visual, tetapi untuk “menegaskan kembali nilai-nilai jurnalistik yang telah lama dipegang komunitas film dokumenter.”
“Dalam dunia di mana semakin sulit untuk membedakan antara foto asli dan yang dihasilkan, kami yakin bahwa sangat penting untuk memahami cara-cara AI generative dapat memengaruhi narasi nonfiksi,” kata Stephanie Jenkins, co-direktur APA, dalam sebuah pernyataan.
Puluhan organisasi film dokumenter terkemuka mendukung pedoman saat diluncurkan, termasuk Aliansi Produser Dokumenter (DPA) dan Asosiasi Dokumenter Internasional (IDA), serta lebih dari 50 pembuat film individu seperti Michael Moore, Ken Burns, dan Rory Kennedy.
“Dokumenter adalah praktik seni pencarian kebenaran, tetapi sifat kebenaran selalu berubah,” kata Dominic Willsdon, direktur eksekutif IDA. “GenAI akan membawa berbagai mutasi baru yang mendalam, beberapa bermanfaat, beberapa merugikan.” Pedoman APA “dapat membantu bidang dokumenter menavigasi fase pertama adopsi AI yang lebih luas.”
Alih-alih menolak penggunaan generative AI secara keseluruhan, kelompok ini mendorong pertimbangan berdasarkan empat prinsip utama: nilai sumber utama, transparansi, pertimbangan hukum, dan pertimbangan etika dalam menciptakan simulasi manusia.
Pembuat film dokumenter, menurut pedoman, harus memikirkan bagaimana materi sintetis bisa merusak catatan sejarah; mempertimbangkan bias algoritmik yang terkandung dalam materi sintetis; mempertahankan bentuk atau media asli sumber dan memberi tahu penonton jika ada yang telah diubah, menggunakan teks atau petunjuk visual; dan memperlakukan generasi gambar dengan niatan, keakuratan, dan kepekaan yang sama seperti rekreasi atau reenactment tradisional.
Dokumenter Roadrunner karya Morgan Neville pada tahun 2021 memicu kontroversi karena menggunakan AI untuk membuat deepfake suara Anthony Bourdain. Foto: Hormat dari CNN/Focus Features/Courtesy of Focus Features
“Sementara teknologi ini memiliki kemungkinan kreatif yang besar, tanpa pertimbangan atas risikonya, konten artifisial yang masuk ke dalam dokumenter bisa secara permanen merusak kepercayaan antara pembuat film dan penonton, dan merusak catatan sejarah,” kata Rachel Antell, co-direktur APA yang karya-karyanya mencakup film Crip Camp yang dinominasikan untuk Oscar. Pedoman ini mengikuti sejumlah kontroversi tentang AI dalam dokumenter, seperti deepfake suara Anthony Bourdain dalam Roadrunner dan dugaan foto “arsip” yang dihasilkan oleh AI dalam dokumenter Netflix What Jennifer Did.
Pedoman tersebut menekankan transparansi secara internal – dengan tim produksi, konselor hukum, perusahaan asuransi, distributor, penyedia layanan streaming, dan subjek – serta dengan penonton. “Tulang punggung pedoman ini adalah transparansi. Penonton harus memahami apa yang mereka lihat dan dengar – apakah itu media otentik atau dihasilkan oleh AI,” kata co-direktur APA Jennifer Petrucelli.
Setiap informasi tambahan: APA menyarankan untuk menyebutkan alat, pembuat, dan perusahaan GenAI dalam kredit, mirip dengan bagaimana foto arsip dan musik diakui. Pedoman tersebut secara khusus mengatasi penggunaan simulasi manusia – yang umumnya dikenal sebagai “deepfakes” – dalam film nonfiksi, topik yang menarik perhatian mengingat penggunaan teknologi ini untuk disinformasi online.
Kelompok ini “tertarik dengan kemungkinan yang akan ditimbulkan oleh teknologi yang sedang berkembang ini – terutama untuk cerita-cerita yang terabaikan, disengaja ditekan, atau tidak direkam dengan cara apa pun.” Simulasi manusia yang dihasilkan oleh AI, mereka mencatat, dapat membantu melindungi identitas subjek dokumenter yang partisipasinya mengancam mereka, seperti dalam film Welcome to Chechnya karya David France tahun 2020, yang menggunakan AI untuk menyamarkan orang LGBTQ+ yang dianiaya di Rusia, atau dalam Another Body, yang menggunakan selubung AI untuk menyembunyikan korban pornografi balas dendam deepfake.
“Jauh dari melemahkan oleh tantangan yang dihadapi GenAI, ada potensi besar untuk meningkatkan dokumenter dari semua jenis dengan bertanggung jawab memanfaatkan teknologi baru ini,” catat pedoman tersebut. “Meskipun begitu, kami menegaskan nilai kerja dan kecermatan manusia dalam proses produksi.”
Harapannya adalah bahwa dengan diperkenalkan dan diadopsinya standar ini, pembuatan film dokumenter “akan terus menjadi bentuk narasi audio-visual yang menarik, dapat diandalkan, dan yang paling penting, dapat dipercaya yang merekam sejarah manusia dan mengungkapkan pengalaman manusia.”
“Kemungkinan GenAI adalah tak terbatas – tetapi ada beberapa beban yang hanya pembuat film yang bisa dibawa.”