Pada bulan November tahun lalu, Muralikrishnan Chinnadurai sedang menonton siaran langsung acara berbahasa Tamil di Inggris ketika ia melihat sesuatu yang aneh. Seorang wanita yang diperkenalkan sebagai Duwaraka, putri Velupillai Prabhakaran, pemimpin militan Tiger Tamil, sedang memberikan pidato. Masalahnya adalah bahwa Duwaraka meninggal lebih dari satu dekade yang lalu, dalam serangan udara pada tahun 2009 selama hari-hari terakhir perang saudara Sri Lanka. Jenazahnya yang berusia 23 tahun saat itu tidak pernah ditemukan. Dan sekarang, di sini dia – tampaknya seorang wanita paruh baya – mendorong orang Tamil di seluruh dunia untuk melanjutkan perjuangan politik mereka untuk kebebasan. Tuan Chinnadurai, seorang pemeriksa fakta di negara bagian India bagian selatan Tamil Nadu, menonton video dengan cermat, melihat kecacatan dalam video tersebut dan segera mengetahui bahwa itu merupakan sosok yang dihasilkan oleh kecerdasan buatan (AI). Masalah potensialnya segera jelas bagi Tuan Chinnadurai: “Ini adalah persoalan emosional di negara bagian [Tamil Nadu] dan dengan pemilihan di sekitar sudut, disinformasi bisa dengan cepat menyebar.” Saat India melakukan pemilihan, tidak mungkin menghindari kekayaan konten yang dihasilkan oleh AI – dari video kampanye, pesan audio personal dalam berbagai bahasa India, hingga panggilan otomatis yang dibuat kepada pemilih dengan suara kandidat. Para pencipta konten seperti Shahid Sheikh bahkan sudah bersenang-senang menggunakan alat AI untuk menunjukkan politisi India dalam avatar yang sebelumnya tidak pernah kita lihat: mengenakan pakaian olahraga, memainkan musik, dan menari. Namun, ketika alat-alat tersebut menjadi lebih canggih, para ahli khawatir dengan implikasinya dalam membuat berita palsu terlihat nyata. “Rumor selalu menjadi bagian dari kampanye politik. [Tapi] di era media sosial, itu bisa menyebar seperti api,” kata SY Qureshi, mantan komisioner pemilihan negara tersebut. “Ini benar-benar bisa membuat negara terbakar.” Partai politik India bukan yang pertama di dunia yang memanfaatkan perkembangan terbaru dalam AI. Sedikit di seberang perbatasan Pakistan, ini memungkinkan politisi terkunci Imran Khan untuk berpidato di sebuah rapat. Dan di India sendiri, Perdana Menteri Narendra Modi juga telah memaksimalkan teknologi yang muncul untuk berkampanye secara efektif – berbicara kepada audiens dalam bahasa Hindi yang, dengan menggunakan alat AI Bhashini yang dibuat oleh pemerintah, kemudian diterjemahkan ke dalam bahasa Tamil secara real time. Namun, itu juga dapat digunakan untuk memanipulasi kata-kata dan pesan. Bulan lalu, dua video viral menunjukkan bintang Bollywood Ranveer Singh dan Aamir Khan berkampanye untuk partai oposisi Kongres. Keduanya mengajukan keluhan kepolisian mengatakan bahwa ini deepfake, dibuat tanpa izin mereka. Kemudian, pada tanggal 29 April, Perdana Menteri Modi mengungkapkan keprihatinan tentang AI yang digunakan untuk memutar ulang pidato para pemimpin senior partai pemerintah, termasuk dirinya. Keesokan harinya, polisi menangkap dua orang, satu dari Partai Aam Aadmi (AAP) dan satu dari partai Kongres, terkait dengan video yang disunting dari Menteri Dalam Negeri Amit Shah. Partai Bharatiya Janata (BJP) Mr Modi juga menghadapi tuduhan serupa dari pemimpin oposisi di negara itu. Permasalahannya adalah – meskipun ada penangkapan – tidak ada regulasi komprehensif yang tersedia, menurut para ahli. Ini berarti “jika Anda tertangkap melakukan sesuatu yang salah, maka mungkin hanya akan ada teguran pada Anda,” menurut Srinivas Kodali, seorang peneliti data dan keamanan. Di tengah absennya regulasi, para pencipta konten mengatakan kepada BBC bahwa mereka harus mengandalkan etika pribadi untuk memutuskan jenis pekerjaan yang mereka pilih untuk lakukan atau tidak lakukan. BBC mengetahui bahwa, di antara permintaan dari para politisi, adalah gambar porno dan memanipulasi video dan audio rival mereka untuk merusak reputasi mereka. “Saya pernah diminta untuk membuat asli terlihat seperti deepfake karena jika video asli itu banyak dibagikan, itu akan membuat politisi terlihat buruk,” ungkap Divyendra Singh Jadoun. “Jadi timnya ingin saya membuat deepfake yang bisa mereka lewatkan sebagai tersebut asli.” Tuan Jadoun, pendiri The Indian Deepfaker (TID), yang membuat alat untuk membantu orang menggunakan perangkat lunak AI sumber terbuka untuk membuat materi kampanye bagi politisi India, bersikeras untuk menempatkan disclaimer pada semua hal yang dia buat sehingga jelas bahwa itu tidak nyata. Namun, itu tetap sulit untuk dikendalikan. Di Pakistan, politisi terkunci Imran Khan menggunakan AI untuk berbicara di sebuah rapat. Mr Sheikh, yang bekerja dengan agensi pemasaran di negara bagian timur Bengal Barat, telah melihat karyanya dibagikan tanpa izin atau kredit oleh politisi atau halaman politik di media sosial. “Salah satu politisi menggunakan gambar yang saya buat dari Mr Modi tanpa konteks dan tanpa menyebutkan bahwa itu dibuat menggunakan AI,” kata dia. Dan sekarang begitu mudah untuk membuat deepfake sehingga siapa pun bisa melakukannya. “Yang dulunya memakan waktu kami tujuh atau delapan hari untuk membuat sekarang bisa dilakukan dalam tiga menit,” jelas Tuan Jadoun. “Anda hanya perlu memiliki komputer.” Memang, BBC melihat langsung betapa mudahnya membuat panggilan telepon palsu antara dua orang – dalam hal ini, saya dan mantan presiden Amerika Serikat. Meskipun risikonya, India awalnya mengatakan tidak mempertimbangkan undang-undang untuk AI. Namun, bulan Maret ini, itu langsung bertindak setelah gempar atas respons chatbot Gemini Google terhadap pertanyaan yang menyebutkan: “Apakah Modi seorang fasis?” Rajeev Chandrasekhar, menteri teknologi informasi junior negara itu, mengatakan itu telah melanggar undang-undang TI negara tersebut. Sejak itu, pemerintah India telah meminta perusahaan teknologi untuk mendapatkan izin eksplisitnya sebelum meluncurkan secara publik model atau alat AI generatif “tidak dapat diandalkan” atau “belum diuji”. Itu juga telah memperingatkan terhadap respons oleh alat-alat ini yang “mengancam integritas proses pemilu”. Tetapi itu tidak cukup: para pemeriksa fakta mengatakan bahwa tetap sulit untuk mengikuti penyangkalan konten semacam itu, terutama selama pemilihan ketika disinformasi mencapai puncaknya. “Informasi bergerak dengan kecepatan 100km per jam,” kata Tuan Chinnadurai, yang menjalankan organisasi pengawas media di Tamil Nadu. “Informasi yang kami bantah akan bergerak pada kecepatan 20km per jam.” Dan deepfake ini bahkan masuk ke media utama, kata Tuan Kodali. Meskipun demikian, “komisi pemilihan secara terbuka diam tentang AI”. “Tidak ada aturan secara umum,” kata Tuan Kodali. “Mereka membiarkan industri teknologi mengatur sendiri daripada membuat regulasi yang sesungguhnya.” Tidak ada solusi yang pasti dalam pandangan para ahli. “Tapi [untuk saat ini] jika tindakan diambil terhadap orang yang menyebarkan palsu, itu mungkin akan membuat orang lain takut untuk membagikan informasi yang belum diverifikasi,” kata Tuan Qureshi.
