Imran Khan, mantan perdana menteri Pakistan, telah menghabiskan seluruh kampanye pemilihan negara itu di penjara, diskualifikasi untuk maju dalam apa yang para ahli deskripsikan sebagai salah satu pemilihan umum paling tidak kredibel dalam sejarah 76 tahun negara itu.
Namun, dari balik jeruji penjara, dia telah menggalang dukungan dari para pendukungnya dalam beberapa bulan terakhir dengan pidato yang menggunakan kecerdasan buatan untuk mereplikasi suaranya, sebagai bagian dari strategi yang canggih secara teknologi yang diterapkan partainya untuk menghindari penindasan oleh militer.
Dan pada Sabtu, saat perhitungan resmi menunjukkan bahwa kandidat yang terkait dengan partainya, Pakistan Tehreek-e-Insaf, atau P.T.I., memenangkan sebagian besar kursi dalam hasil yang mengejutkan dan menciptakan kekacauan dalam sistem politik negara itu, suara A.I. Mr. Khan-lah yang menyatakan kemenangan.
“Saya memiliki keyakinan penuh bahwa kalian semua akan keluar untuk memilih. Kalian memenuhi kepercayaan saya pada kalian, dan partisipasi masif kalian telah membuat semua orang terkejut,” kata suara yang tenang dan sedikit robotik dalam video satu menit, yang menggunakan gambar dan rekaman sejarah Mr. Khan dan dilengkapi dengan disclaimer mengenai asal usul A.I.-nya. Pidato tersebut menolak klaim kemenangan lawan Mr. Khan, Nawaz Sharif, dan mendorong para pendukung untuk membela kemenangan tersebut.
Saat kekhawatiran tumbuh mengenai penggunaan kecerdasan buatan dan kemampuannya untuk menyesatkan, terutama dalam pemilu, video-video Mr. Khan menawarkan contoh bagaimana A.I. dapat digunakan untuk menghindari penindasan. Namun, para ahli mengatakan, hal tersebut juga meningkatkan ketakutan mengenai potensi bahayanya.
“Dalam kasus ini, itu untuk tujuan yang baik, mungkin tujuan yang kita dukung – seseorang yang ditahan atas tuduhan korupsi palsu dapat berbicara kepada para pendukungnya,” kata Toby Walsh, penulis “Faking It: Artificial Intelligence in a Human World” dan seorang profesor di University of New South Wales. “Tapi pada saat yang sama, hal tersebut merusak keyakinan kita pada hal-hal yang kita lihat dan dengar.”
Mr. Khan, seorang mantan bintang kriket yang karismatik, digulingkan dari kekuasaan pada tahun 2022 dan dipenjara tahun lalu, dituduh bocornya rahasia negara di antara tuduhan lain. Dia dan para pendukungnya mengatakan pemimpin militer mengatur penggulingannya, tuduhan yang mereka tolak.
Selama kampanye pemilihan, pejabat mencegah kandidatnya berkampanye dan menyensor liputan berita mengenai partainya. Sebagai tanggapan, para penyelenggara mengadakan aksi unjuk rasa online di platform seperti YouTube dan TikTok.
Pada Desember, partainya mulai menggunakan A.I. untuk menyebarkan pesan Mr. Khan, dengan membuat pidato-pidato berdasarkan catatan yang dia berikan kepada pengacaranya dari penjara, menurut pernyataan dari partai itu, dan memasangnya dalam bentuk video.
Ini bukan kali pertama partai politik menggunakan kecerdasan buatan.
Di Korea Selatan, partai oposisi People Power Party membuat avatar berbasis A.I. dari kandidat presidennya, Yoon Suk Yeol, yang berinteraksi secara virtual dengan para pemilih dan berbicara dalam bahasa dan lelucon untuk meraih demografi yang lebih muda menjelang pemilu 2022. (Dia menang.)
Di Amerika Serikat, Kanada, dan Selandia Baru, politisi telah menggunakan A.I. untuk membuat gambar dystopian untuk memperkuat argumen mereka, atau untuk mengungkap kemampuan teknologi yang berpotensi berbahaya, seperti dalam video dengan Jordan Peele dan deepfake Barack Obama.
Selama pemilihan negara bagian 2020 di Delhi, India, Manoj Tiwari, seorang kandidat dari partai pemerintah Bharatiya Janata Party, membuat deepfake A.I. dari dirinya sendiri berbicara dengan dialek Haryanvi untuk menarget pemilih dalam demografi tersebut. Berbeda dengan video Khan, tampaknya video tersebut tidak jelas ditandai sebagai A.I.
“Integrasi A.I., khususnya deepfake, dalam kampanye politik bukanlah tren sementara namun tren yang akan terus berkembang seiring waktu,” kata Saifuddin Ahmed, seorang asisten profesor di sekolah komunikasi dan informasi di Nanyang Technological University di Singapura.