David Pocock telah menimbulkan kekhawatiran tentang risiko yang ditimbulkan bagi demokrasi oleh AI generatif dengan menggunakannya untuk bermain trik: membuat video palsu dari Anthony Albanese mengumumkan larangan total iklan perjudian. Senator independen untuk Canberra memposting dua video generatif AI ke media sosial – dari perdana menteri dan pemimpin oposisi Peter Dutton, yang mendukung larangan total iklan – untuk menunjukkan bagaimana AI dapat digunakan untuk meniru dan membingungkan. “Video itu palsu, dan saat ini tidak ada hukum melawan pembuatan video seperti itu,” kata Pocock. “Deepfakes [dan] AI generatif menimbulkan risiko nyata bagi demokrasi dan kita memerlukan pemerintah untuk melarang penggunaan teknologi ini ketika ada pemilihan.” Dalam salah satu video, Albanese tampak memberitahu konferensi pers di Parliament House – dengan gerakan sedikit tegak dari mulutnya sebagai petunjuk kecil bahwa video itu tidak nyata – bahwa ia sedang memperkenalkan larangan bertahap tiga tahun terhadap iklan itu. Dalam yang lain, Dutton tampak memberi tahu audiens bahwa Koalisi mendukung legislasi pemerintah. Ini tidak benar, dan Pocock memilih topik kontroversial untuk meniru. Pemerintah hanya berkomitmen untuk larangan sebagian dari iklan perjudian, yang advokat sebut “sangat tidak memadai”. Langkah menuju larangan sebagian datang meskipun larangan total diusulkan pada 2023, oleh komite bipartisan yang dipimpin oleh mantan anggota parlemen buruh Peta Murphy. Pocock mengatakan dia membuat video untuk mendorong parlemen mengambil tindakan melarang penggunaan teknologi sebelum pemilihan berikutnya. “Saya khawatir kita tidak melihat urgensi yang diperlukan untuk melindungi demokrasi kita dari AI generatif.” Pada bulan Juli, video TikTok yang dihasilkan AI dari gubernur Queensland, Steven Miles, yang dibuat oleh oposisi LNP, memicu debat tentang penggunaan politik deep fake secara online. Video tersebut menggambarkan Miles menari di bawah teks yang berbunyi: “POV: sewaku naik $60 per minggu, tagihan listrikku naik 20%, tapi gubernur membuat sandwich di TikTok”. Miles mengklaim video tersebut “mewakili titik balik bagi demokrasi kita” dan mengatakan partai Buruh negara tidak akan menggunakan iklan yang dihasilkan AI selama kampanye pemilihan mendatang. Setelah rilis video, para ahli memperingatkan bahwa orang bisa dengan mudah tertipu oleh konten yang dihasilkan AI, dan bahwa hal itu bisa lebih berbahaya jika digunakan secara lebih halus. Juru bicara kantor Don Farrell, menteri khusus negara yang bertanggung jawab untuk pengawasan urusan parlemen, mengatakan pemerintah sedang mempertimbangkan saran Komisi Pemilihan Australia tentang mengatur penggunaan AI dalam pemilihan. “Ini bukan teknologi yang bisa kita hentikan – itu tidak akan hilang,” kata juru bicara. “Kita harus menemukan cara di mana warga Australia bisa mendapatkan perlindungan dari informasi dan konten yang sengaja salah.”
