Pada bulan Agustus, X, perusahaan media sosial yang dulunya dikenal sebagai Twitter, secara publik merilis Grok 2, iterasi terbaru dari chatbot AI-nya. Dengan batasan yang terbatas, Grok telah bertanggung jawab atas penyebaran informasi yang salah tentang pemilihan umum dan memungkinkan pengguna untuk membuat gambar AI yang sangat mirip dengan orang-orang terpilih dalam posisi yang bertentangan dengan etika.
Raksasa media sosial tersebut telah mulai memperbaiki beberapa masalahnya. Setelah pejabat pemilu di Michigan, Minnesota, New Mexico, Pennsylvania, dan Washington menulis surat kepada pemimpin X, Elon Musk, mengklaim bahwa chatbot tersebut menghasilkan informasi palsu tentang batas waktu surat suara negara, X sekarang mengarahkan pengguna ke Vote.gov untuk pertanyaan terkait pemilu.
Namun, ketika berkaitan dengan deepfakes, ceritanya berbeda. Pengguna masih dapat membuat gambar deepfake dari politisi yang melakukan kegiatan yang meragukan, dan dalam beberapa kasus, ilegal.
Justu minggu ini, Al Jazeera berhasil membuat gambar hidup yang menunjukkan Senator Partai Republik Texas Ted Cruz menghirup kokain, Wakil Presiden Kamala Harris mengacungkan pisau di toko kelontong, dan mantan Presiden Donald Trump bersalaman dengan kelompok nasionalis kulit putih di halaman Gedung Putih.
Dalam pekan-pekan sebelumnya, pembuat film The Dor Brothers membuat klip singkat dengan menggunakan gambar deepfake yang dihasilkan oleh Grok yang menampilkan pejabat seperti Harris, Trump, dan mantan Presiden Barack Obama merampok toko kelontong, yang beredar di media sosial. The Dor Brothers tidak merespons permintaan komentar.
Tindakan ini telah menimbulkan pertanyaan tentang etika di balik teknologi X, terutama ketika beberapa perusahaan lain seperti OpenAI, di tengah tekanan dari Gedung Putih, mulai menetapkan pengamanan untuk memblokir jenis konten tertentu. Generator gambar OpenAI, Dall-E 3, akan menolak membuat gambar menggunakan nama tokoh publik tertentu. Perusahaan tersebut juga telah membuat produk yang mendeteksi gambar deepfake.
“Safeguard akal sehat dalam hal gambar yang dihasilkan AI, terutama dari pejabat terpilih, bahkan sebelum Elon, pastilah sudah dipertimbangkan oleh tim Twitter Trust dan Safety,” kata Edward Tian, co-founder GPTZero, sebuah perusahaan yang membuat perangkat lunak untuk mendeteksi konten yang dihasilkan AI, kepada Al Jazeera.
Teknologi baru Grok meningkatkan masalah yang sudah mendesak di lanskap AI – penggunaan gambar palsu.
Meskipun mereka tidak menggunakan Grok AI karena belum ada di pasaran, hanya dalam siklus pemilu ini, kampanye Gubernur Florida yang sekarang ditangguhkan, Ron DeSantis, menggunakan serangkaian gambar palsu yang menunjukkan Anthony Fauci, anggota kunci dari tim tugas AS yang dibentuk untuk menangani pandemi COVID-19, dan Trump bertukar pelukan, yang AFP membantah. Ini diselingi dengan gambar asli mereka dalam pertemuan.
Trikk ini dimaksudkan untuk melemahkan Trump dengan memperindah hubungannya dengan Fauci, seorang penasihat ahli tanpa wewenang untuk membuat kebijakan. Basis pemilih Trump menyalahkan Fauci atas penyebaran pandemi daripada menyalahkan Trump.
Penggunaan gambar palsu oleh Trump
Meskipun Trump menjadi target dalam kasus tersebut oleh kampanye DeSantis, dia dan penggantinya sering kali yang menjadi pelaku.
Komite Nasional Partai Republik menggunakan gambar yang dihasilkan AI dalam iklan yang menunjukkan kepanikan di Wall Street jika Biden, yang saat itu adalah kandidat demokrat yang dijadwalkan, memenangkan pemilu. Klaim tersebut meskipun pasar berjalan cukup baik di bawah pemerintahan Biden dalam periode pertamanya.
Dalam beberapa minggu terakhir, Trump telah memposting gambar palsu, termasuk salah satunya yang menunjukkan bahwa Harris berbicara dengan sekelompok komunis di Konvensi Nasional Partai Demokrat.
Pada hari Senin, Musk membentuk representasi yang tidak akurat dari kebijakan Harris seperti Trump. Musk memposting gambar yang dihasilkan AI dari Harris yang memakai topi dengan tanda kebangsaan komunis – untuk menunjukkan bahwa kebijakan Harris sejalan dengan komunisme – sebuah pembalikan semakin umum dan salah yang telah digunakan Republikan dalam beberapa tahun terakhir untuk menggambarkan posisi kebijakan Partai Demokrat.
Pos yang menyesatkan ini muncul ketika Musk dituduh memfasilitasi penyebaran informasi yang salah di seluruh dunia. X menghadapi hambatan hukum di yurisdiksi termasuk Uni Eropa dan Brasil, yang memblokir akses ke situs web selama akhir pekan.
Ini terjadi beberapa minggu setelah Trump memposting kembali di platform media sosialnya, Truth Social, gambar palsu yang keliru menuduh bahwa penyanyi Taylor Swift mendukungnya dan para penggemar setianya, yang secara informal disebut sebagai “Swifties,” mendukungnya.
Ada gerakan vokal di kedua sisi spektrum politik yang terkait dengan penggemar Swift, tetapi tidak satupun yang secara resmi terhubung dengan bintang pop tersebut.
Salah satu gambar yang dibagikan oleh Trump yang menunjukkan “Swifties untuk Trump,” dikategorikan sebagai satire dan berasal dari akun Amuse di X. Pos ini disponsori oleh John Milton Freedom Foundation (JMFF), sebuah kelompok yang mengklaim memberdayakan jurnalis independen melalui beasiswa.
“Sebagai lembaga nirlaba start-up, kami beruntung menjadi sponsor, tanpa biaya, lebih dari 100 pos di @amuse, seorang teman baik JMFF. Ini memberi kami lebih dari 20 juta tampilan gratis dalam beberapa minggu, membantu eksposur dan nama kami. Salah satu pos tersebut jelas ditandai sebagai ‘SATIRE’, membuat lelucon tentang ‘Swifties untuk Trump’. Ini jelas sebuah lelucon dan jelas ditandai sebagai sebuah lelucon. Kemudian dibalas oleh kampanye Trump dengan tanggapan yang sama santai ‘saya menerimanya.’ Akhir dari partisipasi kami dalam hal ini, kecuali untuk apa yang menjadi senyuman kecil dari kami,” kata juru bicara JMFF kepada Al Jazeera dalam sebuah pernyataan.
Kelompok ini memiliki rekan-rekan yang dikenal menyebarluaskan informasi yang salah dan teori konspirasi jauh yang tidak terverifikasi, termasuk Lara Logan, yang dilarang dari saluran berita sayap kanan Newsmax setelah melancarkan serangan teori konspirasi di mana dia menuduh para pemimpin dunia meminum darah anak-anak.
Mantan presiden mengatakan kepada Fox Business bahwa dia tidak khawatir di sue oleh Taylor karena gambar-gambar itu dibuat oleh orang lain.
Kampanye Trump tidak merespons permintaan komentar.
Bagian dari kekhawatiran kelompok pengawas Public Citizen bahwa berbagai pemangku kepentingan akan berusaha mengalihkan kesalahan untuk menghindari akuntabilitas.
Pada bulan Juni, Public Citizen meminta Komisi Pemilihan Umum (FEC) untuk membendung penggunaan gambar deepfake yang berkaitan dengan pemilu. Tahun lalu pada bulan Juli, kelompok pengawas tersebut mempetisikan lembaga untuk mengatasi masalah berkembangnya deepfake dalam iklan politik.
“FEC, terutama beberapa komisioner Republik, memiliki kecenderungan anti-regulasi yang jelas secara keseluruhan. Mereka mengatakan bahwa mereka tidak berpikir bahwa FEC memiliki kemampuan untuk membuat peraturan tersebut. Mereka seolah melempar kembali kepada Kongres untuk menciptakan lebih banyak legislasi untuk memberi mereka kekuatan. Kami benar-benar tidak setuju dengan hal itu,” kata Lisa Gilbert, co-president Public Citizen, kepada Al Jazeera.
“Petisi kami meminta mereka untuk hanya menerapkan aturan lama yang berlaku, yang mengatakan bahwa Anda tidak boleh menyajikan pemalsuan. Jika Anda seorang kandidat atau partai, Anda pada dasarnya tidak boleh menyebarkan iklan yang berbohong langsung tentang hal-hal yang dikatakan atau dilakukan oleh lawan Anda. Jadi bagi kami, sangat jelas bahwa menerapkan hal itu pada teknologi baru yang menciptakan jenis disinformasi seperti itu adalah langkah yang jelas dan klarifikasi yang seharusnya mereka bisa lakukan dengan mudah,” tambah Gilbert.
Pada bulan Agustus, Axios melaporkan bahwa FEC kemungkinan tidak akan memberlakukan peraturan baru tentang AI dalam pemilu selama siklus ini.
“FEC terus menunda penerapan peraturan pada salah satu masalah terkait pemilu yang paling penting dalam hidup kita. FEC seharusnya mengatasi pertanyaan ini sekarang dan melanjutkan dengan aturan,” kata Gilbert.
Lembaga itu seharusnya memberikan suara tentang apakah menolak proposal Public Citizen pada hari Kamis. Sehari sebelum pertemuan terbuka, Bloomberg melaporkan bahwa FEC akan memberi suara tentang apakah akan mempertimbangkan peraturan yang diusulkan tentang AI dalam pemilu pada 19 September.
Otoritas penyiaran TV, kabel, dan radio, Komisi Komunikasi Federal (FCC), mengkaji rencana yang akan memerlukan iklan politik yang menggunakan AI untuk dilengkapi dengan keterangan, tetapi hanya jika digunakan di platform TV dan radio.
Peraturan tersebut tidak berlaku untuk perusahaan media sosial. Juga menempatkan tanggung jawab pada kandidat daripada pembuat produk yang memungkinkan konsumen untuk membuat foto deepfake. Peraturan ini tidak bertanggung jawab pada pelaku individual yang mungkin membuat konten tetapi tidak terlibat dalam kampanye.
Komisioner FEC Sean Cooksey menolak keberatan FCC dan mengatakan pihak berwenang tidak memiliki yurisdiksi untuk membuat peraturan tersebut meskipun FCC mengatakan sebaliknya.
“FCC berencana melanjutkan pendekatannya dengan bijak terhadap keterbukaan dan transparansi yang ditingkatkan dalam iklan politik menggunakan AI,” kata juru bicara FCC kepada Al Jazeera dalam sebuah pernyataan.
FEC menolak permintaan komentar.
Saat ini, tidak ada undang-undang federal yang melarang atau mengharuskan pengungkapan penggunaan AI dalam iklan politik, dan tanggung jawabnya ada pada perusahaan media sosial itu sendiri untuk memantau dan menghapus deepfake di platform mereka masing-masing.
Meskipun ada beberapa tagihan yang mengharuskan platform media sosial memiliki pengamanan, belum jelas apakah mereka akan lolos, apalagi dijadikan undang-undang tepat waktu untuk pemilu 2024. Tagihan seperti Undang-undang bipartisan Proteksi dari Deceptive AI Act menghadapi tentangan yang kuat, termasuk dari Pemimpin Minoritas Senat Mitch McConnell.
Ini beriringan dengan sebuah tagihan yang diperkenalkan pada akhir Juli yang mengatasi deepfake. Secara lebih luas disebut sebagai NO FAKES Act, tagihan tersebut melindungi semua individu, terkenal atau tidak, dari penggunaan tanpa izin dari wajah mereka dalam video, foto, atau rekaman audio yang dibuat komputer.
“Ada kepentingan dari semua pihak untuk mencoba menghindari mengelabui konsumen dengan mempercayai sesuatu yang tidak benar secara faktual,” kata Rob Rosenberg, pendiri dan kepala hukum Telluride Legal Strategies, kepada Al Jazeera.
Ada konsensus bipartisan yang kuat untuk RUU NO FAKES yang disusun oleh Senator Demokrat Chris Coons (Delaware) dan Amy Klobuchar (Minnesota) serta Senator Republik Marsha Blackburn (Tennessee) dan Thom Tillis (North Carolina).
“Untuk pertama kalinya, saat ini terasa seperti ada peluang bagus bahwa kita akan memiliki undang-undang federal yang melindungi jenis hak-hak seperti itu,” tambah Rosenberg.
Namun, belum jelas apakah RUU tersebut akan dijalankan menjadi undang-undang pada hari pemilihan. Lebih banyak perhatian diberikan untuk aksi di tingkat negara bagian.
“Berbeda dengan di tingkat federal, ada tanggapan besar dari pejabat terpilih untuk melewati tagihan-tagihan ini,” kata Gilbert.
Legislatif negara bagian baik yang dipimpin oleh Partai Republik maupun Partai Demokrat telah memberlakukan kebijakan yang melarang atau mengharuskan pengungkapan penggunaan deepfakes dalam iklan kampanye, tetapi merupakan kumpulan yang beberapa lebih ketat daripada yang lain. Meskipun sebagian besar negara bagian memiliki undang-undang yang menuntut pengungkapan deepfakes, beberapa di antaranya termasuk Texas dan Minnesota memiliki larangan.
Texas telah meloloskan undang-undang pada tahun 2019 yang melarang penggunaan video deepfake untuk merugikan seorang kandidat atau mempengaruhi pemilihan, tetapi hanya berlaku 30 hari sebelum pemilu dan tidak merincikan penggunaan foto atau audio deepfake. Kegagalan untuk patuh dapat berakibat denda sebesar $4.000 dan hingga satu tahun penjara.
Pemimpin negara bagian tersebut secara aktif mengevaluasi kebijakan tentang mengatur sektor tersebut. Bahkan hingga minggu lalu, telah terjadi perdebatan untuk membahas regulasi AI di negara bagian tersebut. Austin – ibu kota negara bagian dan pusat industri teknologi – adalah tempat Musk berencana untuk memindahkan markas besar X dari San Francisco, California.
Minnesota, di sisi lain, memberlakukan larangannya pada tahun 2023 dan melarang penggunaan semua jenis media deepfake 90 hari sebelum pemilu. Kegagalan untuk mematuhi peraturan tersebut dapat berakibat pada denda hingga $10.000, lima tahun penjara, atau keduanya.
Pada akhir Juli, 151 tagihan di tingkat negara bagian telah diperkenalkan atau disahkan tahun ini untuk mengatasi konten yang dihasilkan AI, termasuk deepfakes dan chatbots.
Secara keseluruhan, kumpulan undang-undang tersebut tidak memberikan tekanan pada platform media sosial dan perusahaan yang membuat alat yang memungkinkan pelaku jahat untuk membuat deepfakes.
“Saya yakin perusahaan-perusahaan bertanggung jawab,” kata Gilbert, dari Public Citizen, merujuk kepada platform media sosial yang memungkinkan pos deepfake. “Jika mereka tidak menghapusnya, mereka harus bertanggung jawab.”
“Ini adalah isu di spektrum politik. Tidak ada yang kebal terhadap menyebarluaskan teori konspirasi,” tambah Tian dari GPTZero.
Musk, yang menyebarkan informasi yang salah sendiri, menunjukkan ketidaksetujuan untuk mengawasi konten, setidaknya bagi pengguna yang politiknya dia setujui. Seperti yang dilaporkan Al Jazeera sebelumnya, Musk telah memperkuat suara konservatif sambil sekaligus menyensor kelompok liberal seperti White Dudes 4 Harris.
Permintaan komentar Al Jazeera menerima pesan otomatis dari X: “Sibuk sekarang, silakan cek kembali nanti.”
Munculnya deepfakes bukan hanya menjadi khawatir bagi mereka yang perlu mengungkapkan gambar palsu namun juga bagi mereka yang menggunakan prevalensi mereka sebagai cara untuk menciptakan keraguan sekitar gambar yang dapat diverifikasi. Setelah acara kampanye besar Harris di Detroit, Michigan pada 7 Agustus, Trump dengan tidak benar mengklaim bahwa foto-foto kejadian itu dihasilkan oleh AI.
“AI sudah digunakan sebagai senjata melawan gambar yang nyata. Masyarakat mempertanyakan gambar yang bisa diperiksa,” tambah Tian. “Pada akhirnya, korban di sini adalah kebenaran.”