Penggunaan deepfakes dalam kampanye politik dilarang secara ketat di Brasil
Getty
Mahkamah Pemilihan Tinggi di Brasil telah menetapkan aturan seputar penggunaan kecerdasan buatan dalam kampanye politik menjelang pemilihan kota yang akan dilaksanakan pada bulan Oktober tahun ini.
Disetujui oleh mayoritas Hakim kemarin (27), aturan tersebut mengikuti serangkaian laporan dan konsultasi publik mengenai tema tersebut, aturan tersebut menyatakan bahwa penggunaan deepfakes – konten palsu yang menggunakan suara atau citra seseorang yang nyata – dilarang secara ketat.
“Konten sintetis dalam format audio, video, atau kombinasi keduanya, yang telah dihasilkan atau dimanipulasi secara digital, bahkan dengan izin, untuk menciptakan, menggantikan, atau mengubah citra atau suara seseorang yang hidup, meninggal, atau fiktif tidak boleh digunakan untuk membahayakan atau mendukung pencalonan,” demikian resolusi yang disetujui oleh Mahkamah, terkait dengan deepfakes.
Selain itu, setiap materi yang telah “dibuat atau dimanipulasi” melalui penggunaan kecerdasan buatan harus secara eksplisit diberi label sebagai demikian, sesuai dengan aturan baru tersebut.
Menurut profesor hukum digital di Pusat Universitas Brasília, Carolina Jatobá, hubungan antara teknologi dan demokrasi “selalu rumit”, namun kemajuan terbaru membawa perdebatan tentang deepfakes ke tingkat yang baru.
Jatobá menekankan bahwa deepfakes dapat memicu polarisasi dan merusak kepercayaan dalam proses pemilihan, menyebabkan kerusakan yang tidak dapat diperbaiki bahkan sebelum kebohongan terungkap. “Kemampuan ini untuk memanipulasi kebenaran secara real time menjadi tantangan yang signifikan bagi para pembela demokrasi,” tambahnya.
Issu akuntabilitas
Aturan yang ditetapkan oleh Mahkamah Pemilihan Tinggi Brasil juga mencakup pemanfaatan chatbot dan avatar sebagai saluran untuk mendukung kampanye: menurut resolusi Mahkamah, komunikasi yang terjadi melalui alat-alat ini tidak boleh mensimulasikan percakapan antara seorang kandidat dan orang nyata.
Selain itu, Mahkamah menuntut tanggung jawab yang lebih besar dari platform digital dalam mengatur konten yang dibagikan selama pemilihan. Aturan yang disetujui kemarin juga terkait dengan tanggung jawab perusahaan teknologi yang gagal menarik konten yang berisiko menjelang pemilihan.
Kasus semacam itu akan, menurut aturan baru tersebut, perilaku atau ucapan yang membenci, termasuk promosi rasisme, homofobia, serta ideologi nazi, fasis, atau benci terhadap seseorang atau kelompok melalui prasangka asal, ras, jenis kelamin, warna kulit, usia, dan bentuk diskriminasi lainnya.
Apa yang diperdebatkan oleh perusahaan teknologi besar seperti Meta dan Google adalah bahwa tanggung jawab untuk menyebarkan informasi yang keliru, terutama konten yang dihasilkan oleh kecerdasan buatan, seharusnya jatuh pada partai politik dan kandidat.
Menurut ahli hukum digital Jatobá, “counterintelligence buatan yang sempurna” hanya dapat ditawarkan oleh pihak yang menciptakan teknologi tersebut – dan, sampai hal tersebut terjadi, publik harus tetap waspada dan kritis terhadap konten yang mereka konsumsi.
“Pada akhirnya, membela demokrasi dari deepfakes akan memerlukan pendekatan multiaspek yang melibatkan pemerintah, perusahaan teknologi, dan individu di seluruh dunia,” tegasnya.
Latar belakang yang lebih luas
Risiko-risiko yang ditimbulkan oleh deepfakes menyebabkan pengaturan kecerdasan buatan di luar pemilihan menjadi prioritas bagi politisi Brasil. Pemimpin dari kedua Badan Kongres – Senat Federal dan Dewan Deputi – telah menyatakan kekhawatiran atas kemajuan kecerdasan buatan.
Terdapat puluhan proyek yang menunggu analisis oleh Kongres Brasil yang berfokus pada kecerdasan buatan sejak tahun 2019, namun mayoritas RUU telah diajukan pada tahun 2023. Tema-tema dalam peraturan yang diusulkan meliputi penggunaan kecerdasan buatan untuk memanipulasi citra individu yang sudah meninggal, hak kekayaan intelektual untuk seni yang dibuat dengan teknologi tersebut, sanksi khusus untuk tindak kejahatan yang dilakukan dengan kecerdasan buatan, dan regulasi untuk kendaraan otonom.
Namun, proyek utama yang sedang dibahas di Brasil diusulkan oleh presiden Senat, Rodrigo Pacheco, yang menetapkan kerangka kerja bagi pengembangan dan penerapan sistem kecerdasan buatan, serta hak orang-orang yang terpengaruh oleh teknologi dan risiko yang terlibat. RUU tersebut diperkirakan akan disahkan pada bulan April 2024.
