Para aktivis yang mengenakan topeng mata memegang poster yang bertuliskan “Kejahatan seks deepfake berulang, negara juga menjadi pelaku,” selama protes terhadap deepfakes yang melibatkan pelecehan seksual di Seoul, Korea Selatan, pada 30 Agustus.
Gurbernur AFP via Getty Images
SEOUL, Korea Selatan – Mahasiswa dari berbagai usia, guru, tentara, dan sekarang jurnalis. Semakin banyak perempuan Korea Selatan biasa mengetahui bahwa mereka adalah target dari bentuk pelecehan seksual digital yang berkembang pesat: deepfakes.
Pihak berwenang Korea Selatan sedang berusaha untuk merespon setelah media lokal dan upaya bersama baru-baru ini mengungkapkan sejumlah besar ruang obrolan di aplikasi pesan Telegram yang mendistribusikan gambar dan video seks palsu yang dibuat dengan kecerdasan buatan.
Kepolisian Nasional Korea, yang minggu lalu mengumumkan penindakan terhadap deepfakes seksual, mengatakan pada hari Senin bahwa mereka telah memulai penyelidikan terhadap Telegram atas potensi tuduhan menjadi penyokong penyebaran deepfakes seksual eksplosif di platformnya.
Badan tersebut mengatakan bahwa ini adalah pertama kalinya penegakan hukum Korea Selatan menyelidiki perusahaan tersebut, yang pendirinya Pavel Durov ditangkap dan didakwa di Prancis bulan lalu karena aktivitas ilegal di platform tersebut.
Juru bicara Telegram, Remi Vaughn, mengatakan kepada NPR bahwa perusahaan “telah aktif menghapus konten yang dilaporkan dari Korea yang melanggar syarat layanannya dan akan terus melakukannya.”
Komisi Standar Komunikasi Korea, badan pengawas media pemerintah, mengatakan bahwa Telegram mematuhi permintaannya dan menghapus 25 deepfakes yang ditentukan oleh komisi.
Sebagian besar korban deepfake di Korea Selatan adalah perempuan dan gadis remaja, menurut jurnalis dan aktivis yang telah memantau beberapa ruang obrolan.
Laporan media lokal mengatakan bahwa pelaku mengambil gambar korban dari media sosial tanpa pengetahuan atau persetujuan mereka. Atau mereka diam-diam mengambil foto perempuan di sekitar mereka di rumah atau di sekolah. Mereka kemudian mengubah gambar tersebut menggunakan kecerdasan buatan dan membagikan hasilnya di Telegram dengan orang asing atau pengguna yang mengenal korban.
Beberapa ruang obrolan, yang muncul dalam pencarian untuk istilah seperti “ruang kenalan bersama” atau “ruang penghinaan,” memiliki ribuan peserta.
Jumlah ruang obrolan semacam itu yang beroperasi di Telegram dan lingkup pelecehan yang diduga mereka tidak jelas. Banyak ruang obrolan tertutup dan hanya dapat diakses dengan tautan undangan atau izin dari administrator ruang obrolan, dan beberapa dilaporkan telah ditutup sejak aktivis dan media mulai melacaknya.
Dalam unggahan di Telegram Kamis, pendiri dan CEO platform Durov mengatakan perusahaan telah “berkomitmen untuk berinteraksi dengan regulator untuk menemukan keseimbangan yang tepat” antara privasi dan keamanan, sambil mengakui bahwa platform tersebut telah menjadi “lebih mudah bagi para pelaku kejahatan untuk menyalahgunakannya.”
Tetapi data dari penegak hukum dan lembaga pemerintah Korea Selatan menunjukkan peningkatan tajam dalam kejahatan seks digital yang melibatkan gambar palsu di negara tersebut.
Badan pengawas media pemerintah mengatakan bahwa mereka menerima hampir 6.500 permintaan untuk menangani video deepfake seksual antara Januari dan Juli tahun ini – empat kali lipat volume permintaan dari periode yang sama tahun lalu.
Menurut polisi, dalam tujuh bulan pertama tahun ini, dilaporkan 297 kasus kejahatan yang melibatkan deepfakes secara eksplisit seksual, naik dari 180 pada tahun 2023.
Banyak korban dan pelaku adalah remaja. Dari 178 tersangka yang diproses oleh polisi selama periode tujuh bulan, 74% berusia 10 hingga 19 tahun, naik dari 65% pada tahun 2021. Dan lebih dari setengah deepfakes yang ditelusuri dan dihapus tahun ini oleh Pusat Advokasi yang Dikelola Pemerintah untuk Korban Pelecehan Seksual Online melibatkan anak di bawah umur.
Pelaku sedang mengintimidasi perempuan Korea Selatan sudah lama melawan kejahatan seks termasuk perekaman ilegal, penyebaran gambar eksplisit seksual tanpa izin, pemikat online, dan pemerasan seksual.
Pencipta di balik jenis deepfakes yang marak di Telegram sering kali menargetkan perempuan yang mereka kenal secara pribadi, bukan orang asing, menurut para ahli kejahatan seks online.
Bagi korban, kerusakan dari serangan semacam itu oleh seseorang yang mereka kenal melebihi pelanggaran privasi mereka, kata Chang Dahye, seorang peneliti di Institute of Criminology and Justice Korea di Seoul, yang telah mempelajari serangan seksual online.
“Mereka kehilangan kepercayaan pada komunitas mereka,” kata Chang. “Mereka khawatir tidak dapat lagi menjaga kehidupan sehari-hari dengan orang-orang di sekitar mereka. Pada dasarnya, kepercayaan mereka pada hubungan sosial runtuh.”
Yang juga membedakan deepfakes seksual dari kejahatan lain, menurut Chang, adalah tujuan mereka. Beberapa pelaku didorong oleh uang atau dendam.
Tetapi, kata Chang, “bagi sebagian besar pria yang mengonsumsi konten-konten ini, tujuannya adalah untuk merendahkan perempuan secara umum.”
Dia menjelaskan bahwa deepfakes menekankan wajah yang dapat diidentifikasi dan sering disertai pelecehan seksual verbal.
“Itu merupakan bentuk ekspresi misogini dan kemarahan terhadap perempuan. Dengan mengolok dan meremehkan perempuan, mereka mendapatkan afirmasi dari sesama,” kata Chang.
Dalam pernyataan bersama pekan lalu, kelompok hak perempuan mengatakan “akar” dari pelecehan seksual digital yang berulang adalah seksisme. Mereka menyalahkan pemerintahan Presiden Yoon Suk Yeol karena gagal mengakui hal tersebut dan membiarkan masalah tersebut tumbuh.
Yoon mengatakan bahwa “seksisme struktural tidak lagi ada” di Korea Selatan dan berjanji untuk menghapus Kementerian Kesetaraan Gender dan Keluarga negara tersebut.
Posisi menteri tetap kosong sejak Februari, dan anggaran kementerian untuk mencegah kekerasan terhadap perempuan dan membantu korban mengalami pemotongan yang signifikan tahun ini. Dalam proposal anggaran yang baru diumumkan untuk tahun depan, dana yang diberikan ke Pusat Advokasi untuk Korban Pelecehan Seksual Online, yang menghapus materi pelecehan seksual online, berkurang dari tahun sebelumnya, meskipun beban kerja pusat tersebut meningkat dengan pesat.
Meskipun pemotongan tersebut, kelompok tugas darurat multi lembaga pemerintah dan partai Pemimpin Rakyat baru-baru ini bersumpah untuk memperkuat penyelidikan dan hukuman untuk kejahatan deepfake dan meningkatkan dukungan bagi korban.
Hukum yang berkaitan dengan pelecehan seks digital telah berkembang secara parsial karena mereka telah mencoba mengejar kejahatan baru yang muncul dari teknologi baru. Menurut Chang, dari Institute of Criminology and Justice Korea, itu meninggalkan kesenjangan konstan antara apa korban rasakan sebagai kerusakan dan apa yang hukum anggap sebagai kejahatan.
Bahkan ketika suatu tindakan dapat dipidanakan menurut hukum, yang saat ini melakukan pemalsuan atau materi palsu yang “mungkin menyebabkan hasrat seksual atau rasa malu” dan dibuat “untuk tujuan penyebaran”. Perpetrator seringkali lolos dari hukuman.
Tingkat penangkapan untuk materi seksual palsu tahun lalu adalah 48%, jauh lebih rendah dari tingkat untuk bentuk pelecehan seksual digital lainnya, menunjukkan statistik polisi.
Dan menurut analisis oleh penyiar Korea Selatan MBC, bahkan jika pelaku diadili di pengadilan, sekitar separuh dari mereka mendapatkan hukuman percobaan.
Chang mengatakan bahwa sistem hukum masih kesulitan untuk mengakui pelecehan seksual digital sebagai kejahatan serius dengan korban nyata. “Dalam banyak kasus, para hakim berpikir bahwa kerusakan tidak seberat dalam kekerasan seksual yang melibatkan kontak fisik langsung,” ujarnya. Kontribusi koresponden NPR Anthony Kuhn dari Seoul, Korea Selatan.
