Getty/BBC
Sukarelawan komunitas Alfie Malone dan reporter Kristen Griffith sama-sama kesusahan dalam menangani rekaman audio yang ofensif yang ternyata palsu
Saat sebuah rekaman audio diduga menunjukkan kepala sekolah lokal mengeluarkan komentar merendahkan, rekaman tersebut menjadi viral di internet, memicu ancaman kematian terhadap pendidik tersebut dan menciptakan gelombang di sebuah pinggiran kota di luar kota Baltimore. Namun kemudian terungkap bahwa rekaman tersebut palsu, dimanipulasi oleh kecerdasan buatan – jadi mengapa orang masih percaya bahwa itu nyata?
“Saya benar-benar tidak mengerti mengapa saya harus terus menerus bersusah payah dengan orang-orang bodoh di sini setiap hari.”
Begitulah awal mula tirade panjang yang tampaknya berasal dari kepala sekolah Pikesville High School, diakhiri dengan stereotip rasial, antisemitisme, dan ofensif. Terdengar seolah-olah itu direkam secara diam-diam.
Pembicara melanjutkan dengan mengeluhkan “anak-anak kulit hitam yang tak tahu berterimakasih” dan orang-orang Yahudi di komunitas.
Rekaman itu, yang pertama kali diposting pada bulan Januari, menjadi viral secara nasional. Namun itu benar-benar menyentuh perasaan di pinggiran kota yang damai dan rimbun di Pikesville, yang memiliki komunitas kulit hitam dan Yahudi yang besar, dan di kota terdekat Baltimore, Maryland. Kepala Sekolah Eric Eiswert dipecat sementara sambil menunggu penyelidikan.
Alfie Malone, seorang pria kulit hitam yang tinggal di Baltimore, melihat anggota komunitasnya yang lain membagikan rekaman tersebut dan menganggapnya nyata.
“Di dalam pikiran Anda, Anda berpikir mungkin itulah cara sebenarnya orang merasa tentang kita,” kata Mr. Malone. “Dan kemudian mendengar itu benar-benar disampaikan dalam audio.”
Dalam upaya untuk memverifikasi apa yang dia dengar, Mr Malone memeriksa rekaman-rekaman nyata lainnya dari Mr Eiswert di media sosial dan mereka terdengar sama.
Jadi, pekerja paruh waktu itu membagikan kembali rekaman tersebut.
Rekaman itu mulai mendapatkan perhatian di media sosial saat lebih banyak orang menyebarkannya secara online. Salah satu versi yang paling banyak dibagikan hampir mencapai dua juta tayangan dalam hitungan jam. Itu sudah sekitar 60 kali jumlah penduduk seluruh Pikesville.
Namun apa yang tidak disadari oleh mereka yang menyebarkan rekaman adalah bahwa sebuah bombshell lainnya siap meledak: rekaman itu palsu.
Untuk BBC Radio 4’s Why Do You Hate Me USA, saya telah berada di Maryland menyelidiki dampak rekaman itu terhadap kota tersebut. Ini hampir seperti sebuah dongeng tentang bahaya yang ditimbulkan oleh kecerdasan buatan, terutama ketika komunitas lokal menjadi sasaran.
Anatomi tipuan AI
Ketika rekaman mendarat di meja Kristen Griffith, seorang reporter pendidikan di Baltimore Banner, dia pikir itu akan menjadi cerita yang cukup sederhana tentang seorang guru yang terbongkar membuat komentar ofensif.
Namun, sesuai dengan praktik terbaik dalam jurnalisme, Ms Griffith ingin memberi kesempatan kepada kepala sekolah untuk memberikan komentar dan memberi versi ceritanya sendiri. Jadi, dia menghubungi perwakilan serikatnya, yang mengatakan bahwa Bapak Eiswert tidak hanya mengutuk komentar tersebut, tetapi dia tidak membuatnya.
“Dia langsung mengatakan, oh, kami pikir ini palsu… Kami percaya ini buatan AI,” katanya kepada BBC. “Saya belum pernah mendengar sudut pandang itu sebelumnya.”
Namun saat dia mempublikasikan penjelasan itu, pembaca-pembacanya tidak yakin. Jauh dari menggugah pertanyaan tentang kebenaran rekaman tersebut, itu justru memicu reaksi negatif dari orang-orang yang menganggap tuduhan palsu tersebut hanya alasan atau upaya untuk menghindari pertanggungjawaban.
Pada saat itu, polisi setempat mulai menyelidiki kasus tersebut. Staf di Pikesville High mengatakan kepada mereka bahwa mereka merasa tidak aman karena semua perhatian tersebut, dan mereka khawatir bahwa sekolahnya dipasangi alat perekam.
Reputasi Kepala Sekolah Eiswert juga terkena hantaman serius. Keamanan diperketat di sekitar dirinya dan sekolah. Dia menjadi target kebencian dan ancaman di media sosial. Saya menemukan puluhan pesan pelecehan yang ditujukan padanya di media sosial.
Getty Images
Ketika polisi dan superintendent sekolah board mengumumkan bahwa anggota fakultas Pikesville High yang membuat rekaman palsu, itu menjadi kejutan bagi komunitas
Lalu pada bulan April, Kepala Polisi Baltimore Robert McCullough mengkonfirmasi bahwa mereka sekarang memiliki “bukti yang meyakinkan bahwa rekaman tersebut tidak otentik”.
Dan mereka percaya bahwa mereka tahu siapa yang membuat rekaman palsu tersebut.
Polisi menuduh Dazhon Darien berusia 31 tahun, direktur atletik sekolah, dengan beberapa tuduhan terkait video palsu tersebut. Tuduhan termasuk pencurian, membalas dendam terhadap saksi, dan pengejaran.
Dia ditangkap di bandara, di mana polisi mengatakan dia berencana terbang ke Houston, Texas.
Polisi mengatakan bahwa Mr Darien sedang diselidiki oleh Kepala Sekolah Eiswert atas dugaan pencurian $1.916 dari sekolah. Mereka juga menduga telah ada “tantangan kinerja kerja” dan kontraknya kemungkinan tidak akan diperpanjang.
Teori mereka adalah dengan membuat rekaman deepfake, dia berharap dapat mencemarkan reputasi kepala sekolah sebelum dia dipecat.
Para penyelidik mengatakan bahwa mereka melacak email yang digunakan untuk mengirimkan video asli ke server yang terhubung dengan Mr Darien, dan menuduh bahwa ia menggunakan jaringan komputer Baltimore County Public Schools untuk mengakses alat AI. Dia dijadwalkan untuk diadili pada Desember 2024.
Perwakilan hukum Mr. Darien tidak merespons permintaan komentar.
Superintendent Sekolah County Baltimore Myriam Rogers sebelumnya mengatakan bahwa ini adalah “waktu yang sangat sulit” bagi komunitas sekolah, kepala sekolah, dan keluarganya.
Perwakilan dari Pikesville High School dan Bapak Eiswert tidak merespons permintaan saya untuk komentar lebih lanjut.
Mengapa orang percaya pada video tersebut?
Karena rekaman itu hanya berupa audio, itu berarti tidak ada petunjuk visual, seperti gerakan robotik yang biasanya mengungkapkan manipulasi AI. Itu juga menyebutkan istilah teknis, seperti “harapan tingkat kelas”, dan rincian lainnya, seperti nama-nama staf, yang hanya diketahui oleh orang-orang yang dekat dengan sekolah itu.
Namun, jika Anda mendengarkan dengan teliti, terdapat suntingan yang jelas antara kalimat-kalimat – dan suara, meskipun mirip dengan kepala sekolah, terdengar cukup monoton. Kecerdasan buatan dapat menggunakan beberapa menit dari rekaman nyata – misalnya, dari aktor favorit Anda di film atau kandidat presiden memberikan pidato – untuk kemudian menghasilkan rekaman yang membuatnya terdengar seolah-olah mereka mengucapkan sesuatu yang sebenarnya tidak mereka ucapkan.
Namun mungkin alasan terbesar mengapa orang percaya pada video tersebut karena terasa benar, kata Mr. Malone kepada saya.
Itu merujuk pada pengalaman rasisme pribadinya sebagai seorang pria kulit hitam yang tinggal di Baltimore.
Ketika Mr. Malone mendengar kepala sekolah menggambarkan siswa kulit hitam sebagai malas, itu langsung mengingatkannya pada cacian dan diskriminasi yang dialaminya di sekolah dan tempat kerja.
Berbulan-bulan kemudian, efek dari rekaman audio palsu masih dirasakan di Pikesville. Mr Eiswert telah pindah pekerjaan dan bekerja di sekolah lain. Dan meskipun beberapa anggota komunitas mengatakan kepada saya bahwa mereka sekarang menerima bahwa video itu palsu, kerusakan sudah terjadi.
“Ini adalah sebuah lingkungan Yahudi dan mengatakan sesuatu yang begitu menyulut tentang komunitas itu mengganggu,” seorang wanita bernama Sharon memberitahu saya saat dia memasukkan kereta bayi cucunya ke dalam mobil di sebuah rumah di seberang sekolah menengah pada bulan Agustus lalu.
Selama beberapa menit, Sharon berbicara pada saya seolah-olah rekaman itu nyata.
“Saya pikir ketika orang mengatakan hal-hal seperti itu, orang lain ikut serta dan itu membuat saya semakin takut.”
Saat suaminya ikut berkomentar dari dalam mobil, mengingatkannya bahwa rekaman tersebut sebenarnya palsu, dia mengakui bahwa dia “mengetahui kemudian bahwa itu dibuat dengan AI”. Namun dia berkata bahwa dia masih marah tentang hal itu.
Rekaman tersebut terus memengaruhi komunitas lokal di Pikesville dan mereka yang terhubung dengan sekolah menengah tersebut
Saya menemukan bahwa bagi orang seperti Sharon, yang telah percaya bahwa rekaman tersebut nyata, bahkan hanya untuk sementara waktu, itu tetap melekat dalam pikiran mereka – terutama ketika pesan itu mencerminkan pengalaman rasisme dan diskriminasi yang sebenarnya. Itu mengingatkan saya pada sesuatu yang sering saya dengar saat menyelidiki informasi yang keliru dan teori konspirasi: “Yah, sekalipun itu tidak nyata, itulah yang saya kira mereka pikirkan.”
Semua perusahaan media sosial besar mengatakan bahwa mereka memiliki kebijakan untuk menandai, menghapus, dan membatasi penyebaran postingan yang dihasilkan AI. Namun tindakan tersebut hanya terjadi ketika dapat dibuktikan bahwa suatu rekaman adalah palsu. Pada saat itu, itu mungkin sudah mencapai jutaan orang.
Alfie Malone mengatakan bahkan sebelumnya hari itu, dia berbicara dengan seorang teman yang masih tidak tahu bahwa rekaman tersebut dibuat dengan AI.
“Saya benar-benar percaya bahwa banyak orang di kota ini sebenarnya tidak tahu bahwa itu tidak nyata,” katanya.
Dia mengatakan bahwa dia merasa kasihan bahwa Bapak Eiswert, kepala sekolah, salah dituduh membuat komentar tersebut. Dia juga khawatir episode tersebut telah merusak pengalaman rasisme yang nyata.
Dia mengatakan bahwa dia akan berpikir dua kali sebelum membagikan kembali rekaman seperti ini lagi.
“Saya sudah terbakar oleh api sekali. Saya tidak akan menyentuh kompor lagi.”
“