Meta sedang kesulitan dalam memoderasi konten terkait perang Israel-Palestina, khususnya dalam bahasa Ibrani, meskipun perubahan terbaru pada kebijakan internal, dokumen baru telah terungkap.
Panduan kebijakan internal yang dibagikan dengan Guardian oleh mantan karyawan Meta yang bekerja pada moderasi konten menguraikan proses multi-level untuk memoderasi konten terkait konflik tersebut. Namun, dokumen menunjukkan bahwa Meta, yang memiliki platform Facebook, Instagram, dan WhatsApp, tidak memiliki proses yang sama untuk menilai keakuratan moderasi konten dalam bahasa Ibrani dan bahasa Arab.
Karyawan yang tidak disebutkan namanya oleh Guardian karena takut akan balasan profesional yang kredibel, mengatakan kebijakan Meta sehubungan dengan ujaran kebencian terkait Palestina tidak adil, penilaian yang didukung oleh para pendukung Palestina.
Mereka juga mengatakan beberapa pekerja di garis depan dalam pertempuran informasi seputar konflik merasa waspada untuk mengungkapkan kekhawatiran karena takut akan balasan, tuduhan yang didukung dalam surat terbaru yang ditandatangani oleh lebih dari 200 pekerja Meta. Kondisi tersebut, kata mantan karyawan, memberikan kesan bahwa prioritas perusahaan bukanlah “benar-benar memastikan konten aman untuk komunitas”.
Dokumen tersebut, yang berlaku pada musim semi ini, muncul ketika Meta dan platform sosial lainnya dihadapkan pada kritik terkait pendekatan mereka terhadap konflik yang memecah-belah, di mana bahasa dan pilihan moderasi selama peristiwa berita yang cepat dapat memiliki konsekuensi serius. Pada bulan Juni, koalisi 49 organisasi masyarakat sipil dan sejumlah Palestina terkemuka mengirim surat kepada Meta menuduh perusahaan itu “membantu dan membantu pemerintah dalam genosida” melalui kebijakan moderasi konten mereka.
“Ketika suara Palestina disensor di platform Meta, hal itu berdampak langsung pada kehidupan Palestina,” kata Cat Knarr dari US Campaign for Palestinian Rights, yang mengorganisir surat tersebut. “Orang tidak mendengar tentang apa yang terjadi di Palestina, namun mereka mendengar propaganda yang merendahkan martabat orang Palestina. Konsekuensinya sangat berbahaya dan sangat nyata.”
Kesenjangan dalam moderasi konten berdasarkan bahasa adalah kritik yang sudah lama diberikan pada Meta, seperti yang dinyatakan whistleblower Facebook Frances Haugen sebelum komite Senat AS bahwa, meskipun hanya 9% pengguna raksasa jejaring sosial tersebut adalah penutur bahasa Inggris, 87% pengeluaran disinformasi mereka didedikasikan untuk kategori tersebut.
Dokumen panduan konten, yang dikeluarkan setelah serangan 7 Oktober terhadap Israel oleh Hamas dan perang di Gaza, membuka cahaya pada berbagai keputusan kebijakan moderasi di Meta.
Di antaranya adalah kebijakan perusahaan terkait ujaran kebencian dan gerakan boikot. Kebijakan tersebut mensyaratkan penghapusan pernyataan “boikot toko-toko Yahudi” dan “boikot toko-toko Muslim” tetapi memperbolehkan frasa “boikot toko-toko Arab” berdasarkan dokumen internal.
Tracy Clayton, juru bicara Meta, mengatakan “dalam konteks dan selama krisis ini”, kebijakan Meta adalah untuk menghapus seruan boikot berdasarkan agama semata, namun memperbolehkan seruan boikot pada bisnis “berdasar pada karakteristik yang dilindungi seperti kewarganegaraan”, karena biasanya “dikaitkan dengan pidato politik, atau dimaksudkan sebagai bentuk protes terhadap pemerintah tertentu”.
Oleh karena itu, kata juru bicara itu, frasa “boikot toko-toko Israel” atau “boikot toko-toko Arab” diperbolehkan. Kebijakan seperti yang diuraikan dalam dokumen internal lebih spesifik, menyatakan bahwa frasa seperti “tidak boleh ada barang Israel di sini sampai mereka berhenti melakukan kejahatan perang” diperbolehkan, serta “boikot toko-toko Arab”.
Protes luar kantor pusat Meta pada 12 Desember 2023 menuntut perusahaan menghentikan penghapusan konten pro-Palestina di platform media sosialnya. Foto: Calvin Stewart/Zuma Press Wire/Shutterstock
Kebijakan ini menegaskan bahwa Meta “tidak memiliki pemahaman yang nuansa atau akurat tentang wilayah ini,” kata Nadim Nashif, pendiri dan direktur 7amleh, sebuah organisasi nirlaba yang mendukung hak digital Palestina.
“Identitas Arab terdiri dari orang-orang di wilayah ini dari berbagai negara, sementara identitas Israel terdiri dari individu dari satu negara yang sedang menduduki dan menindas Palestina, sebagai subset dari populasi Arab,” katanya. “Kerangka Meta secara inheren menunjukkan bias terhadap Israel karena alasan ini.”
Mengukur efektivitas moderasi ujaran kebencian dalam bahasa Ibrani
Dokumen terbaru juga menawarkan gambaran baru tentang kemampuan Meta untuk mengukur kualitas moderasi kontennya sendiri dalam bahasa Arab dan Ibrani.
Meta memiliki sistem untuk melacak “presisi kebijakan” penegakan konten dalam banyak bahasa. Artinya sistem kualitas perusahaan – menggunakan ahli manusia – meninjau pekerjaan moderator garis depan dan sistem dan memberi nilai sejauh mana keputusan yang dibuat oleh moderator dan sistem tersebut selaras dengan kebijakan Meta tentang apa yang diizinkan dan tidak diizinkan di Facebook dan Instagram. Program pengukuran kualitas kemudian menghasilkan skor keakuratan melacak kinerja moderasi konten di seluruh platform, sesuai dengan dokumen dan mantan karyawan.
Sistem tinjauan ini berlaku untuk bahasa seperti Inggris, Spanyol, Arab, dan Thai. Namun, untuk sebagian keputusan konten berbahasa Ibrani, skor seperti itu dinyatakan “tidak memungkinkan” karena “tidak adanya terjemahan,” menunjukkan dokumen. Mantan karyawan mengatakan ini disebabkan oleh kurangnya reviewer manusia dengan keahlian bahasa Ibrani.
Meta mengatakan bahwa mereka memiliki “berbagai sistem” untuk mengukur keakuratan penegakan untuk moderasi konten berbahasa Ibrani, termasuk evaluasi oleh reviewer dan auditor berbahasa Ibrani.
Namun, dokumen menunjukkan tidak ada pengukuran “presisi kebijakan” untuk penegakan berbahasa Ibrani, dan mantan karyawan mengatakan bahwa, karena bahasa Ibrani tidak dimasukkan dalam sistem, tinjauan penegakan semacam ini di pasar Ibrani dilakukan secara “ad hoc”, berbeda dengan pasar Arab.
Kesenjangan tersebut berarti bahwa perusahaan meninjau konten dalam bahasa resmi Israel dengan kurang sistematis daripada yang di Palestina, kata mantan karyawan tersebut. Perbedaan ini menunjukkan “kecenderungan terhadap bagaimana mereka menegakkan konten”, yang potensial menyebabkan over-penegakan konten berbahasa Arab, tambahnya.
Bahasa Ibrani, yang digunakan oleh sekitar 10 juta orang, merupakan bagian kecil dari posting di jaringan sosial Meta dibandingkan dengan Arab, yang digunakan oleh sekitar 400 juta orang. Para kritikus mengatakan bahwa karena perang yang sedang berlangsung, perhatian lebih diperlukan untuk konten berbahasa Ibrani, dan Meta telah dihadapkan pada pertanyaan seputar penegasan posting dalam bahasa Ibrani sebelumnya. Analisis independen pada tahun 2022 yang diselenggarakan oleh raksasa teknologi tersebut menyimpulkan bahwa sistem moderasi mereka lebih sering menghukum penutur bahasa Arab daripada penutur bahasa Ibrani di tengah ketegangan meningkat selama konflik 2021 antara Israel dan Palestina pada 2021 – bahkan ketika mempertimbangkan disparitas jumlah penutur. Sistem Meta secara otomatis menandai konten berbahasa Arab dengan tingkat yang “signifikan lebih tinggi” daripada konten berbahasa Ibrani, menurut analisis tersebut. Kebijakan perusahaan “mungkin telah menghasilkan bias tidak disengaja melalui penegakan yang lebih berlebihan terhadap konten berbahasa Arab dibandingkan dengan konten berbahasa Ibrani,” tulis laporan tersebut.
Disparitas itu sebagian disebabkan oleh fakta bahwa Meta, pada saat itu, telah menerapkan “klasifier ucapan bermusuhan Arab”, memungkinkan deteksi otomatis konten yang melanggar – seperti ujaran kebencian dan seruan kekerasan – namun belum melakukan hal yang sama untuk konten berbahasa Ibrani. Klasifier semacam ini memungkinkan bahasa yang melanggar dihapus secara otomatis. Kurangnya klasifier dalam bahasa Ibrani berarti konten berbahasa Arab kemungkinan akan dihapus secara algorithmik lebih sering, analisis tersebut mengatakan. Sebagai tanggapan terhadap laporan tersebut, Meta meluncurkan klasifier pembelajaran mesin berbahasa Ibrani yang mendeteksi “ucapan bermusuhan”. Studi lebih baru dari Human Rights Watch, yang diterbitkan pada Desember 2023, menuduh “pembatasan sistematis konten Palestina di Instagram dan Facebook”.
Pemerhati Meta mengatakan bahwa dokumen-dokumen baru yang ditinjau oleh Guardian menunjukkan bahwa, bahkan dengan klasifier bahasa Ibrani yang baru, ada kurangnya upaya untuk memastikan bahwa langkah-langkah terbaru tersebut efektif, memungkinkan disparitas dalam penegakan untuk tetap terjadi.
“Laporan ini menunjukkan bahwa Meta tidak serius dalam mengambil tanggung jawab moderasi kontennya,” kata Nashif dari 7amleh.