Sejumlah alat kecerdasan buatan Kantor Berita yang menawarkan tindakan penegakan hukum terhadap imigran dewasa dan anak dapat membuat pejabat terlalu mudah menyetujui keputusan-keputusan yang akan mengubah hidup secara otomatis, demikian diungkapkan oleh sejumlah aktivis. Seiring munculnya detail baru tentang sistem penegakan imigrasi yang didukung kecerdasan buatan (AI), para kritikus menyebutnya sebagai “robot-penanganan kasus” yang bisa “mengkode ketidakadilan” karena melibatkan algoritma dalam membentuk keputusan, termasuk pengembalian orang ke negara asal mereka. Pemerintah menegaskan bahwa ini dapat memberikan efisiensi dengan memprioritaskan pekerjaan dan bahwa seorang manusia tetap bertanggung jawab atas setiap keputusan. Ini digunakan di tengah peningkatan jumlah pencari suaka yang menghadapi tindakan pemindahan, saat ini sekitar 41.000 orang. Kampanye hak imigran menuntut agar Kantor Berita menarik sistem tersebut, dengan menyatakan bahwa ini adalah “teknologi yang digunakan untuk membuat kekejaman dan kejahatan lebih efisien”. Pandangan sekilas terhadap sistem yang sebagian besar tidak transparan telah menjadi mungkin setelah pertempuran informasi yang berkepanjangan selama satu tahun, di mana panduan terredaksi dan penilaian dampak dirilis kepada kelompok kampanye Privacy International. Mereka juga mengungkapkan bahwa orang yang kasusnya sedang diproses oleh algoritma tidak diberitahu secara khusus bahwa AI terlibat.
Sistem tersebut adalah salah satu dari beberapa program kecerdasan buatan yang diadopsi oleh otoritas publik di Inggris ketika pejabat mencari kecepatan dan efisiensi yang lebih besar. Terdapat seruan untuk lebih transparan tentang penggunaan AI pemerintah di bidang yang mencakup kesehatan hingga kesejahteraan. Sekretaris negara untuk sains, Peter Kyle, mengatakan bahwa AI memiliki “potensi luar biasa untuk meningkatkan layanan publik kita… tetapi, untuk benar-benar memanfaatkan ini, kita perlu membangun kepercayaan pada sistem-sistem ini”. Dokumen Kantor Berita menunjukkan bahwa Sistem Identifikasi dan Prioritas Kasus Imigrasi (IPIC) mendapatkan rentetan informasi pribadi tentang orang-orang yang merupakan subjek potensi tindakan penegakan, termasuk data biometrik, etnisitas, penanda kesehatan, dan data tentang catatan pidana. Tujuannya adalah “menciptakan cara yang lebih mudah, cepat, dan efektif untuk penegakan imigrasi mengidentifikasi, memprioritaskan, dan mengoordinasikan layanan/intervensi yang diperlukan untuk mengelola beban kerja mereka”, demikian disebutkan dalam dokumen tersebut. Namun, Privacy International mengatakan bahwa mereka khawatir sistem tersebut disusun sedemikian rupa sehingga pejabat manusia akan “menyetujui” rekomendasi algoritma untuk tindakan dalam sebuah kasus “karena ini jauh lebih mudah… daripada mempertimbangkan secara kritis rekomendasi dan menolaknya”.
Untuk menolak keputusan yang diusulkan tentang “pemulangan” – mengirim orang kembali ke negara asal mereka – pejabat harus memberikan penjelasan tertulis dan mencentang kotak-kotak yang terkait dengan alasan-alasan tersebut. Namun, untuk menerima vonis komputer, tidak diperlukan penjelasan dan pejabat hanya perlu mengklik satu tombol yang berlabel “menerima” dan mengonfirmasi bahwa kasus telah diperbarui di sistem Kantor Berita lainnya, demikian tertera dalam panduan pelatihan. Dijelaskan bahwa IPIC merupakan alat alur kerja berbasis aturan yang memberikan efisiensi bagi penegakan imigrasi dengan merekomendasikan kepada pekerja kasus tindakan atau langkah berikut yang harus dipertimbangkan. Mereka menegaskan bahwa setiap rekomendasi yang dibuat dalam sistem IPIC diperiksa oleh seorang pekerja kasus yang diwajibkan untuk menilainya berdasarkan kelebihan individualnya. Sistem ini juga digunakan pada kasus warga Uni Eropa yang mencari untuk tinggal di Inggris di bawah skema penyelesaian Uni Eropa. Jonah Mendelsohn, seorang pengacara dari Privacy International, mengungkapkan bahwa alat Kantor Berita ini dapat mempengaruhi kehidupan ratusan ribu orang.
Setiap orang yang sedang melalui sistem imigrasi saat ini tidak memiliki cara untuk mengetahui bagaimana alat ini digunakan dalam kasus mereka dan apakah hal itu akan membahayakan mereka dengan tindakan penegakan yang keliru,” kata dia. “Tanpa perubahan yang memastikan transparansi dan akuntabilitas algoritmik, janji Kantor Berita untuk menjadi “digital secara default” pada tahun 2025 akan semakin mengkodekan ketidakadilan ke dalam sistem imigrasi.” Fizza Qureshi, kepala eksekutif Migrants’ Rights Network, menuntut agar alat ini ditarik dan mengangkat kekhawatiran bahwa AI dapat menyebabkan bias rasial. “Terdapat sejumlah besar data yang dimasukkan ke dalam IPIC yang akan berarti peningkatan berbagi data dengan departemen pemerintah lain untuk mengumpulkan informasi kesehatan, dan menunjukkan bahwa alat ini juga akan melakukan pengawasan dan pemantauan terhadap imigran, yang lebih lanjut melanggar privasi mereka,” katanya. IPIC telah beroperasi secara luas sejak 2019-2020. Kantor Berita menolak penyelidikan informasi sebelumnya karena keterbukaan yang lebih besar “dapat digunakan untuk mengelakkan kontrol imigrasi dengan memberikan wawasan tentang bagaimana kerja di Kantor Berita dan penegakan imigrasi diikut-sertakan”. Madeleine Sumption, direktur Observatory Migrasi di Universitas Oxford, mengatakan bahwa penggunaan AI dalam sistem imigrasi bukanlah sesuatu yang salah secara inheren, karena dalam teorinya AI dapat meningkatkan pengambilan keputusan manusia daripada menggantikannya.
Dia mengatakan: “Pemerintah mungkin saja mampu memberikan argumen bahwa AI menghasilkan pengambilan keputusan yang lebih baik dan mengurangi penahanan yang tidak perlu, tetapi tanpa transparansi yang lebih besar, kita tidak bisa mengetahuinya.” Misalnya, jika negara seperti Iran tidak mungkin menerima warga negara yang dideportasi, mengejar kasus-kasus tersebut bisa dianggap sebagai pemborosan sumber daya penegakan yang terbatas. Atau jika argumen seseorang untuk tetap tinggal didasarkan pada hukum hak asasi manusia yang berarti mereka tidak mungkin segera dideportasi, mungkin lebih baik untuk memprioritaskan pemulangan lain dan dengan demikian menghindari penahanan yang tidak ditentukan waktu. Dokumen Kantor Berita mengatakan bahwa alat tersebut digunakan untuk “menilai kemungkinan seseorang untuk dibuang dan tingkat bahaya yang dihadirkan oleh pelanggaran imigrasi, mengotomatisasi identifikasi dan prioritisasi kasus-kasus, dan menyediakan informasi tentang berapa lama penghalang terhadap pemulangan telah ada”.
Rancangan undang-undang data baru diperkenalkan untuk didebatkan di parlemen Inggris bulan lalu yang “akan secara efektif mengizinkan pengambilan keputusan otomatis dalam kebanyakan situasi”, menurut para pengacara. Hal ini akan diizinkan selama individu yang terkena dampak dapat memberikan representasi, mendapatkan intervensi manusia yang bermakna, dan menantang keputusan otomatis.
