Pada bulan Januari 2020, Robert Williams menghabiskan 30 jam di penjara Detroit karena teknologi pengenalan wajah menyarankan bahwa dia adalah seorang kriminal. Kesesuaian tersebut salah, dan Mr. Williams menggugat.
Pada hari Jumat, sebagai bagian dari penyelesaian hukum atas penangkapannya yang salah, Mr. Williams mendapat komitmen dari Departemen Kepolisian Detroit untuk melakukan perbaikan. Kota tersebut mengadopsi aturan baru untuk penggunaan teknologi pengenalan wajah oleh polisi yang American Civil Liberties Union, yang mewakili Mr. Williams, katakan seharusnya menjadi standar nasional baru.
“Kami berharap hal ini membawa perubahan yang positif,” kata Mr. Williams.
Mr. Williams adalah orang pertama yang diketahui ditangkap secara salah berdasarkan kesalahan teknologi pengenalan wajah. Tetapi dia bukan orang terakhir. Kepolisian Detroit menangkap setidaknya dua orang lain sebagai hasil dari pencarian pengenalan wajah yang salah, termasuk seorang wanita yang dituduh melakukan perampokan saat ia berada dalam kondisi hamil delapan bulan.
Badan penegak hukum di seluruh negara menggunakan teknologi pengenalan wajah untuk mencoba mengidentifikasi para penjahat yang perbuatannya tertangkap oleh kamera. Di Michigan, perangkat lunak tersebut membandingkan wajah yang tidak dikenal dengan yang ada dalam database foto mug shot atau SIM. Di yurisdiksi lain, polisi menggunakan alat, seperti Clearview AI, yang mencari foto dari situs media sosial dan internet publik.
Salah satu aturan baru yang paling penting yang diadopsi di Detroit adalah bahwa gambar orang yang diidentifikasi melalui teknologi pengenalan wajah tidak boleh ditunjukkan kepada seorang saksi mata dalam lineup foto kecuali ada bukti lain yang menghubungkan mereka dengan kejahatan tersebut.
“Pipa pembukaan ‘dapatkan gambar, letakkan di lineup’ akan berakhir,” kata Phil Mayor, seorang pengacara dari A.C.L.U. Michigan. “Penyelesaian ini memindahkan Kepolisian Detroit dari menjadi pengguna teknologi pengenalan wajah yang paling banyak didokumentasikan ke menjadi pemimpin nasional dalam memiliki perlindungan dalam penggunaannya.”
Polisi mengatakan teknologi pengenalan wajah adalah alat yang sangat berguna untuk membantu menyelesaikan kejahatan, tetapi beberapa kota dan negara bagian, termasuk San Francisco; Austin, Texas; dan Portland, Ore., telah sementara melarang penggunaannya karena kekhawatiran tentang privasi dan bias rasial. Stephen Lamoreaux, kepala informatics dengan unit intelijen kejahatan Detroit, mengatakan bahwa Departemen Kepolisian “sangat antusias untuk menggunakan teknologi dengan cara yang bermakna untuk keselamatan publik.” Detroit, katanya, sekarang memiliki “kebijakan terkuat di negara ini.”