Dalam video promosi dari Truleo, perusahaan menunjukkan bagaimana kecerdasan buatannya akan menganalisis para petugas polisi Miami-Dade selama berlangsungnya insiden pemeriksaan lalu lintas kontroversial terhadap pemain NFL Tyreek Hill. (Peringatan: video mengandung kata-kata kasar)
“Siapa yang akan mengawasi pengawas?” Di era kamera tubuh polisi, jawabannya mungkin adalah “kecerdasan buatan.”
Setelah satu dekade pertumbuhan yang cepat, kamera tubuh sekarang menjadi standar bagi sebagian besar polisi Amerika saat berinteraksi dengan masyarakat. Mayoritas dari jutaan jam video itu tidak pernah ditonton – hal tersebut tidak mungkin dilakukan secara manusiawi.
Bagi para akademisi yang mempelajari tindakan sehari-hari polisi, video-video tersebut adalah juga data yang belum dimanfaatkan. Beberapa kini menggunakan kecerdasan buatan model bahasa besar seperti ChatGPT untuk memahami informasi itu dan menghasilkan wawasan baru.
“Bagi kami, ini adalah alat yang mengubah permainan,” kata Jennifer Eberhardt, seorang profesor psikologi di Stanford yang karyanya tentang ras dan kejahatan memenangkannya MacArthur “genius grant.”
Dia memimpin sebuah tim peneliti yang menggunakan kecerdasan buatan untuk membantu meninjau dan menganalisis video dari hampir 600 pemeriksaan lalu lintas oleh polisi Oakland.
“Kami dapat melihat 27 detik pertama insiden, 45 kata pertama yang dikatakan petugas, dan kami bisa menggunakan model ini untuk memprediksi apakah pengemudi itu akan ditangkap, diperiksa, atau ditahan pada akhir insiden,” katanya.
Penelitian itu menemukan bahwa kejadian tersebut lebih mungkin meningkat ketika petugas memulai pemeriksaan dengan memberikan perintah, daripada alasan interaksi.
Sementara akademisi menggunakan kecerdasan buatan dari video anonim untuk memahami proses yang lebih besar, beberapa departemen polisi telah mulai menggunakannya untuk membantu mengawasi petugas atau bahkan menilai kinerja mereka.
“Itu adalah sistem peringatan dini untuk menangani bukan hanya perilaku buruk, tapi juga perilaku baik,” kata Nishant Joshi, kepala polisi di Alameda, California. Ketika dia menjadi kepala tiga tahun lalu, ia membawa versi uji coba Truleo, sebuah sistem yang menganalisis transkripsi otomatis dari video kamera tubuh untuk menilai kinerja petugas.
Di layar komputernya, ia melihat penilaian Truleo terhadap pemeriksaan lalu lintas terbaru. Kecerdasan buatan telah menemukan bahwa petugas polisi Alameda berperilaku dengan “tingkat profesionalisme yang tinggi.”
“Sopan santun dalam memberitahu alasan pemeriksaan kepada penghuni,” Joshi membaca dari ringkasan kecerdasan buatan. “Jadi, sistem itu menyadari bahwa petugas mengatakan sesuatu seperti, ‘Alasannya saya menghentikan Anda karena Anda melaju kencang, Anda harus lebih berhati-hati, ini berbahaya.'”
Sistem itu juga akan memperingatkan terkait penggunaan kata-kata kasar atau kasar – oleh petugas atau orang lain di tempat kejadian. Joshi mengatakan bahwa ia terutama menghargai kemampuannya untuk mengidentifikasi situasi di mana anggota masyarakat mengucapkan kata-kata kotor kepada petugas dan petugas tetap profesional, situasi yang mungkin tidak terdeteksi oleh atasan.
“Saya sering mengirim pujian,” kata Joshi. “Dan Truleo memiliki fitur di dalamnya yang memungkinkan Anda memotong sebagian dari interaksi dan mengirim pujian kepada petugas tentang kinerja mereka.” Menurut Joshi, sistem ini memudahkan atasan untuk menangkap kebiasaan buruk petugas dan memperkuat kebaikan, sehingga layak dengan biaya tahunan $36,000.
Departemen yang lebih besar membayar lebih mahal untuk layanan tersebut. Truleo mengatakan bahwa 30 agen kepolisian sekarang menggunakan produk tersebut, termasuk Departemen Polisi New York.
Kemampuan kecerdasan buatan untuk membentuk perilaku petugas telah diuji oleh studi independen baru yang dipimpin oleh Ian Adams dari Universitas Carolina Selatan. Studi tersebut melihat pengaruh Truleo terhadap petugas dan kelompok kontrol di dua agen, departemen polisi di Aurora, Colo. dan kantor sherif di Richland County, SC.
“Perbedaan yang kami lihat dalam temuan tersebut adalah, di [Aurora] tingkat perilaku profesional yang buruk menurun, yang bagus,” kata Adams. “Dan di [Richland County], tingkat interaksi yang sangat profesional meningkat, yang juga bagus.”
Ringkasan eksekutif pra-publikasi dari penelitian tersebut menyatakan bahwa Truleo “hampir dua kali lipat insiden ‘tingkah laku yang sangat profesional'” di antara deputi Richland yang video mereka dimonitor oleh Truleo, dan yang dapat berinteraksi dengan sistem ketika dievaluasi mereka.
Adams mengatakan bahwa dia juga kaget dengan keterbukaan petugas terhadap penilaian dari kecerdasan buatan. Meskipun ada yang merasa ragu, ada juga yang menyukai ketidakberpihakan mesin tersebut.
Tetapi tidak setiap pengimplementasian Truleo berjalan lancar. “Keinginannya AI mengawasi kami, kapan akan berhenti?” kata Mike Solan, presiden Seattle Police Officers Guild.
Ketika laporan media mengungkapkan awal tahun lalu bahwa Departemen Polisi Seattle sedang mencoba Truleo, itu membuat serikat terkejut.
” Mereka melakukan hal di belakang punggung kami dan meluncurkan hal ini,” kata Solan. “Mereka memang benar-benar memata-matai kami. Ketika kami menangkap mereka, mereka panik.”
Dalam pernyataan kepada NPR, Departemen Polisi Seattle menulis, “SPD membatalkan kontraknya dengan Truleo pada awal 2023, tidak lagi memiliki hubungan dengan perusahaan tersebut, dan tidak membayar produk tersebut.”
Solan mengatakan bahwa ia tidak menentang Truleo secara menyeluruh, tetapi ia mengatakan bagaimana produk itu digunakan seharusnya merupakan sesuatu yang harus dinegosiasikan dalam kontrak serikat. Pada bulan November, Dewan Kota Seattle mengalokasikan $250.000 untuk polisi melanjutkan menggunakan Truleo, tapi departemen tersebut belum memperbarui hubungannya dengan perusahaan.
Co-founder Truleo, Anthony Tassone, mengatakan bahwa Truleo bekerja dengan baik di departemen di mana petugas mengetahui keberadaan kecerdasan buatan dan dapat melihat bagaimana itu menilai mereka.
“Petugas menyukai informasi ini. Mereka di dalam mobil, mereka menonton rekaman mereka. Mereka seperti atlet yang menonton pertandingan semalam,” kata Tassone.
Tetapi itu menimbulkan pertanyaan: apakah petugas hanya akan menyesuaikan diri dengan tuntutan perangkat lunak itu? Adams mengatakan bahwa Truleo jelas mengikuti formula – misalnya, petugas yang menggunakan lebih dari 25 kata untuk menjelaskan sesuatu mendapatkan nilai untuk “profesionalisme.” Dia mengatakan sebagian petugas mengatakan kepada peneliti bahwa mereka sengaja memainkan permainan sesuai dengan aturan Truleo.
“Bagi tim peneliti, kami agak bingung dengan ‘Jadi apa?’ ” katanya. Dia menyebutnya sebagai pertanyaan filosofis.
“Apa itu penting bahwa tidak ada perubahan hati yang sejati, dibandingkan petugas menemukan, ‘Oh, ini hanya yang seharusnya saya lakukan?’ ” katanya. “Itu sesuatu yang perlu dipertimbangkan dalam dunia baru yang berani ini, saya rasa.”