Ratusan pekerja sosial di Inggris telah mulai menggunakan sistem kecerdasan buatan yang merekam percakapan, menyusun surat kepada dokter, dan mengusulkan tindakan yang mungkin tidak dipertimbangkan oleh pekerja manusia. Dewan di Swindon, Barnet, dan Kingston termasuk tujuh yang sekarang menggunakan alat kecerdasan buatan yang duduk di telepon pekerja sosial untuk merekam dan menganalisis pertemuan tatap muka. Alat kecerdasan buatan Magic Notes menulis ringkasan hampir secara instan dan menyarankan tindakan lanjutan, termasuk menyusun surat kepada dokter. Dua puluh empat dewan lainnya telah atau sedang mengujinya. Dengan mengurangi waktu yang dihabiskan pekerja sosial untuk membuat catatan dan mengisi laporan, alat ini berpotensi menghemat hingga £2 miliar setahun, klaim Beam, perusahaan di balik sistem tersebut yang telah merekrut staf dari Meta dan Microsoft. Namun, teknologi ini juga kemungkinan menimbulkan kekhawatiran tentang bagaimana pekerja sosial yang sibuk menimbang tindakan yang diusulkan oleh sistem kecerdasan buatan, dan bagaimana mereka memutuskan apakah akan mengabaikan tindakan yang diusulkan tersebut. Asosiasi Pekerja Sosial Inggris menyambut sistem kecerdasan buatan yang membebaskan waktu untuk pekerjaan tatap muka, namun mengatakan bahwa mereka “tidak boleh pernah menggantikan praktik dan pengambilan keputusan pekerja sosial berbasis hubungan”. Salah satu dewan uji coba mengatakan bahwa mereka membutuhkan jaminan lebih besar bahwa alat kecerdasan buatan secara akurat merangkum pertemuan sebelum catatan disimpan tentang pilihan yang berpotensi mengubah hidup. Menurut penaksiran dampak oleh Borough London Camden, seseorang yang berperan sebagai klien menyebutkan yang dia kesulitan sedikit untuk menggunakan teleponnya. AI menghasilkan ringkasan kasus yang menambahkan tindakan potensial untuk meneliti pelatihan teknologi bagi mereka, tetapi kedua orang dalam peran tersebut tidak memperhatikannya. Seb Barker, kepala operasional Beam, yang menyediakan Magic Notes, mengatakan bahwa tidak ada umpan balik dari uji coba yang menunjukkan bahwa pekerja sosial akan dengan mudah melakukan apa yang diberitahukan oleh Magic Note; ringkasan dan tindakan lanjutan harus disetujui oleh manusia. Dia mengatakan bahwa tidak ada bukti bahwa pekerja sosial mematikan pikiran mereka selama pertemuan dengan klien dan membiarkan AI menyusun rencana tindakan. Salah satu dari 10 pekerja sosial dewasa di Inggris kosong dan 2023 memiliki tingkat kekosongan terbesar kedua untuk pekerja sosial anak dan keluarga sejak 2017, mendorong penilaian pemerintah bahwa risiko menjadi “kritikal”. Dewan borough Swindon telah menandatangani kontrak enam bulan untuk menggunakan teknologi tersebut dan mengatakan bahwa itu membantu terutama pekerja sosial dengan disleksia. Cllr Ray Ballman, anggota kabinet perawatan sosial dewasa, mengatakan bahwa ini telah “membuat perbedaan bagi rekan-rekan kami”. Penilaian dampak kesetaraan Dewan Wiltshire mengatakan: “Alat ini tidak akan mengambil keputusan atau melakukan tindakan otomatis penuh mengenai penulisan percakapan: praktisi harus selalu membuat keputusan terakhir, menerapkan pemeriksaan kualitas dan pengawasan yang tepat.” Dewan borough London Barnet memberikan alat kepada 300 pekerja perawatan sosial dewasa setelah staf “menemukan bahwa itu memungkinkan mereka untuk lebih berkomunikasi dengan warga”, menghemat waktu dan “tidak ada masalah dengan bias yang diidentifikasi”. Ringkasan AI hanya “titik awal” yang akan diedit oleh pekerja sosial dan diperiksa oleh manajer sebelum diarsipkan sebagai catatan resmi, kata juru bicara. Tujuh puluh persen dari semua departemen pemerintah Inggris sedang menguji coba atau merencanakan untuk menggunakan sistem kecerdasan buatan, menurut penilaian terbaru oleh Kantor Audit Nasional. Namun, badan pengawas pengeluaran mengatakan bahwa sistem IT yang menua, kesenjangan keterampilan, dan masalah dengan kualitas data bisa mencegah sektor publik untuk memanfaatkan teknologi yang berkembang pesat tersebut. Tidak ada regulator AI sentral di Inggris, tetapi pemerintah Buruh berencana untuk melegislasikan “untuk menempatkan persyaratan bagi mereka yang bekerja untuk mengembangkan model kecerdasan buatan yang paling kuat”. Sistem Magic Notes mengumpulkan informasi sensitif termasuk kondisi kesehatan, keuangan pribadi, alamat, tanggal lahir, nomor telepon, orientasi seksual, asal etnis, dan keyakinan agama. Ini menggunakan algoritma AI yang dibuat oleh perusahaan San Francisco Deepgram dan OpenAI. Barker mengatakan bahwa rekaman itu disimpan di server Beam di Inggris dan data tersebut tidak digunakan untuk melatih Magic Notes atau sistem AI lainnya. Juru bicara untuk dewan Croydon mengatakan: “Kami sedang mengevaluasi uji coba dan akan melakukan penilaian penuh sebelum melanjutkan. Penggunaan AI akan tunduk pada pemeriksaan dan tata kelola yang tepat.” Maris Stratulis, direktur nasional Asosiasi Pekerja Sosial Inggris Inggris, mengatakan: “Kami menyerukan regulasi AI, kerangka kerja nasional prinsip etika untuk penggunaannya dan transparansi tentang kapan aplikasi AI digunakan dan oleh industri apa untuk memastikan pertanggungjawaban kepada warga dan untuk memegang hak asasi manusia.”
