Seorang pengacara Melbourne telah dirujuk ke badan keluhan hukum Victoria setelah mengakui menggunakan perangkat lunak kecerdasan buatan dalam kasus pengadilan keluarga yang menghasilkan kutipan kasus palsu dan menyebabkan sidang ditunda. Pada sidang 19 Juli 2024, seorang pengacara yang tidak disebutkan namanya yang mewakili seorang suami dalam sengketa antara pasangan suami istri memberikan daftar kasus sebelumnya kepada Hakim Amanda Humphreys dalam kaitannya dengan sebuah pengajuan penegakan hukum dalam kasus tersebut. Ketika Humphreys kembali ke kamarnya, dia mengatakan dalam putusan bahwa dia atau rekannya tidak bisa mengidentifikasi kasus-kasus dalam daftar tersebut. Ketika masalah tersebut kembali ke pengadilan, pengacara tersebut mengonfirmasi bahwa daftar tersebut disusun menggunakan perangkat lunak hukum Leap, dan dia mengatakan ada elemen kecerdasan buatan dalam perangkat lunai Leap. Dia mengakui bahwa dia tidak memverifikasi keakuratan informasi sebelum mengirimkannya ke pengadilan. Dalam putusan awal yang dilaporkan pertama kali oleh Crikey, pengacara itu diberi waktu sebulan untuk merespons mengapa dia tidak segera dirujuk ke Badan Layanan Hukum dan Komisioner untuk penyelidikan, dan dalam putusan dari Agustus dan dipublikasikan bulan ini, Humpreys merujuk pengacara tersebut untuk diselidiki. Dalam putusannya, Humpreys mengatakan pengacara tersebut mengaku bahwa perangkat lunak kecerdasan buatan telah digunakan untuk membuat daftar tersebut tetapi tidak ditinjau olehnya atau siapapun, dan kasus-kasus tersebut tidak nyata. Pengacara itu menawarkan “permohonan maaf tanpa syarat” kepada pengadilan dan mengatakan dia akan “mengambil pelajaran ini ke hati” dan meminta agar tidak dirujuk untuk diselidiki. Dia mengatakan bahwa dia tidak sepenuhnya memahami bagaimana perangkat lunak bekerja, dan dia mengakui perlunya memverifikasi penelitian yang dibantu kecerdasan buatan untuk keakuratan. Dia melakukan pembayaran kepada pengacara dari pihak lain untuk biaya sidang yang dibatalkan. Humphrey mengatakan dia menerima permohonan maaf tersebut dan mengakui bahwa stres yang disebabkannya berarti hal tersebut tidak kemungkinan terjadi lagi, tetapi rujukan untuk diselidiki penting mengingat masalah ini adalah kepentingan publik bagi Badan Layanan Hukum Victoria dan Komisioner untuk memeriksa masalah perilaku profesional, mengingat penggunaan alat kecerdasan buatan yang semakin meningkat dalam hukum. Humphrey mencatat bahwa pengadilan keluarga belum mengeluarkan pedoman tentang penggunaan kecerdasan buatan, tetapi pedoman pengadilan tinggi Victoria dan pengadilan county Victoria menyatakan praktisi yang menggunakan alat kecerdasan buatan harus tahu bagaimana cara kerjanya dan keterbatasannya. Juru bicara Leap mengatakan kepada Guardian Australia bahwa memverifikasi pekerjaan adalah bagian kunci dari kewajiban etis seorang pengacara. Perusahaan tersebut mengatakan bahwa mereka menyediakan proses verifikasi gratis di mana seorang pengacara berpengalaman menguji keluaran dari perangkat lunak mereka untuk memastikan keakuratan. Juru bicara mengatakan bahwa proses verifikasi itu dilakukan dalam kasus ini, tetapi dokumen-dokumen tersebut tidak digunakan oleh pengacara itu. Perusahaan perangkat lunak tidak menjelaskan mengapa dokumen tersebut tidak digunakan, dan nama orang tersebut tetap dirahasiakan. “Meskipun profesional hukum menggunakan proses verifikasi Leap software yang mengirimkan informasi yang benar hanya empat jam setelah permintaan dan jauh sebelum muncul di pengadilan, pengguna sayangnya tidak menggunakan informasi yang benar ini di pengadilan,” kata juru bicara tersebut.”contoh ini memberikan pengingat yang tepat bahwa kecerdasan buatan adalah alat yang kuat tetapi harus digunakan dengan tepat oleh pengguna untuk menambah nilai dalam praktik hukum.” Perusahaan mengatakan bahwa 66.000 profesional hukum di seluruh dunia menggunakan perangkat lunaknya. Pengumuman Agustus 2024 dari Leap menyebutkan bahwa firma dapat “menghasilkan preseden dengan mudah menggunakan kecerdasan buatan” dengan template yang didukung kecerdasan buatan untuk dipakai menghasilkan surat, email, dan formulir dalam waktu kurang dari satu menit. Kasus ini bukanlah yang pertama dari pengacara yang diberikaninformasi palsu melalui penggunaan alat kecerdasan buatan. Di Kanada pada Maret, seorang pengacara dalam kasus hak asuh yang menggunakan ChatGPT untuk menemukan hukum kasus sebelumnya menemukan bahwa model bahasa besar menyediakan kasus palsu. Juga dilaporkan tahun lalu bahwa pengacara yang mewakili seorang pria yang diduga cidera dalam penerbangan juga menggunakan ChatGPT untuk menemukan kasus-kasus untuk mendukung argumennya dan menemukan bahwa perangkat lunak tersebut telah menghasilkan apa yang disebut pengadilan sebagai “pendapat palsu”.
