Aplikasi kecerdasan buatan semakin banyak digunakan dalam bidang kesehatan.
Sebuah studi baru yang diterbitkan di Nature melakukan analisis sistematis terhadap lanskap etika yang melibatkan penggunaan dan penerapan model bahasa besar dalam kedokteran dan kesehatan. Studi tersebut menemukan bahwa meskipun LLM memiliki banyak manfaat dalam analisis data, dukungan pengambilan keputusan berbasis wawasan, dan aksesibilitas informasi, masalah keadilan, bias, dan informasi yang keliru masih menjadi perhatian utama dalam konteks kesehatan.
Memang, teknologi kecerdasan buatan dan penggunaan LLM dalam konteks kesehatan telah berkembang pesat, terutama dengan seberapa cepat teknologi tersebut berkembang selama dua tahun terakhir. Meskipun peluncuran Chat GPT mempercepat banyak dari karya ini, kenyataannya adalah bahwa penelitian seputar LLM dan inkorporasi umum AI ke dalam kasus penggunaan industri telah banyak berkembang selama beberapa dekade.
Para penganalisis teknologi, pelindung privasi, dan pemimpin industri telah mengeluarkan keprihatinan dengan seberapa cepatnya karya ini berkembang—pertumbuhan yang badan regulasi tidak bisa mengikuti. Oleh karena itu, organisasi dan pemimpin sama-sama sedang berusaha mengembangkan kerangka kerja untuk memandu pengembangan dan nuansa etika untuk kasus penggunaan industri. Ambil contoh Koalisi untuk Kesehatan AI, juga dikenal sebagai CHAI, yang bertujuan “untuk mengembangkan ‘panduan dan pagar’ untuk mendorong pelayanan kesehatan berkualitas tinggi dengan mempromosikan adopsi sistem AI kesehatan yang kredibel, adil, dan transparan.” Contoh lainnya adalah Jaringan AI yang dapat Dipercaya & Bertanggung Jawab (TRAIN), yang dipelopori oleh Microsoft dan organisasi-organisasi Eropa untuk operasionalisasi prinsip-prinsip AI yang etis dan menciptakan jaringan di mana praktik terbaik seputar teknologi tersebut dapat dibagi. Jumlah investasi dan sumber daya yang besar yang ditempatkan pada inisiatif-inisiatif seperti ini menunjukkan seberapa pentingnya agenda ini.
Alasan untuk penekanan ini sangat berdasar, terutama dalam konteks kasus penggunaan kesehatan. AI dalam kesehatan membuka potensi besar untuk memudahkan alur kerja, membantu pengambilan keputusan berdasarkan wawasan, mempromosikan metode interoperabilitas baru, dan bahkan membuat penggunaan sumber daya dan waktu lebih efisien. Namun, dalam garis waktu yang lebih besar, karya seputar aplikasi ini masih relatif baru. Selain itu, dalam hal keandalan data, LLM sering dianggap hanya efektif sebaik set data pelatihan dan algoritma yang digunakan. Oleh karena itu, inovator harus terus memastikan bahwa data pelatihan dan metode yang digunakan merupakan yang terbaik. Selain itu, data harus relevan, terkini, bebas bias, dan didukung oleh referensi yang sah, sehingga sistem dapat terus belajar saat paradigma berkembang dan data baru muncul. Bahkan dengan kondisi pelatihan yang prima dan semua kriteria ini terpenuhi, sistem AI tetap sering menghasilkan halusinasi, atau generasi konten yang diyakini sebagai benar, namun sering kali tidak akurat. Bagi pengguna akhir yang tidak memiliki sumber kebenaran yang lebih baik, halusinasi ini dapat membuktikan merugikan—dan dalam konteks kesehatan, dapat menjadi kekhawatiran besar.
Oleh karena itu, fokus yang semakin meningkat pada AI yang etis dan pengembangan panduan untuk AI adalah aspek penting dalam mengembangkan teknologi revolusioner ini, dan pada akhirnya akan menjadi sangat penting untuk benar-benar membuka potensinya dan nilai dengan cara yang aman dan berkelanjutan.