InovasiRx adalah ringkasan berita kesehatan mingguan Anda. Untuk menerimanya di kotak masuk email Anda, berlangganan di sini.
John Brownstein, chief innovation officer di Rumah Sakit Anak Boston. Copyright 2020 The Associated Press. Seluruh Hak Dilindungi.
Salam dari Los Angeles, di mana eksekutif industri kesehatan, pendiri startup, dan investor berkumpul di konferensi ViVE. Tidak mengherankan bahwa implikasi kecerdasan buatan dalam kesehatan menjadi topik utama bagi semua, terutama persaingan sengit untuk pelanggan di pasar pencatat medis AI. Sebelum konferensi dimulai, Abridge mengumumkan putaran Seri C sebesar $150 juta dengan valuasi $850 juta (lihat ceritanya di bawah).
Harjinder Sandhu, CTO Platform Kesehatan dan Ilmu Kehidupan di Microsoft, yang memiliki produk pesaing bernama DAX Copilot (melalui akuisisi Nuance Communications senilai $18,8 miliar pada tahun 2022), mengatakan bahwa Microsoft mendorong pelanggannya untuk memikirkan grid nilai versus risiko saat menggabungkan model bahasa besar ke dalam pengaturan kesehatan. Microsoft menginvestasikan $10 miliar ke OpenAI, pembuat model yang menggerakkan ChatGPT yang viral. Ia menggambarkan pencatat AI sebagai duduk di kuadran “nilai tinggi, risiko rendah,” selama presentasi konferensi, karena semua output akan diulas oleh dokter. “Anda memiliki manusia yang berkualifikasi di alur kerja, menilai apa yang dilakukan sistem AI dan dapat mendeteksi kesalahan,” katanya.
Kasus penggunaan berikutnya yang semua orang ramai meminta tetapi berisiko lebih tinggi adalah menggunakan model AI untuk merangkum riwayat rekam medis lengkap pasien sebelum mereka melihat dokter. “Sangat sulit dalam konteks tersebut untuk memutuskan apakah sistem telah memberi Anda informasi palsu,” kata Sandhu. “Itu akan lebih tepat dan mungkin ada satu hal yang diolah di dalam sana yang bermimpi atau sesuatu yang dihilangkan untuk memberi tahu Anda.” Ia memprediksi bahwa alat ringkasan grafik mungkin “setahun atau dua tahun lagi.”
Kekhawatiran besar lain bagi pelanggan kesehatan adalah privasi dan keamanan data. Sandhu menggambarkan LLM sebagai “tanpa memori,” artinya mereka tidak mengingat apa yang Anda ketik. “Apa yang diingatnya adalah lapisan perangkat lunak di atas yang memediasi interaksi Anda dengan model bahasa,” katanya.
John Brownstein, chief innovation officer di Rumah Sakit Anak Boston, memberi tahu Forbes bahwa mereka ingin staf rumah sakit dapat bereksperimen dan menggunakan GPT untuk tugas-tugas berbeda namun juga perlu menjamin bahwa tidak ada informasi kesehatan yang dilindungi akan dikirim kembali ke OpenAI melalui lapisan perangkat lunak di atas itu. “Kami bekerja dengan Microsoft untuk pada dasarnya membuat instansi cloud terpisah dari Azure yang memungkinkan orang di organisasi kami mengakses GPT dengan cara yang terpisah,” katanya. “Itu tidak sepele,” tambahnya.
Brownstein mengatakan Rumah Sakit Anak Boston menciptakan portal web bagi orang-orang di rumah sakit untuk pada dasarnya mengakses instansi mereka sendiri dari ChatGPT dan melacak login, token, dan penggunaan. Hingga saat ini mereka menemukan orang menggunakan untuk berbagai tugas. Misalnya, menanyakan pertanyaan dan mendapatkan jawaban tentang protokol tertentu di rumah sakit atau menyusun dokumen penyerahan pasien antar tim perawat.