Koalisi untuk Kesehatan AI tampaknya sedang mengikuti jejak Federasi Sipil dari Chicago, salah satu kelompok “pemerintahan yang baik” awal yang dilabeli sebagai “goo-goo’s.”
Federasi Sipil Chicago
Setelah secara metodis mengumpulkan lebih dari 1.300 anggota, Koalisi untuk Kesehatan AI diluncurkan secara resmi pada 5 Maret dengan janji ambisius dari CEO-nya untuk menjadi “sumber terpercaya dan kurator praktik terbaik AI dalam kesehatan.”
Untuk mendapatkan kepercayaan dalam “revolusi AI,” tambah CEO CHAI Brian Anderson selama sebuah webinar, “kita harus menjadi tenda besar” inklusif dari semua suara.
Saad ia mendengarkan rencana besar grup ini, saya tersentuh dengan CHAI telah menetapkan dirinya menjadi “goo-goo” dalam perawatan kesehatan AI. Jika label itu tidak mengena, izinkan saya menjelaskan.
Penggunaan kata “goo-goo” diciptakan pada akhir abad ke-19 sebagai singkatan dari kelompok “pemerintahan yang baik” yang muncul di New York, Chicago, dan tempat lain dengan tujuan untuk melawan kerusakan yang disebabkan oleh pemerintahan kota yang korup. Frasa itu dihidupkan kembali di akhir abad ke-20 di Chicago oleh kolumnis Mike Royko untuk merujuk ke para pelaku baik yang gigih. Meskipun CHAI adalah mitra pemerintah bukan lawan, seperti “goo-goo” tradisional, CHAI juga berupaya untuk menerapkan praktik tata kelola yang baik untuk melindungi masyarakat dari bahaya, dalam kasus ini dari kemungkinan kerusakan pada kesehatan akibat kekayaan AI swasta yang tidak terkendali.
Federasi Sipil Chicago, sebagai “goo-goo” pelopor, berusaha “untuk membangkitkan kesadaran dalam pikiran semua warga…akan rasa kewajiban yang mereka tanggung” dengan melibatkan mereka dalam kampanye untuk meningkatkan kesehatan melalui standar sanitasi yang lebih baik. Dengan cara yang sejajarnya, CHAI berupaya melibatkan setiap sektor kesehatan rakyat untuk “memperbaiki kehidupan” melalui standar, dalam hal ini untuk “sistem AI kesehatan yang kredibel, adil, dan transparan.”
Federasi Sipil tahu bahwa mereka memerlukan pengaruh dan kredibilitas. Anggota awal termasuk seorang “advokat konsumen” terkenal (pekerja sosial dan pemenang Hadiah Nobel Perdamaian masa depan Jane Addams) dan para pemimpin bisnis yang kuat. Mitra awal CHAI termasuk kelompok konsumen terkemuka, Dewan Kesehatan Nasional, dan para pemangku kepentingan sektor swasta yang kuat seperti Google, Microsoft, dan Mayo Clinic.
Lebih jauh, sama seperti Federasi Sipil mengembangkan proposal legislasi dan regulasi untuk memastikan reformasinya memaksa perubahan, CHAI berencana untuk mengembangkan “pedoman dan penunjuk arah” bersama pemerintah federal. CHAI mencantumkan tujuh agensi federal sebagai “pengamat,” dengan direktur Pusat Kecelakaan Kesehatan Digital di Administrasi Obat dan Makanan dan Koordinator Nasional untuk Teknologi Informasi Kesehatan melayani di dewan sembilan orang itu.
Tingkat keterlibatan tersebut, menurut Casey Ross dari STAT, “sebuah eksperimen yang akan menguji apakah industri dan pemerintah dapat bekerja sama secara efektif dalam pengaturan teknologi yang berkembang dengan cepat.”
Namun, bagi semua aura pihak baik, saya merenungkan dua pertanyaan besar yang belum dijawab.
Pertanyaan pertama adalah apakah komitmen CHAI untuk “penggunaan AI yang bertanggung jawab dalam perawatan kesehatan” akan memberinya keberanian untuk menangani penggunaan AI kesehatan yang meragukan yang telah memengaruhi puluhan juta orang Amerika. Seperti yang telah saya tulis di publikasi kebijakan kesehatan dan tempat lain, rencana kesehatan besar dan pusat medis secara rahasia mengumpulkan informasi yang diidentifikasi secara individu dari pialang data dan tempat lain yang mencakup laporan kredit, kebiasaan berbelanja, dan bahkan login situs web. Seketika data ini dimasukkan ke dalam algoritme AI dalam proses “penggabungan data” yang dimaksudkan untuk mengidentifikasi individu yang mungkin memerlukan bantuan khusus karena faktor penentu kesehatan sosial.
Proses ini sangat mirip dengan yang diam-diam digunakan oleh Badan Keamanan Nasional – seperti dalam perawatan kesehatan, yang seharusnya untuk kebaikan warga – yang baru-baru ini diungkap oleh Sen. Ron Wyden (D-OR). Dalam perawatan kesehatan, akurasi prediksi algoritme tidak pernah diuji dengan transparan oleh pihak ketiga baik untuk bias atau efektivitas.
(Ketika saya sebutkan kurangnya bukti publik ini kepada seorang eksekutif di salah satu organisasi yang menggunakan data tersebut, ia tersenyum dan berkata, “Kami tahu ini berhasil.” Mungkin NSA merasa sama.)”Tujuan CHAI mengingatkan kita bahwa “nyawa berada di permainan dalam perawatan kesehatan.” Namun, juga berada di permainan di sini adalah uang besar: pemerintah membayar ratusan miliar dolar setiap tahun kepada rencana MA, sementara banyak sistem kesehatan besar memiliki kontrak pembayaran berbasis nilai. Akankah CHAI bersikeras pada prinsipnya bahkan jika itu mengganggu pendukung terkemuka?
Kekhawatiran kedua saya, yang lebih luas, adalah apakah di bawah retorika yang melonjak tentang “menciptakan ekosistem di mana kita sepenuhnya mewujudkan janji AI untuk mengubah perawatan pasien,” CHAI benar-benar bermaksud melakukan lebih dari hanya menjadi solusi teknis bagi industri. Saat ini, rencana tindakan grup tersebut sangat rapi: menetapkan prinsip, kriteria evaluasi, standar, evaluasi, pemantauan.
Semua itu sangat diperlukan dan tentu saja bermanfaat bagi publik. Namun, alat AI yang sedang muncul mulai memberikan pasien informasi kesehatan yang personal, tepat waktu, dan andal seperti yang sebelumnya dipesan untuk profesional. Jenis penggunaan AI seperti itu, yang mengancam untuk mengganggu peran dokter secara mendasar, seperti yang telah saya tulis, jauh lebih berantakan.
Apakah CHAI akan menjadi sekutu pemberdayaan pasien yang mengganggu status mereka yang mendominasi perawatan kesehatan saat ini? “Fokus” CHAI saat ini pada kebutuhan pasien, keluarga, dan komunitas tampaknya sebagian besar melibatkan meminta masukan mereka tentang bagaimana sistem kesehatan harus menggunakan alat AI dan kemudian menggunakan masukan itu untuk meyakinkan publik untuk mempercayai mereka. Atau, dengan kata-kata Anderson, untuk “memberdayakan publik untuk lebih memahami bagaimana alat-alat ini sedang dikembangkan dan digunakan.”
Memang, hanya ketika Anda menggali lebih dalam ke dalam daftar 13 alur kerja berbeda CHAI yang, pada urutan kesepuluh, Anda menemukan alur kerja yang melibatkan “solusi AI yang dimaksudkan untuk digunakan langsung oleh pasien tanpa melibatkan penyedia layanan kesehatan.” Patut dicatat, meskipun setiap anggota dewan berbicara singkat pada webinar, tidak seorang pun yang menyebutkan kemandirian semacam ini.
Jadi, apakah pasien hanya objek – dari analitik AI rahasia yang didukung yang didesain secara dugaan untuk membantu mereka dan dari perhatian terbuka dari klinikus, peneliti, dan pakar AI yang juga bermaksud untuk membantu mereka – atau apakah mereka juga subjek, mampu jika mereka ingin menggunakan AI secara mandiri untuk membuat keputusan mereka sendiri? Meskipun pemimpin CHAI secara teratur menaikkan bendera revolusi, mereka belum menunjukkan kesiapan untuk merangkul demokratisasi informasi kesehatan yang radikal.
Pemimpin CHAI harus memilih. Apakah mereka melihat diri mereka seperti para eksekutif bisnis memimpin “goo-goo’s” dari masa lalu, sebagian besar fokus pada memperbaiki daftar masalah tertentu, meskipun penting? Atau apakah mereka juga memiliki semangat Jane Addams, seorang aktivis keras yang berjuang tanpa lelah untuk transformasi sejati?
Saya kenal banyak pemimpin CHAI secara pribadi dan yang lainnya berdasarkan reputasi; saya sangat menghormati kemampuan mereka, dan saya tidak meragukan hati mereka berada di tempat yang benar. Namun, bagaimana CHAI sebenarnya bertindak, harus terlihat.”
