Saya orang pertama yang akan memberi tahu Anda bahwa ada banyak hal yang patut untuk dijadikan alasan untuk bersemangat dalam mengintegrasikan kecerdasan buatan dalam kedokteran klinis dan bisnis kesehatan. AI non-generative, di satu sisi, merupakan lensa yang unik namun tidak berbahaya untuk mengkomunikasikan data agar lebih baik dalam menyampaikan realitas kedokteran kepada yang tidak terbiasa. AI generative, di sisi lain, adalah sesuatu yang berbeda sekali.
AI generative terasa seperti Thanksgiving bersama seluruh keluarga. Terdengar seperti sesuatu yang ajaib di permukaan. Siapa yang tidak akan menyukai makan malam yang luar biasa dikelilingi oleh orang-orang terdekat dengan kesempatan sejati untuk merenung, mengisi ulang, dan merajut kembali hubungan? Ini juga terdengar seperti solusi sempurna untuk sistem kesehatan yang membutuhkan sedikit pertimbangan, pengisian ulang, dan penjalinan kembali hubungan. Praktek kedokteran bergantung pada dokter dan perawat yang terlalu sibuk yang seharusnya fokus utamanya adalah mengelola kehidupan manusia dan menjalin hubungan nyata – namun malah berjuang melawan gangguan redundansi administrasi dan tekanan tak berwajah yang konstan.
AI generative sebenarnya dapat memungkinkan kita untuk menghasilkan konten digital dan alur kerja dengan dorongan minimal dan kemudahan yang jelas. Mungkin kita tidak perlu melakukan urutan yang sama persis dari 81 klik dan ketuk secara terus-menerus sepanjang hari untuk setiap pasien. Ini bisa belajar apa yang kita inginkan, menjalankan tugas-tugas ini dengan pengawasan, dan menyederhanakan seluruh industri senilai $4,5 triliun. Bagaimana jika kita bisa melihat pasien kita langsung mata dengan perhatian penuh – tanpa harus khawatir tentang dokumentasi? Bagaimana jika kita tidak perlu secara reguler memilih antara memberikan perhatian penuh kepada pasien ini atau memberikan perhatian penuh kepada keluarga, kesehatan, atau kehidupan pribadi kami yang pantas setelah jam kerja? Bagaimana jika keputusan yang berulang-ulang antara hadir sekarang dan absen nanti – atau absen sekarang dan hadir nanti – tidak perlu menjadi rutinitas harian? Tetapi bagaimana jika pasien ini menuntut saya karena dokumentasi saya kurang memadai – meskipun kita sudah membahas semuanya secara langsung? Tetapi bagaimana jika pasien ini menuntut saya karena saya tidak menjalin koneksi manusiawi yang seharusnya saya jalin? Jika kita beruntung, perangkat lunak bahkan dapat menawarkan kata-kata ajaib yang diperlukan oleh rencana asuransi untuk melanjutkan kotak-kotak yang dibuat secara sewenang-wenang untuk membayar layanan yang mereka janjikan sejak awal.
Tetapi Anda dan saya tahu bahwa reuni keluarga pada Thanksgiving tidak selalu berjalan mulus. Dan AI generatif tidak akan begitu pula karena saya tahu apa yang kami yang lain dalam kedokteran tahu: kita tidak tahu siapa kita – atau ke mana kita akan pergi.
Seperti semua AI, model generatif menghasilkan konten berdasarkan data sebelumnya dari perilaku masa lalu. Satu-satunya masalah adalah perilaku masa lalu kita tertanam dalam tiga konflik besar yang belum kami rekonsiliasi – dan data menunjukkan bahwa kami telah tertanam untuk waktu yang cukup lama sekarang.
(dom) Konflik #1: Kami tidak tahu apakah kami adalah perkumpulan profesional atau industri jasa. Hampir 80% dokter bekerja di rumah sakit atau entitas korporasi. Ini berarti 80% praktik dokter didorong oleh tanggung jawab fidusia perusahaan kepada para pemegang saham – dengan perawatan pasien sebagai catatan kaki. Ini menyebabkan ketidaksepakatan langsung antara pemangku kepentingan korporasi dan dokter, yang terutama peduli pada perawatan pasien di atas segalanya. Ketika entitas ini membuka buku petunjuk biasa mereka, logika korporasi dan prinsip operasi bisnis mengurangi dokter menjadi status widget dengan baik-baik mengekstrusi kami sebagai “penyedia” – julukan yang cerdas yang mengecilkan keahlian, mengimplikasikan keluwesan, dan menggandakan otoritas. Sebuah profesi berfokus pada memberikan perawatan pasien berkualitas untuk pemenuhan intrinsik dan kelangsungan merek, sementara layanan berfokus pada memproduksi volume pasien yang tinggi dengan kecepatan daripada keselamatan – terutama dalam pasar yang terkunci geografis dan tanpa batas. Kualitas dan kuantitas bukanlah titik akhir yang saling eksklusif, tetapi insentif penting. Dan lanskap itu telah terlalu condong ke arah mentalitas jalur pabrik tanpa menghargai bahwa pengobatan kondisi manusia tidak berkembang seperti burger di restoran makanan cepat saji. Pada titiknya yang terbaik, AI generatif mungkin hanya akan memperkuat mentalitas “layanan garis” ini dengan memberikan respons poin-karet yang cepat dan rujukan – seperti pohon telepon atau obrolan korporasi – kepada yang kurang berpengalaman dan oleh karena itu menjadi “penyedia” yang paling murah. Pada titik terburuk, itu bisa melihat balasan yang dipercantik kepada pasien daripada mendeteksi perlunya meningkatkan ke manusia “mahal” – dari situ memprioritaskan “layanan” memberikan jawaban cepat dan asal daripada jawaban yang akurat dan jujur. Ini adalah apa yang terjadi jika Anda memprioritaskan kuantitas daripada kualitas dalam sistem nilai yang saat ini mengecilkan dokter, memilih layanan daripada profesi, dan hanya ada untuk mengeksploitasi keuntungan dari pasien. Dan hanya akan semakin buruk saat entitas yang fokus pada bottom line leverage AI generatif – daripada dokter yang akan tertinggal mengambil tanggung jawab saat gagal.
(dom) Konflik #2: Kami tidak tahu bagaimana menavigasi media digital. Saya tidak yakin siapa pun yang tahu, tetapi ini telah berkembang dari “tanyakan pada dokter Anda apakah obat dalam iklan ini mungkin cocok untuk Anda” menjadi konten tanpa batas dalam skala yang belum pernah terjadi sebelumnya – dan segera. Pandemi mengkristalkan dampak ini pada berbagai tingkat. Di luar kemungkinan sederhana seperti disinformasi tentang asal, penularan, dan manajemen penyakit baru – dan ketidakpercayaan yang jelas terhadap dokter yang beberapa masih percaya hanya merekomendasikan vaksinasi karena seolah-olah itu mengisi kantong kita – ingat apa yang terjadi ketika kami dikarantina dan mengkonsumsi media digital karena tidak ada hal yang lebih baik dilakukan. Kami melihat algoritma memberdayakan konten Covid yang hanya membenarkan apa yang ingin kita lakukan: divaksinasi atau tidak, dikarantina atau tidak, menjaga jarak sosial atau tidak, menemui dokter atau tidak. Lebih menguntungkan bagi platform media untuk memberikan ruang gema yang membuat Anda terlibat daripada menantang sistem kepercayaan Anda yang mungkin membuat Anda meletakkan ponsel. Melawan inersia digital adalah model bisnis yang bodoh, dan itu menggarisbawahi kebenaran mendasar tentang manusia yang mendorong keterlibatan digital: kita lebih suka diberi tahu bahwa kita benar daripada salah. Itu adalah titik awal yang berbahaya untuk kedokteran. Dengan tujuan utama media digital adalah keterlibatan di atas segalanya, konten manakah yang menurut Anda model generatif lebih mungkin untuk menunjukkan kepada pasien kanker yang takut menjalani kemoterapi dan operasi: cerita tentang obat herbal yang tidak diuji yang seseorang di internet bilang menyembuhkan tetangganya – atau data uji klinis yang menjelaskan tentang kelangsungan hidup dengan operasi dan kemoterapi? Saya harap yang terakhir, tetapi catatan kita dalam menghasilkan model yang membenarkan diri meninggalkan saya khawatir.
(dom) Konflik #3: Kami tidak tahu cara mengidentifikasi kebenaran dalam jurnal kami sendiri. Kedokteran modern dipandu oleh publikasi dari proses tinjauan sejawat yang menyebarluaskan penemuan ilmiah kami. Ini adalah landasan pokok kemajuan medis. Berasal dari akar bahasa Latin untuk “mengetahui,” sains dalam jurnal kami lebih sering daripada tidak membuat kami bertanya-tanya apakah kita “percaya” pada data, metodologi, hasil, kesimpulan, dan bahkan penulis itu sendiri. Penilaian kritis yang sehat telah berkembang menjadi skeptisisme yang tidak sehat karena penelitian medis di bawah ancaman oleh mentalitas volume-di-atas-segalanya yang menjadi beban bagi kedokteran korporasi dan mengkompromikan kualitas. Peneliti sering dihadapkan pada keputusan “menerbitkan atau mati” hanya untuk mempertahankan status dan menghasilkan pendapatan. Sebagai puncak dari kesombongan, pencarian kita akan kebenaran dalam jurnal semakin disulap oleh (a) konflik kepentingan yang tidak terkendali, (b) jurnal akses terbuka yang menawarkan batasan lebih rendah untuk diterima namun memerlukan penulis untuk “bayar untuk main,” dan (c) set data terbatas namun sering kali didaur ulang. AI generatif dengan mudah dapat menguatkan penelitian yang bias, menyebarkan publikasi berbayar berjenis kualitas rendah, dan memperkuat set data yang lemah dengan data “simulasi” palsu. Dengan model bahasa besar seperti ChatGPT, volume publikasi hanya akan meningkat saat penulis perlu melakukan semakin sedikit upaya untuk memompa konten. Jurnal itu sendiri juga akan lebih cenderung menerima makalah-makalah yang tren di media sosial jika itu berarti faktor dampak yang lebih tinggi. Dan ketika forum utama untuk mendiskusikan dan mengevaluasi penelitian terus bermigrasi ke platform digital, apakah Anda benar-benar percaya bahwa algoritma akan menyajikan penelitian sejawat yang berkualitas tinggi tetapi menantang sistem kepercayaan kami? Ilmu pengetahuan dimaksudkan untuk memberi Anda konten yang perlu Anda lihat karena itu adalah kebenaran terlepas dari naluri yang telah Anda yakini, tetapi saat ini terasa lebih seperti berdebat agama. Garis-garis yang kabur dan kurangnya kejelasan dalam penanganan penelitian medis saat ini membuat kita rentan terhadap AI generatif yang dengan cepat memperbesar konten yang hanya lebih jauh memungkinkan pabrik berita palsu, memperkuat ruang gema yang sudah ada, dan semakin memisahkan diri satu sama lain.
Tidak ada waktu atau tempat yang lebih buruk untuk membongkar semua ini daripada pada Thanksgiving. Sepupu yang tidak bisa Anda tahan lagi sedang membandingkan kehidupan Anda dengan miliknya karena Anda pergi ke sekolah yang sama 12 tahun yang lalu. Paman yang jarang diundang berpikir bahwa ini adalah makan malam yang akan akhirnya meyakinkan Anda untuk memilih kandidat presidennya pada bulan November. Nenek yang Anda kira memiliki sikap rasialis sebenarnya membenci semua orang dengan penuh kesetaraan. Dan ayah Anda sedang membandingkan antara Boomer, Gen X, Millennials, dan Gen Z hanya untuk sekali lagi menyatakan generasinya sebagai pahlawan sejati yang menjaga negara tetap berjalan.
Apakah Anda suka atau tidak, Anda berasal dari orang-orang ini. Seperti output dari model AI generatif, Anda berasal dari mereka. Mereka adalah data latihan Anda dan kebenaran dari mana Anda diciptakan. Juga seperti model AI generatif, Anda dapat memilih untuk memperkuat atau menolak fitur dari landasan yang Anda sukai dan tidak sukai. Dan itu membutuhkan pengawasan sadar dari personil yang peduli dengan insentif yang dipertimbangkan. Bagaimana kita akan memilih fitur yang akan diperkuat dan ditolak dalam model generatif yang mengatur praktek kedokteran kita?
Ini pasti bukan kesalahan Thanksgiving – sama seperti bukan kesalahan AI generatif – karena kedua skenario hanya memperbesar dan menekankan ketidaksepakatan dan ketidakpuasan bawah sadar. Baik kita siap atau tidak, AI generatif akan memaksa rekonsiliasi dari ketiga konflik ini karena skala dari landasan yang kita ciptakan. Apakah kita akan memprioritaskan pasien atau bottom line? Apakah kita siap untuk memberikan kebenaran bahkan jika bukan yang ingin didengar pasien? Apakah kita sendiri cukup menghargai kebenaran untuk mencarinya dan menantang keyakinan kita sendiri? Apakah kita akan memilih fakta berkualitas tinggi daripada bahan klik-bait berjumlah tinggi?
Pelayanan kesehatan mungkin bukan satu-satunya sektor dengan krisis identitas yang menuju transformasi AI yang tidak terelakkan, tetapi kita pasti satu-satunya dengan nyawa manusia dalam bahaya. Kecuali kita mengatur rumah kita dan mulai menjawab pertanyaan sulit tentang siapa kita dan ke mana kita akan pergi – jangan kaget jika AI generatif menyerap semua ketidakpastian kita untuk produksi massal dan pemilikan krisis identitas kita sendiri melawan kita.