“Do kamu sedang mengalami sakit kepala atau infeksi sinus? Seperti apa perasaan retak tulang karena stres? Haruskah kamu khawatir tentang rasa sakit di dada kamu? Jika kamu Googling pertanyaan-pertanyaan tersebut sekarang, jawaban-jawabannya mungkin ditulis oleh kecerdasan buatan. Bulan ini, Google meluncurkan fitur baru bernama Ikhtisar AI yang menggunakan generative AI, sebuah jenis teknologi pembelajaran mesin yang terlatih pada informasi dari seluruh internet dan menghasilkan jawaban percakapan untuk beberapa pertanyaan pencarian dalam hitungan detik. Selama beberapa minggu sejak peluncuran alat tersebut, pengguna telah menemukan berbagai ketidakakuratan dan jawaban aneh tentang berbagai subjek. Tetapi ketika datang untuk menjawab pertanyaan kesehatan, para ahli mengatakan bahwa taruhannya sangat tinggi. Teknologi ini bisa membimbing orang ke arah kebiasaan sehat atau perawatan medis yang diperlukan, tetapi juga memiliki potensi untuk memberikan informasi yang tidak akurat. AI kadang-kadang bisa membuat fakta. Dan jika jawabannya dibentuk oleh situs web yang tidak berlandaskan ilmu pengetahuan, ia mungkin menawarkan saran yang melawan pedoman medis atau menimbulkan risiko bagi kesehatan seseorang. Sistem ini telah terbukti menghasilkan jawaban yang buruk tampaknya berdasarkan sumber-sumber yang salah. Ketika ditanya “berapa batu yang harus saya makan,” misalnya, AI Overviews memberi tahu beberapa pengguna untuk makan setidaknya satu batu sehari untuk vitamin dan mineral. (Saran ini diambil dari The Onion, situs satir.) “Kamu tidak bisa percaya semua yang kamu baca,” kata Dr. Karandeep Singh, chief health AI officer di UC San Diego Health. Dalam kesehatan, katanya, sumber informasi Anda sangat penting. Hema Budaraju, seorang direktur senior manajemen produk Google yang membantu memimpin pekerjaan pada AI Overview, mengatakan bahwa penelusuran kesehatan memiliki “pelindung tambahan,” tetapi menolak untuk menggambarkan hal tersebut secara detail. Penelusuran yang dianggap berbahaya atau eksplisit, atau menunjukkan bahwa seseorang berada dalam situasi rentan, misalnya dengan tindakan menyakiti diri sendiri, tidak memicu ringkasan AI, katanya. Google menolak untuk memberikan daftar lengkap situs web yang mendukung informasi dalam AI Overviews, tetapi mengatakan bahwa alat tersebut bekerja berdampingan dengan Google Knowledge Graph, sistem informasi yang telah menarik miliaran fakta dari ratusan sumber. Jawaban penelusuran baru memang menunjukkan beberapa sumber; untuk pertanyaan kesehatan, ini seringkali adalah situs web seperti Mayo Clinic, WebMD, Organisasi Kesehatan Dunia, dan pusat penelitian ilmiah PubMed. Tetapi ini bukan daftar yang lengkap: Alat tersebut juga dapat diambil dari Wikipedia, pos blog, Reddit, dan situs web e-commerce. Dan itu tidak memberi tahu pengguna man…”.
