Topline
Ketidaktransparanan Elon Musk dalam pembaruan tentang perusahaan implan otaknya Neuralink melanggar norma-norma ilmiah dan etika, menimbulkan pertanyaan tentang keselamatan pasien, dan berisiko menghambat seluruh bidang neuroteknologi, kata para ahli kepada Forbes, setelah miliarder tersebut memuji kesuksesan awal pasien manusia pertama perusahaan tersebut minggu lalu.
Elon Musk seharusnya lebih transparan tentang Neuralink dan uji klinisnya, kata para ahli kepada Forbes.
Fakta Kunci
“Yang benar-benar membingungkan saya dari ini bukanlah teknologinya sendiri tetapi cara menyampaikan berita ilmiah,” kata Marcello Ienca, seorang profesor etika AI dan ilmu saraf di Universitas Teknik Munich, yang menekankan bahwa informasi tentang Neuralink dan karyanya disebarkan “melalui pembaruan media sosial yang santai” daripada lewat saluran tradisional ilmiah seperti publikasi yang ditinjau teman, repositori publik, atau bahkan pra-cetak sederhana.
Ini “sepertinya menghindari protokol yang sudah mapan yang mendasari integritas ilmiah,” kata Ienca, mencegah para ahli mengevaluasi atau memahami “lingkup dan dampak penuh” dari setiap kemajuan yang diklaim.
“Sebuah cuitan bukanlah laporan ilmiah yang ditinjau teman,” kata L. Syd M Johnson, seorang etikus di Pusat Bioetika dan Kemanusiaan Universitas Kedokteran SUNY Upstate, menambahkan bahwa pembaruan singkat Musk memberikan sedikit detail tentang pemulihan pasien, seberapa besar kontrol yang mereka miliki atas tikus atau apakah “tikus” sebenarnya berarti kursor di layar.
Banyak uji klinis juga terdaftar dalam basis data publik ClinicalTrials.gov demi transparansi, akuntabilitas, dan keuntungan ilmu pengetahuan, kata Laura Cabrera, seorang neuroetikus di Institut Etika Rock Universitas Pennsylvania State, yang meminta pembuatan “cara yang lebih ketat” untuk menuntut perusahaan yang beroperasi di ruang tersebut agar akuntabel, transparan, dan mengikuti standar pelaporan yang serupa dengan uji coba yang didanai federal.
Meskipun bukan ilegal bagi Neuralink untuk tidak mendaftarkan uji klinisnya, Ienca mengatakan bahwa tidak melakukannya “melanggar pedoman etis fundamental untuk penelitian biomedis”—terutama Deklarasi Helsinki, sebuah pernyataan prinsip etika bagi penelitian medis yang melibatkan manusia—menyebutkan bahwa Neuralink belum berkomunikasi tentang pembentukan dewan etika internal atau mendirikan kode etik sendiri serta belum terlibat dalam kegiatan utama dari organisasi kebijakan yang bekerja di ruang tersebut seperti OECD.
Neuralink tidak merespons permintaan komentar dari Forbes.
Kutipan Penting
Ienca menuduh Neuralink membahayakan seluruh bidang neuroteknologi karena ketidaktransparannya dan kegagalan dalam menjelaskan posisinya tentang isu etika dan sosial penting yang terkait dengan pekerjaannya sambil terus maju dengan penelitian pada manusia. “Jika Anda memutuskan untuk bermain dengan api di dalam rumah, Anda meningkatkan ambang risiko tidak hanya dari diri Anda sendiri tetapi dari seluruh rumah,” katanya. “Ketakutan saya adalah bahwa kelalaian Neuralink terhadap aspek etis teknologi mereka dapat menyebabkan efek backlash bagi seluruh komunitas neuroteknologi.” Ienca memperingatkan kemungkinan reaksi berbalik tersebut dapat memperlambat perkembangan inovasi teknologi yang dapat membantu jutaan orang dengan gangguan neuropsikiatri dan gangguan mental, banyak di antara mereka yang tidak dapat disembuhkan atau bahkan diobati secara efektif dengan teknologi saat ini. Mengingat risikonya, “kita tidak boleh mengalami skandal “Cambridge Analytica” yang melibatkan otak manusia,” kata Ienca.
Tumpuan Berita
Neuralink mendapatkan izin pada bulan September untuk merekrut pasien untuk menguji kemampuan perangkat implan otak-nya dalam membantu orang-orang dengan lumpuh mendapatkan fungsi yang hilang dengan mengontrol komputer dengan pikiran mereka. Musk mengumumkan pasien pertama telah menerima implan pada bulan Januari dan minggu lalu mengatakan mereka tampaknya telah pulih sepenuhnya dan dapat menggerakkan tikus di layar “hanya dengan berpikir.” Miliarder Tesla memberikan kedua pembaruan tersebut melalui pos informal di X, platform media sosial yang kontroversial diakuisisi Musk sebagai Twitter pada tahun 2022. Musk telah menggoda bahwa produk pertama Neuralink akan meliputi “Telepati,” yang akan memungkinkan pengguna mengontrol ponsel atau komputer “hanya dengan berpikir,” serta fitur yang dapat mengembalikan penglihatan bagi orang buta. Musk juga terbuka tentang tujuan jangka panjangnya untuk Neuralink dan berharap teknologi ini akan digunakan lebih luas untuk meningkatkan ingatan dan meningkatkan kecerdasan serta pada akhirnya bertindak sebagai pelindung dari risiko kecerdasan buatan. Perusahaan ini telah dikritik atas penggunaan hewan dalam eksperimen dan muncul pertanyaan tentang independensi dari dewan regulasi yang mengatur penelitian hewan mereka. Perusahaan ini menyangkal melakukan kesalahan apapun dan menekankan bahwa mereka “berkomitmen untuk bekerja dengan hewan secara paling manusiawi dan etis yang mungkin.”
Kontra
Seiring dengan ahli lain yang diwawancarai oleh Forbes, neorobiolog Columbia Rafael Yuste mengatakan pengumuman kemajuan Neuralink “bukanlah berita.” Ini hanya dilaporkan sebagai berita karena “sebuah perusahaan yang terkait dengan Elon Musk” melakukannya,” katanya, menunjuk pada puluhan tahun penelitian dan banyak perusahaan lain yang beroperasi di bidang neoteknologi. Yuste mengatakan dia tidak memiliki kekhawatiran atas eksperimen terbaru Neuralink. Ini melibatkan perangkat medis yang “harus disetujui oleh FDA” dan “data yang dikumpulkan dilindungi dengan HIPAA,” jelasnya, merujuk pada serangkaian undang-undang federal yang mengatur informasi kesehatan yang dilindungi. “Saya menyambut baik siapa pun yang ingin mengembangkan perangkat medis untuk membantu pasien,” kata Yuste. Cabrera mengungkapkan sentimen serupa dan mengatakan tidak mungkin kita memerlukan hak-hak baru untuk mengatur penggunaan medis neuroteknologi karena ini seharusnya sudah tertutup dengan baik oleh regulasi yang sudah ada.
Hal yang Perlu Diperhatikan
Meskipun penggunaan medis neuroteknologi mungkin sudah tertutup dengan baik oleh regulasi yang sudah ada, Yuste memperingatkan “neuroteknologi komersial sepenuhnya tanpa regulasi.” Sektor yang berkembang ini—yang mencakup teknologi non-implan seperti sensor eksternal—menimbulkan sejumlah pertanyaan sosial, hukum, dan etika seputar privasi, akses, dan kebebasan berpikir, menuntut kerangka hak untuk mengatur neuroteknologi dan melindungi hak asasi manusia dari penyalahgunaan atau pemakaian yang mungkin dari itu (Yuste dan yang lainnya menyebut kerangka ini “neurorights”). Penggunaan, dan potensi eksploitasi, jumlah besar data otak yang dihasilkan dari implan dan sensor menjadi perhatian khusus, peringatkan para ahli. Neuralink terlihat sebagai perusahaan neuroteknologi yang dapat diterapkan pertimbangan tersebut padanya, meskipun ini masih jauh dari masa depan. “Neuralink adalah satu-satunya perusahaan neuroteknologi, menurut pengetahuan saya, yang secara terbuka mengakui bahwa tujuan jangka panjang mereka adalah pengembangan neuroteknologi implan untuk perbaikan manusia,” kata Ienca. Pada prinsipnya, Ienca mengatakan tidak ada yang salah dengan perbaikan—alat yang memperkuat atau menambahkan fungsi otak seperti ingatan atau penglihatan untuk individu sehat dan melampaui kemampuan alami—tetapi memperingatkan bahwa ada risiko nyata dalam menciptakan “masyarakat berlapis yang dibagi tidak hanya oleh kekayaan atau kesempatan, tetapi oleh kemampuan kognitif dan sensorik.” Johnson, di sisi lain, mengatakan perbaikan “tidak akan mengubah apa pun.” Orang kaya akan “mempunyai keuntungan dan kekuasaan yang sama” seperti saat ini.
Apa yang Belum Diketahui
Para ahli mengatakan kepada Forbes tidak jelas apa yang akan terjadi pada subjek manusia Neuralink setelah uji klinis untuk implan otak selesai. “Ketika uji klinis selesai, apakah mereka dibiarkan sendirian?,” tanya Johnson, menunjukkan banyak risiko yang terlibat dengan jenis operasi untuk menempatkan implan, kemungkinan perangkat atau kinerja merosot dari waktu ke waktu, dan fakta bahwa beberapa orang mungkin kehilangan akses ke implan mereka begitu uji coba selesai.
Kritik Utama
“Pembicaraan Musk tentang membantu orang cacat – memberikan fungsi tubuh penuh kepada tetraplegia – adalah tidak jujur dan merugikan,” kata Johnson, bertanya apakah orang cacat belum tentu ingin implan otak atau mengontrol ponsel pintar dengan pikiran mereka. “Hal itu pada dasarnya mengatakan bahwa orang cacat rusak dan perlu diperbaiki dengan implan otak yang invasif,” kata Johnson, mencatat bahwa ada “banyak hal yang bisa dilakukan oleh masyarakat sekarang, tetapi tidak dilakukan, untuk meningkatkan mobilitas, dan akses pekerjaan dan pendidikan, dan tempat tinggal yang layak bagi orang cacat.”
Nilai Forbes
Kami memperkirakan nilai Musk sebesar $207 miliar. Kekayaan Musk membuatnya menjadi orang terkaya kedua di dunia, di belakang raksasa barang mewah Prancis Bernard Arnault dan di depan pendiri Amazon Jeff Bezos, yang masing-masing bernilai $229,6 miliar dan $195,7 miliar.
Pembacaan Lanjutan
LEBIH LANJUT DARI FORBESNeuralink Elon Musk Ingin Menempatkan Chip di Otak Kita – Bagaimana Cara Kerjanya dan Siapa Lain yang MelakukannyaOleh Robert HartLEBIH LANJUT DARI FORBESLunar Musk Menggoda Produk Neuralink Pertama Setelah Perusahaan Memasang Dulu Chip Otak di ManusiaOleh Robert HartLEBIH LANJUT DARI FORBESMusk Mengatakan Pasien Chip Otak Neuralink Pertama Dapat Mengendalikan Komputer Mouse dengan PikiranOleh Robert HartLEBIH LANJUT DARI FORBESMusk Mengatakan Neuralink Dapat Memangkas Risiko dari AI Saat Perusahaan Bersiap untuk Uji Coba Manusia PertamaOleh Robert Hart