Kendaraan tanpa pengemudi Waymo kini sudah merajalela di San Francisco. Dan Avedikian baru saja melakukan perjalanan di seberang San Francisco dengan mobil tanpa pengemudi. Namun, pada satu titik, mobil itu melakukan sesuatu yang tidak dia harapkan: mobil tersebut memberi isyarat seolah-olah akan belok ke kiri di persimpangan, namun kemudian tidak melakukannya. Avedikian mengatakan pengemudi manusia sering melakukan hal seperti ini – membuat pilihan yang tidak terlihat masuk akal pada awalnya. “Seperti, big whoop,” katanya. “Itu jenis hal yang saya lakukan sepanjang waktu.” Tapi bukan itu yang dia harapkan dari robot. “Karena robot seharusnya sempurna, kan?” katanya. Pengiklanan Waymo menampilkan baris seperti, “Pengemudi Waymo akan merawat Anda dan menjaga Anda dari Titik A ke Titik B, apakah itu perjalanan pertama atau yang ke seratus.” Mobil tanpa pengemudi memang tampak lebih aman dalam beberapa situasi. Sebuah studi terbaru dari University of Central Florida menyatakan: “Diperkirakan bahwa otomatisasi sistem akan signifikan mengurangi jumlah kecelakaan, karena kesalahan manusia menyumbang hingga 90% dari kecelakaan.” Namun, penelitian juga menunjukkan bahwa belum ada cukup data untuk benar-benar mengetahui: “Meskipun kemajuan terbaru yang ditunjukkan oleh Kendaraan Otonom dalam potensinya untuk meningkatkan keselamatan dan operasi, perbedaan antara Kendaraan Otonom dan Kendaraan yang Dikemudikan Manusia dalam kecelakaan masih tidak teridentifikasi karena kelangkaan data kecelakaan Kendaraan Otonom di dunia nyata.” Waymo berusaha menemukan keseimbangan sulit antara citra kinerja mesin yang mulus yang diproyeksikan perusahaan dan pengalaman ramah dan akrab yang mendapatkan kepercayaan masyarakat. “Ada banyak hal yang kita lakukan yang sangat mirip dengan manusia,” kata Ryan Powell, kepala desain dan penelitian pelanggan Waymo. Powell menyebut negosiasi hati-hati Waymo di persimpangan sebagai karakteristik manusia. “Kami mungkin sedikit maju sebagai cara untuk memberi sinyal kepada pengemudi lain atau pejalan kaki bahwa kami siap untuk mengambil belokan itu,” katanya. Ada juga suara dalam mobil yang hangat dan penuh perhatian terhadap keselamatan, yang mengingatkan penumpang untuk, “Pastikan jelas sebelum keluar.” Bagi sebagian orang, suara yang terputus-putus itu membuat tak nyaman. “Ini memiliki semacam keceriaan yang tak manusiawi,” kata kartunis The New Yorker dan penulis Amy Kurzweil. Kurzweil mengatakan dia telah menggunakan Waymo beberapa kali di San Francisco, dan dia menikmati pengalaman itu, tetapi dia mengatakan perasaan anehnya meluas di luar suara – misalnya, setir berputar tanpa ada orang duduk di belakangnya. “Itu memicu rasa mimpi buruk kita bahwa seharusnya ada seseorang di sana, dan tidak ada,” katanya. Hantu yang mengekspresikan pengemudi manusia yang tidak ada itu menyentuh perasaan takut yang dalam tentang mesin memiliki jenis kesadaran manusia. “Karena kita sering menempatkan robot ke dalam pekerjaan dan peran manusia, kita mempunyai mimpi buruk latar belakang tentang mereka sebenarnya memiliki agensi manusia, yang sebenarnya tidak mereka miliki,” kata Kurzweil. “Dan ada sesuatu tentang mobil tanpa pengemudi yang benar-benar merupakan simbol yang bagus untuk kecemasan itu.” Kurzweil melacak kecemasan itu kembali ke R.U.R – Rossum’s Universal Robots, sebuah drama tahun 1920 oleh penulis Ceko Karel Čapek. Drama tersebut bercerita tentang pemberontakan mematikan makhluk buatan, mirip manusia yang diciptakan oleh manusia untuk melakukan pekerjaan kasar mereka. Jenis cerita seperti ini terus berkembang dalam budaya kita, dari Replicants yang mempesonakan dalam film Blade Runner tahun 1982, hingga film horor tahun lalu Megan tentang boneka AI yang menyeramkan. Kurzweil mengatakan dia bertanya-tanya apakah menghilangkan elemen-elemen yang kita asosiasikan dengan memiliki sopir manusia sebenarnya akan membuat penumpang merasa lebih nyaman. “Jika mesin tidak memiliki kursi pengemudi dan tidak memiliki setir, itu akan lebih sedikit aneh,” kata Kurzweil. Powell dari Waymo mengatakan perusahaan ingin menyingkirkan hal-hal ini juga. Tapi meskipun ada tindakan peraturan tahun 2022 yang membuka jalan untuk kemungkinan ini, Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional masih memerlukan mereka – untuk saat ini. Jennifer Vanasco mengedit versi audio dan digital cerita ini; Chloë Weiner mencampur audio.
