“Ketika Anda memikirkan hal-hal seperti keselamatan mobil dan keselamatan pesawat, ada banyak sekali pengujian dan validasi eksternal serta standar eksternal yang kita sebagai masyarakat, dan sebagai sekelompok pakar, sepakat,” kata Tuan Ur dalam wawancara telepon pada hari Jumat. “Dan dalam banyak hal, OpenAI seolah-olah tergesa-gesa untuk mendeploy hal-hal ini yang keren karena kita sedang dalam perlombaan senjata kecerdasan buatan saat ini.”
(The New York Times menggugat OpenAI dan mitranya, Microsoft, pada bulan Desember, atas pelanggaran hak cipta konten berita terkait sistem kecerdasan buatan.)
Di luar OpenAI, perusahaan-perusahaan seperti Apple dan Google sedang bekerja dengan cepat untuk mengembangkan kecerdasan buatan mereka sendiri. Tuan Ur mengatakan bahwa tampaknya pendekatan saat ini dalam memantau perilaku model adalah dengan memperhatikan kekhawatiran saat model tersebut digunakan, bukan merancangnya dengan keamanan sebagai prioritas utama.
“Dalam ukuran di mana kita berada dalam masyarakat pasca-pandemi, saya pikir banyak orang emosional rapuh,” kata Tuan Ur, merujuk pada kasus manipulasi emosi yang melibatkan fitur suara kecerdasan buatan. “Sekarang bahwa kita memiliki agen ini yang, dalam banyak hal, bisa bermain-main dengan emosi kita – itu bukan agen yang sadar, ia tidak tahu apa yang dilakukannya – kita bisa masuk ke dalam situasi-situasi ini.”
Ini bukan pertama kalinya fitur suara OpenAI berada di berita. Sesaat setelah produk ini diumumkan pada bulan Mei, muncul kekhawatiran bahwa fitur tersebut mungkin terlalu mirip kehidupan dengan cara yang cukup spesifik. Aktris Scarlett Johansson, yang mengisi suara teknologi kecerdasan buatan di film “Her,” mengatakan bahwa OpenAI telah menggunakan suara yang terdengar “seperti dirinya” meskipun ia menolak tawaran untuk mengizinkan penggunaan suaranya. Dia kemudian mempekerjakan seorang pengacara dan menuntut agar OpenAI menghentikan penggunaan suara tersebut, yang disebut “Sky,” yang menyebabkan perusahaan untuk menunda perilisannya.
Dalam “Her,” protagonisnya, yang dimainkan oleh aktor Joaquin Phoenix, jatuh cinta dengan perangkat lunak kecerdasan buatan yang diisi suara oleh Nyonya Johansson, dan kemudian ditinggalkan patah hati saat terungkap bahwa kecerdasan buatan tersebut memiliki hubungan dengan pengguna lain juga.
“