Ketakutan OpenAI
Dunia teknologi melihat dengan heran minggu lalu ketika Ilya Sutskever, salah satu pendiri OpenAI yang sempat memberontak melawan Sam Altman, mengundurkan diri sebagai ilmuwan kepala. Beberapa pengamat meremehkan kepergian itu, mencatat bahwa Sutskever sudah tidak masuk kantor dalam beberapa bulan terakhir dan kelihatannya ia pergi dengan kondisi yang bersahabat.
Namun komentar kontroversial oleh seorang eksekutif yang juga mengundurkan diri telah menimbulkan pertanyaan apakah perusahaan tersebut, salah satu pengembang utama alat kecerdasan buatan, terlalu longgar dalam hal keamanan.
“Kultur dan proses keamanan telah dikesampingkan demi produk-produk menarik,” tulis Jan Leike, yang mengundurkan diri dari OpenAI minggu lalu, di jaringan sosial X. Bersama dengan Sutskever, Leike mengawasi tim superalignment perusahaan, yang bertugas untuk memastikan produk tidak menjadi ancaman bagi umat manusia.
Sutskever mengatakan dalam catatannya saat mengundurkan diri bahwa ia yakin OpenAI akan membangun kecerdasan buatan umum — AI secerdas otak manusia — yang “aman dan bermanfaat” bagi umat manusia. Namun Leike jauh lebih kritis:
“Beberapa bulan terakhir, tim saya berlayar melawan angin. Kadang-kadang kami berjuang untuk mendapatkan komputer dan semakin sulit untuk melakukan penelitian penting ini.”
Menurut Vox, Leike menyuarakan banyak karyawan OpenAI yang berorientasi pada keselamatan. Seorang mantan pekerja, Daniel Kokotajlo, mengatakan kepada publikasi online tersebut bahwa “Saya secara bertahap kehilangan kepercayaan pada kepemimpinan OpenAI dan kemampuan mereka untuk bertanggung jawab mengelola AGI, jadi saya mengundurkan diri.” Kekhawatiran seperti itu adalah alasan mengapa Sutskever mendorong dewan OpenAI untuk memecat Altman sebagai CEO tahun lalu, meskipun Sutskever kemudian mengakui bahwa ia menyesali langkah tersebut.
Vox melaporkan bahwa para karyawan yang khawatir tentang OpenAI dengan cepat mengembangkan teknologi yang semakin canggih — dan tentang Altman yang dilaporkan mengumpulkan uang dari rezim otoriter seperti Arab Saudi untuk membangun usaha chip AI.
Salah satu masalah lain adalah kebijakan OpenAI untuk karyawan yang mengundurkan diri, yang mencakup klausul non-disklosure dan larangan menghina. Menurut bahasa tersebut, mantan pekerja berisiko kehilangan saham yang sudah masuk dalam klausul jika mereka bersuara.
Setelah keributan di media sosial, Altman menulis di X bahwa ia “merasa malu” dengan klausul tersebut. Ia mengatakan perusahaan akan menghapus bahasa tersebut dari dokumen keluar, menambahkan bahwa perusahaan tidak pernah membatalkan saham yang sepenuhnya sudah masuk.
Altman dan presiden OpenAI, Greg Brockman, berusaha meredakan kekhawatiran. “Kami percaya baik dalam memberikan manfaat besar maupun berupaya untuk mengurangi risiko serius; kami sangat serius dalam peran ini dan dengan hati-hati menimbang umpan balik atas tindakan kami,” tulis keduanya di X akhir pekan ini.
Persepsi yang menunjukkan ketidakpedulian terhadap keselamatan di OpenAI bisa menjadi masalah. Investor perusahaan, termasuk Microsoft, jelas memihak pada Altman daripada Sutskever tahun lalu dengan mendukung pengembalikannya sebagai CEO.
Namun gagasan bahwa OpenAI bersikap sembrono terhadap ancaman yang mungkin dihadapi produk-produknya bisa memunculkan regulasi yang lebih ketat — dan menciptakan hambatan serius dalam persaingan perusahaan dengan pesaingnya.