Perusahaan kecerdasan buatan setuju pada hari Selasa untuk mengikuti seperangkat pedoman keamanan sukarela dan menguatkan komitmennya dalam mengembangkan teknologi AI mereka dengan cara yang mendorong keamanan platform mereka dan masyarakat umum.
Pada AI Seoul Summit – yang diselenggarakan oleh pemerintah Korea Selatan dan Inggris Raya – 16 perusahaan terkemuka menandatangani Frontier AI Safety Commitments yang non-binding, yang bertujuan untuk mengurangi risiko AI sambil meningkatkan akuntabilitas dan transparansi.
Di antara perusahaan yang setuju dengan komitmen tersebut adalah OpenAI, Google, IBM, Amazon, Meta, dan xAI.
Perusahaan-perusahaan tersebut setuju untuk menilai risiko teknologi tersebut pada setiap langkah pengembangan sistem AI baru, dengan fokus mengurangi risiko yang terkait dengan kemungkinan penyalahgunaan teknologi tersebut juga. Mereka setuju untuk mempertimbangkan hasil evaluasi internal dan eksternal “sejauh yang sesuai” untuk menentukan keamanan sistem tersebut. Evaluasi eksternal dapat dilakukan oleh pihak ketiga independen, pemerintahan mereka sendiri, atau “badan lain yang dianggap sesuai oleh pemerintahan mereka.”
Perusahaan-perusahaan tersebut juga setuju untuk menetapkan ambang batas sebelumnya untuk tingkat risiko maksimum yang dihadapi oleh sistem AI tertentu yang mereka bersedia terima. Mereka setuju untuk menyatakan dengan jelas bagaimana mereka akan memastikan risiko tetap berada di bawah ambang tersebut dan apa yang akan dilakukan jika sistem AI mereka melebihi ambang tersebut, termasuk “proses untuk lebih mengembangkan dan mendistribusikan sistem dan model mereka hanya jika mereka menilai bahwa risiko yang tersisa akan tetap di bawah ambang tersebut.”
“Pada ekstrem, organisasi berkomitmen untuk tidak mengembangkan atau mendistribusikan model atau sistem sama sekali, jika mitigasi tidak dapat diterapkan untuk menjaga risiko tetap di bawah ambang tersebut,” demikian sebagian dari kesepakatan non-binding tersebut.
KTT dua hari ini mengikuti pertemuan pertama semacam itu pada bulan November, dan menampilkan beberapa pemimpin dunia yang juga berjanji untuk membangun pagar pengaman yang tepat untuk mengembangkan AI dengan aman dan berbagi sumber daya untuk “membangun pemahaman bersama tentang keamanan AI dan menyelaraskan kerja mereka dalam penelitian AI.”
Untuk berita, cuaca, olahraga, dan video streaming terbaru, kunjungi The Hill.