Gubernur California Gavin Newsom menandatangani sepasang proposal pada hari Minggu yang bertujuan untuk membantu melindungi anak-anak dari penyalahgunaan yang semakin populer dari alat kecerdasan buatan untuk menghasilkan gambar yang merugikan dari anak-anak. Langkah-langkah ini merupakan bagian dari upaya yang dilakukan California untuk meningkatkan regulasi di sekitar industri utama yang semakin memengaruhi kehidupan sehari-hari orang Amerika tetapi hampir tidak memiliki pengawasan di Amerika Serikat. Sebelumnya bulan ini, Newsom juga telah menyetujui beberapa undang-undang paling ketat untuk menangani deepfakes pemilihan, meskipun undang-undang tersebut sedang digugat di pengadilan. California secara luas dianggap sebagai pemimpin potensial dalam mengatur industri AI di AS. Undang-undang baru ini, yang menerima dukungan bipartis yang sangat besar, menutup celah hukum seputar gambar-gambar yang dihasilkan oleh AI dari pelecehan seksual anak dan menjelaskan bahwa pornografi anak adalah ilegal bahkan jika dihasilkan oleh AI. Hukum saat ini tidak memungkinkan jaksa distrik mengambil tindakan terhadap orang yang memiliki atau mendistribusikan gambar-gambar kekerasan seksual anak yang dihasilkan oleh AI jika mereka tidak dapat membuktikan bahwa materi itu menggambarkan orang nyata, kata para pendukung. Di bawah undang-undang baru, pelanggaran seperti itu akan dianggap sebagai tindak pidana. “Material pelecehan seksual anak harus ilegal untuk dibuat, dimiliki, dan didistribusikan di California, apakah gambar-gambar tersebut dihasilkan oleh AI atau anak-anak sebenarnya,” kata Anggota Majelis Demokrat Marc Berman, yang merancang salah satu undang-undang, dalam sebuah pernyataan. “AI yang digunakan untuk membuat gambar-gambar mengerikan ini dilatih dari ribuan gambar anak-anak nyata yang disiksa, mengulangi penderitaan anak-anak itu sekali lagi.” Newsom bulan ini juga menandatangani dua undang-undang lain untuk memperkuat undang-undang tentang balas dendam pornografi dengan tujuan melindungi lebih banyak wanita, gadis remaja, dan orang lain dari eksploitasi seksual dan pelecehan yang dimungkinkan oleh alat AI. Sekarang akan ilegal bagi orang dewasa untuk membuat atau berbagi deepfakes seksual yang dihasilkan oleh AI dari seseorang tanpa persetujuan mereka di bawah undang-undang negara. Platform media sosial juga diharuskan untuk memungkinkan pengguna melaporkan materi-materi tersebut untuk dihapus. Tetapi beberapa undang-undang tidak cukup jauh, kata Jaksa Distrik Los Angeles George Gascón, yang kantornya mensponsori beberapa proposal. Gascón mengatakan sanksi baru untuk berbagi revenge porn yang dihasilkan oleh AI seharusnya mencakup mereka yang berusia di bawah 18 tahun juga. Langkah tersebut dipersempit oleh para legislator negara bulan lalu agar hanya berlaku untuk orang dewasa. “Harus ada konsekuensi, Anda tidak mendapat akses gratis karena Anda berusia di bawah 18 tahun,” kata Gascón dalam sebuah wawancara baru-baru ini. Undang-undang ini datang setelah San Francisco mengajukan gugatan pertama di negara ini terhadap lebih dari selusin situs web yang menggunakan alat AI dengan janji untuk “membuka baju dari setiap foto” yang diunggah ke situs web tersebut dalam hitungan detik. Masalah deepfakes bukanlah hal baru, tetapi para ahli mengatakan bahwa situasinya semakin parah seiring teknologi untuk menghasilkannya menjadi lebih mudah diakses dan digunakan. Peneliti telah memperingatkan selama dua tahun terakhir tentang ledakan materi kekerasan seksual anak yang dihasilkan oleh AI menggunakan gambaran korban nyata atau karakter virtual. Pada bulan Maret, sebuah distrik sekolah di Beverly Hills mengeluarkan lima siswa sekolah menengah karena membuat dan berbagi foto telanjang palsu dari rekan sekelas mereka. Isu ini telah mendorong tindakan cepat dari kedua belah pihak di hampir 30 negara bagian untuk membantu mengatasi penyebaran materi kekerasan seksual yang dihasilkan oleh AI. Beberapa di antaranya meliputi perlindungan untuk semua orang, sementara yang lain hanya melarang materi yang menggambarkan anak-anak. Newsom telah memuji California sebagai pengguna teknologi AI yang awal dan sekaligus regulator, mengatakan bahwa negara tersebut dalam waktu dekat bisa segera menggunakan alat AI generatif untuk mengatasi kemacetan lalu lintas dan memberikan panduan pajak, meskipun administarsiannya sedang mempertimbangkan aturan baru melawan diskriminasi AI dalam praktik perekrutan.
