Pada bulan April 2019, David Ginsberg, seorang eksekutif Meta, mengirimkan email kepada atasannya, Mark Zuckerberg, dengan proposal untuk melakukan penelitian dan mengurangi rasa kesepian dan penggunaan kompulsif di Instagram dan Facebook.
Dalam email tersebut, Mr. Ginsberg mencatat bahwa perusahaan menghadapi penyelidikan atas dampak produknya “terutama di sekitar area penggunaan / kecanduan yang bermasalah dan remaja.” Dia meminta 24 insinyur, peneliti, dan staf lainnya kepada Mr. Zuckerberg, mengatakan bahwa Instagram memiliki “defisit” dalam masalah tersebut.
Sebuah minggu kemudian, Susan Li, sekarang kepala keuangan perusahaan, menginformasikan kepada Mr. Ginsberg bahwa proyek tersebut “tidak didanai” karena keterbatasan karyawan. Adam Mosseri, kepala Instagram, akhirnya menolak untuk membiayai proyek tersebut juga.
Pertukaran email hanyalah satu contoh bukti yang dikutip di antara lebih dari selusin gugatan yang diajukan sejak tahun lalu oleh jaksa agung dari 45 negara bagian dan Daerah Columbia. Negara-negara menuduh Meta secara tidak adil menjebak remaja dan anak-anak di Instagram dan Facebook sambil menipu publik tentang bahayanya. Dengan menggunakan pendekatan hukum yang terkoordinasi yang mengingatkan pada pengejaran Tembakau Besar pada tahun 1990-an, jaksa agung berusaha memaksa Meta untuk memperkuat perlindungan bagi anak-anak di bawah umur.
Analisis New York Times dari tuntutan hukum negara-negara – termasuk sekitar 1.400 halaman dokumen perusahaan dan korespondensi yang diserahkan sebagai bukti oleh Negara Bagian Tennessee – menunjukkan bagaimana Mr. Zuckerberg dan pemimpin Meta lainnya secara berkali-kali mempromosikan keamanan platform perusahaan, meminimalkan risiko bagi orang muda, bahkan ketika mereka menolak permohonan karyawan untuk memperkuat penjagaan dan mengontrak staf tambahan.
Dalam wawancara, jaksa agung dari beberapa negara yang menggugat Meta mengatakan bahwa Mr. Zuckerberg telah memimpin perusahaannya untuk mendorong keterlibatan pengguna dengan mengorbankan kesejahteraan anak-anak.
“Banyak keputusan ini akhirnya berakhir di meja Mr. Zuckerberg,” kata Raúl Torrez, jaksa agung New Mexico. “Dia perlu ditanya secara eksplisit, dan dihadapkan secara eksplisit, atas keputusan-keputusan yang telah dia buat.”
Gugatan negara-negara terhadap Meta mencerminkan kekhawatiran yang meningkat bahwa remaja dan anak-anak di media sosial dapat disolicitasi secara seksual, diintimidasi, dibully, disorot oleh tubuh, dan diinduksi secara algoritmik untuk penggunaan online yang kompulsif. Pada hari Senin terakhir, Dr. Vivek H. Murthy, ahli bedah jenderal Amerika Serikat, menyerukan penempatan label peringatan pada jaringan sosial, mengatakan platform tersebut menimbulkan risiko kesehatan masyarakat bagi anak-anak.
Peringatannya dapat meningkatkan momentum di Kongres untuk meloloskan Undang-Undang Keselamatan Anak Online, sebuah undang-undang yang akan membutuhkan perusahaan media sosial untuk mematikan fitur-fitur untuk anak-anak, seperti membanjiri mereka dengan pemberitahuan telepon, yang dapat mengarah pada perilaku “kecanduan”. (Para kritikus mengatakan undang-undang tersebut dapat menghambat akses anak-anak ke informasi penting. Aliansi Berita / Media, sebuah kelompok perdagangan yang mencakup The Times, membantu memenangkan pengecualian dalam undang-undang tersebut untuk situs berita dan aplikasi yang menghasilkan video berita.)
Pada bulan Mei, New Mexico menangkap tiga pria yang dituduh menargetkan anak-anak untuk berhubungan seks setelah, kata Mr. Torrez, mereka menjadi sasaran penyelidik negara yang telah berpura-pura menjadi anak-anak di Instagram dan Facebook. Mr. Torrez, seorang mantan jaksa kejahatan seksual anak, mengatakan algoritma Meta memungkinkan predator dewasa mengidentifikasi anak-anak yang tidak akan mereka temukan sendiri.
Meta mempersengketakan klaim-klaim dari negara-negara dan telah mengajukan mosi untuk menolak gugatan mereka.
Dalam sebuah pernyataan, Liza Crenshaw, juru bicara Meta, mengatakan bahwa perusahaan berkomitmen untuk kesejahteraan remaja dan memiliki banyak tim dan spesialis yang didedikasikan untuk pengalaman remaja. Dia menambahkan bahwa Meta telah mengembangkan lebih dari 50 alat dan fitur keamanan untuk remaja, termasuk membatasi konten yang tidak sesuai dengan usia dan membatasi remaja di bawah 16 tahun untuk menerima direct message dari orang yang tidak mereka ikuti.
“Kami ingin meyakinkan setiap orang tua bahwa kami memiliki kepentingan mereka di hati dalam pekerjaan yang kami lakukan untuk membantu memberikan pengalaman menyenangkan dan aman bagi para remaja di dunia maya,” kata Ms. Crenshaw. Keluhan hukum negara-negara, katanya, “menyajikan secara keliru pekerjaan kami menggunakan kutipan selektif dan dokumen yang dipilih- pilih.”
Namun, orang tua yang mengatakan bahwa anak-anak mereka meninggal akibat bahaya online menantang jaminan keamanan Meta.
“Mereka mengajarkan bahwa mereka memiliki perlindungan keamanan, tetapi bukan yang tepat,” kata Mary Rodee, seorang guru sekolah dasar di Canton, N.Y., yang putranya berusia 15 tahun, Riley Basford, diextort secara seksual di Facebook pada tahun 2021 oleh seorang asing yang berpura-pura sebagai gadis remaja. Riley kemudian bunuh diri beberapa jam setelahnya.
Ms. Rodee, yang menggugat perusahaan pada bulan Maret, mengatakan bahwa Meta tidak pernah merespons laporan-laporan yang dia kirimkan melalui saluran otomatis di situs tersebut tentang kematian anaknya.
“Hal itu cukup tidak masuk akal,” katanya.
Dorongan untuk Menangkan Remaja
Meta telah lama bergulat dengan cara menarik dan mempertahankan remaja, yang merupakan bagian inti dari strategi pertumbuhan perusahaan, menunjukkan dokumen internal perusahaan.
Remaja menjadi fokus utama bagi Mr. Zuckerberg sejak awal 2016, menurut keluhan Tennessee, ketika perusahaan masih dikenal sebagai Facebook dan memiliki aplikasi seperti Instagram dan WhatsApp. Pada musim semi itu, survei tahunan oleh bank investasi Piper Jaffray melaporkan bahwa Snapchat, aplikasi pesan yang menghilang, telah melampaui Instagram dalam popularitas.
Kemudian pada tahun itu, Instagram memperkenalkan fitur berbagi foto dan video yang menghilang, Instagram Stories. Mr. Zuckerberg mengarahkan eksekutif untuk fokus pada membuat remaja menghabiskan lebih banyak waktu di platform perusahaan, menurut keluhan Tennessee.
“Tujuan keseluruhan perusahaan adalah total waktu remaja yang dihabiskan,” tulis seorang karyawan, yang namanya dihapus, dalam sebuah email kepada eksekutif pada November 2016, berdasarkan korespondensi internal di antara barang bukti dalam kasus Tennessee tersebut. Tim-tim yang berpartisipasi harus meningkatkan jumlah karyawan yang didedikasikan untuk proyek-proyek yang ditujukan untuk remaja setidaknya 50 persen, tambah email tersebut, mencatat bahwa Meta sudah memiliki lebih dari selusin peneliti yang menganalisis pasar remaja.
Pada bulan April 2017, Kevin Systrom, kepala eksekutif Instagram, mengirimkan email kepada Mr. Zuckerberg meminta lebih banyak staf untuk bekerja mengatasi bahaya bagi pengguna, menurut keluhan New Mexico.
Mr. Zuckerberg menjawab bahwa dia akan memasukkan Instagram dalam rencana untuk mempekerjakan lebih banyak staf, tetapi dia mengatakan Facebook menghadapi “masalah yang lebih ekstrem.” Pada saat itu, legislator mengkritik perusahaan karena gagal menghentikan disinformasi selama kampanye presiden Amerika Serikat pada tahun 2016.
Mr. Systrom meminta rekan-rekannya memberikan contoh untuk menunjukkan kebutuhan mendesak akan perlindungan yang lebih baik. Dia kemudian mengirim email lagi ke Mr. Zuckerberg, mengatakan pengguna Instagram sedang posting video yang melibatkan “bahaya yang mendekati,” termasuk seorang anak laki-laki yang menembak dirinya sendiri di Instagram Live, keluhan tersebut mengatakan.
Dua bulan kemudian, perusahaan mengumumkan bahwa fitur Instagram Stories telah mencapai 250 juta pengguna harian, mengalahkan Snapchat. Mr. Systrom, yang meninggalkan perusahaan pada tahun 2018, tidak merespons permintaan komentar.
Meta mengatakan tim Instagram mengembangkan dan memperkenalkan langkah-langkah keamanan dan pengalaman bagi pengguna muda. Perusahaan tidak merespons pertanyaan tentang apakah Mr. Zuckerberg telah menyediakan staf tambahan.
Prioritas dan Keselamatan Anak Muda
Pada tahun 2018, Mr. Zuckerberg menerima laporan yang memperkirakan bahwa empat juta anak di bawah usia 13 tahun berada di Instagram, menurut gugatan yang diajukan di pengadilan federal oleh 33 negara bagian.
Ketentuan penggunaan Facebook dan Instagram melarang pengguna di bawah 13 tahun. Namun, proses pendaftaran akun baru perusahaan memungkinkan anak-anak dengan mudah berbohong tentang usia mereka, menurut keluhan tersebut. Praktik Meta melanggar undang-undang privasi online anak federal yang mensyaratkan layanan online tertentu untuk memperoleh persetujuan orang tua sebelum mengumpulkan data pribadi, seperti informasi kontak, dari anak-anak di bawah 13 tahun, negara-negara menuduh.
Pada Maret 2018, The Times melaporkan bahwa Cambridge Analytica, sebuah firma pemetaan pemilih, secara rahasia mengumpulkan data pribadi jutaan pengguna Facebook. Hal ini memicu peninjauan lebih lanjut terhadap praktik privasi perusahaan, termasuk yang melibatkan anak di bawah umur.
Mr. Zuckerberg bersaksi bulan berikutnya dalam sidang Senat, “Kami tidak mengizinkan orang di bawah usia 13 tahun menggunakan Facebook.”
Jaksa agung dari puluhan negara tidak setuju.
Pada akhir tahun 2021, Frances Haugen, mantan karyawan Facebook, mengungkapkan ribuan halaman dokumen internal yang menurutnya menunjukkan bahwa perusahaan mengutamakan “profit di atas keselamatan.” Anggota parlemen mengadakan sidang, mencecarinya tentang mengapa begitu banyak anak memiliki akun.
Sementara itu, eksekutif perusahaan tahu bahwa pengguna Instagram di bawah usia 13 tahun adalah “status quo,” sesuai dengan keluhan federal bersama yang diajukan oleh negara-negara. Dalam obrolan internal pada November 2021, Mr. Mosseri mengakui pengguna di bawah umur tersebut dan mengatakan rencana perusahaan untuk “melayani pengalaman mereka sesuai usia” ditunda, keluhan tersebut mengatakan.
Dalam pernyataannya, Meta mengatakan bahwa Instagram memiliki langkah-langkah untuk menghapus akun yang tidak sah saat perusahaan mengidentifikasi mereka. Meta mengatakan telah secara berkala menghapus ratusan ribu akun yang tidak dapat membuktikan bahwa mereka memenuhi persyaratan usia perusahaan.
Pertarungan Atas Filter Kecantikan
Debat perusahaan tentang filter kecantikan di Instagram mencerminkan ketegangan internal tentang kesehatan mental remaja – dan akhirnya keinginan untuk lebih menarik pemuda lebih banyak telah berhasil.
Semuanya dimulai pada tahun 2017 setelah Instagram memperkenalkan efek kamera yang memungkinkan pengguna mengubah fitur wajah mereka untuk terlihat lucu atau “lucu / cantik,” menurut email dan dokumen internal yang diserahkan sebagai bukti dalam kasus Tennessee. Langkah ini diambil untuk meningkatkan keterlibatan di antara orang muda. Snapchat sudah memiliki filter wajah yang populer, kata email tersebut.
Tetapi protes muncul pada musim gugur 2019 setelah Instagram memperkenalkan filter dengan penampilan Alter Me, yang meniru garis-garis nip/tuck yang dilukis oleh dokter bedah kosmetik di wajah pasien. Beberapa ahli kesehatan mental memperingatkan bahwa efek kamera mirip operasi bisa membuat standar kecantikan yang tidak realistis untuk wanita muda, memperburuk gangguan citra tubuh.
Sebagai hasilnya, pada bulan Oktober 2019, Instagram sementara melarang efek kamera yang membuat perubahan dramatis di wajah seolah-olah operasi — sementara masih mengizinkan filter yang jelas fantastis, seperti wajah hewan lucu. Bulan berikutnya, para eksekutif yang prihatin mengusulkan larangan permanen, menurut dokumen pengadilan Tennessee.
Eksekutif lain berpendapat bahwa larangan akan merugikan kemampuan perusahaan untuk bersaing. Seorang kepala eksekutif mengirim email mengatakan bahwa Mr. Zuckerberg khawatir apakah data menunjukkan bahaya nyata.
Pada awal 2020, sebelum pertemuan pada bulan April dengan Mr. Zuckerberg untuk mendiskusikan masalah ini, karyawan mempersiapkan dokumen briefing tentang larangan, menurut dokumen pengadilan Tennessee. Satu email internal mencatat bahwa karyawan telah berbicara dengan 18 ahli kesehatan mental, masing-masing mengungkapkan kekhawatiran bahwa filter bedah kosmetik bisa “menyebabkan kerusakan berkepanjangan, terutama pada anak muda.”
Tetapi pertemuan dengan Mr. Zuckerberg dibatalkan. Sebaliknya, kepala eksekutif memberi tahu para pemimpin perusahaan bahwa dia setuju untuk menghapus larangan filter kecantikan, menurut email yang dikirimnya yang termasuk dalam dokumen pengadilan.
Beberapa minggu kemudian, Margaret Gould Stewart, saat itu wakil presiden Facebook untuk desain produk dan inovasi yang bertanggung jawab, menghubungi Mr. Zuckerberg, menurut email yang termasuk di antara barang bukti. Dalam email tersebut, dia mencatat bahwa sebagai seorang ibu dari anak perempuan remaja, dia tahu bahwa media sosial memberikan tekanan “intens” pada anak perempuan “dengan menghormati citra tubuh.”
Ms. Stewart, yang kemudian meninggalkan Meta, tidak merespons email yang meminta komentar.
Pada akhirnya, Meta mengatakan bahwa perusahaan melarang filter “yang secara langsung mempromosikan operasi kosmetik, perubahan warna kulit, atau penurunan berat badan yang ekstrim” dan dengan jelas menunjukkan saat filter tersebut digunakan.
Prioritas dan Keselamatan Pemuda
Pada tahun 2021, Meta mulai merencanakan aplikasi sosial baru. Aplikasi ini akan ditujukan khusus untuk anak-anak dan disebut Instagram Kids. Sebagai tanggapan, 44 jaksa agung menulis surat pada bulan Mei yang mendesak Mr. Zuckerberg untuk “membatalkan rencana ini.”
“Facebook secara historis gagal melindungi kesejahteraan anak di platformnya,” tulis surat tersebut.
Meta kemudian menunda rencana untuk aplikasi Instagram Kids.
Pada bulan Agustus, upaya perusahaan untuk melindungi kesejahteraan pengguna menjadi “semakin mendesak” bagi Meta, menurut email lain ke Mr. Zuckerberg yang diajukan sebagai barang bukti dalam kasus Tennessee. Nick Clegg, saat ini kepala urusan global Meta, memperingatkan bosnya tentang kekhawatiran dari regulator terkait dampak perusahaan terhadap kesehatan mental remaja, termasuk “tindakan hukum potensial dari jaksa agung negara bagian.”
Menggambarkan upaya kesejahteraan pemuda Meta sebagai “kurang staf dan terfragmentasi,” Mr. Clegg meminta pendanaan untuk 45 karyawan, termasuk 20 insinyur.
Pada bulan September 2021, The Wall Street Journal menerbitkan artikel yang mengatakan bahwa Instagram tahu bahwa platform tersebut “beracun bagi remaja perempuan,” memperbesar kekhawatiran publik.
Sebuah artikel di The Times yang sama menyebutkan sebuah video yang diposting oleh Mr. Zuckerberg sendiri ketika dia sed