Emma Lembke tidak tahu apa itu algoritma ketika dia mulai menggunakan media sosial.
Ketika dia berusia 12 tahun, dia senang ketika orang tuanya memberinya izin untuk bergabung dengan Instagram. Dia dengan cepat mengikuti semua jenis akun — dari Kim Kardashian hingga Olive Garden, katanya — dan segera menghabiskan lima hingga enam jam sehari di aplikasi itu. Suatu hari dia mencari “latihan abdominal,” dan feednya berubah. Dia mulai melihat resep 200 kalori, posting pro-anoreksia, dan rutinitas latihan yang “tidak seharusnya dilakukan oleh seorang anak berusia 12 tahun di kamarnya,” katanya.
Ms. Lembke, sekarang berusia 21 tahun, memberikan kesaksian di depan Komite Yudisial Senat pada Februari 2023 tentang bagaimana media sosial membuatnya mengalami gangguan makan, dan apa yang dia dan para advokat lain lihat sebagai kebutuhan mendesak akan regulasi yang lebih ketat untuk melindungi pengguna termuda media sosial.
Platform media sosial telah berjanji akan mengambil tindakan lebih lanjut. Pada Jumat, TikTok menerapkan apa yang beberapa ahli sebut sebagai salah satu kebijakan yang paling terdefinisi dengan baik oleh perusahaan media sosial mengenai postingan berat badan dan diet. Pedoman yang diperbarui oleh perusahaan tersebut, yang datang ketika TikTok menghadapi potensi larangan di Amerika Serikat, mencakup pagar baru pada postingan yang menunjukkan “perilaku pengelolaan berat badan yang berpotensi berbahaya” dan latihan berlebihan.
TikTok mengatakan akan berusaha untuk memastikan halaman “For You”, yang berfungsi sebagai feed konten utama di TikTok dan didorong oleh algoritma yang ditujukan untuk minat pengguna, tidak lagi menampilkan video yang mempromosikan “puasa tidak teratur yang diperpanjang,” latihan yang dirancang untuk “penurunan berat badan yang cepat dan signifikan” atau obat-obatan atau suplemen yang mempromosikan peningkatan massa otot. Peraturan baru ini juga bertujuan untuk menindak postingan dari influencer dan pengguna lain yang mempromosikan produk untuk penurunan berat badan atau untuk menekan nafsu makan, seperti obat seperti Ozempic. Mereka juga bertujuan untuk membatasi konten yang mempromosikan penggunaan steroid anabolik.
Menurut kebijakan baru ini, model pembelajaran mesin akan berusaha untuk menandai dan menghapus konten yang dianggap berpotensi berbahaya; tim moderasi manusia kemudian akan meninjau postingan-postingan tersebut untuk melihat apakah mereka perlu tetap di luar feed For You, harus dihapus dari feed yang dibatasi usia, atau harus dihapus dari platform secara keseluruhan, kata Tara Wadhwa, direktur kebijakan TikTok di Amerika Serikat.
Penghilangan TikTok yang bermasalah dari feed utama dimaksudkan untuk “menghentikan pola konten yang berulang,” demikian pedoman baru tersebut mengatakan. Ms. Wadhwa mengatakan perusahaan ingin memastikan pengguna tidak terpapar konten diet dan penurunan berat badan “secara berurutan, atau berulang-ulang berulang kali.”
Para ahli mengatakan bahwa kebijakan baru ini menawarkan lebih banyak spesifikasi tentang jenis konten yang akan dihapus daripada pedoman yang ditetapkan oleh platform media sosial lain seperti Facebook dan YouTube, yang juga mengatakan mereka menggunakan moderasi berbasis pembelajaran manusia dan mesin untuk menjaga konten gangguan makan tetap terkendali.
Namun beberapa juga skeptis bahwa pagar baru TikTok akan dapat mengidentifikasi dan mengurangi postingan yang berpotensi berbahaya. S. Bryn Austin, seorang profesor ilmu sosial dan perilaku di Sekolah Kesehatan Masyarakat Harvard T.H. Chan dan seorang spesialis dalam gangguan makan, mengatakan regulasi ini mungkin tidak lebih dari sekadar perban pada algoritma yang berperilaku tepat seperti yang dirancang.
“Feed For You masih dirancang untuk dapat meningkatkan pendapatan mereka, untuk meningkatkan keterlibatan,” kata Dr. Austin.
Mungkin juga sulit untuk menguji dampak kebijakan baru ini, tambahnya. Para peneliti selama ini telah mengeluh bahwa platform seperti TikTok membuat sulit untuk mempelajari apa yang dilihat pengguna, bagaimana algoritma mereka bekerja atau bagaimana perubahan kebijakan memengaruhi feed konten atau perilaku pengguna.
Di platform berbasis algoritma, jalur dari konten kesehatan dan kebugaran ke postingan dengan potensi untuk mendorong gangguan makan bisa sangat singkat: Dalam sebuah studi tahun 2022 yang dilakukan oleh Pusat Melawan Kebencian Digital, para peneliti membuat profil untuk berpura-pura menjadi pengguna berusia 13 tahun dan menemukan bahwa akun-akun itu disajikan dengan konten yang mereka anggap terkait dengan merugikan diri dan gangguan makan dalam hitungan menit setelah mendaftar. Para peneliti juga menemukan bahwa tagar TikTok yang terkait dengan apa yang mereka klasifikasikan sebagai konten gangguan makan memiliki lebih dari 13,2 miliar tayangan.
Lebih dari 29 juta orang Amerika mengalami gangguan makan secara klinis signifikan dalam hidup mereka, dan orang dari segala usia, ras, jenis kelamin, atau tipe tubuh dapat mengembangkan gangguan makan, menurut Aliansi Nasional untuk Gangguan Makan. Bagi orang yang berisiko mengalami masalah ini, melihat feed yang dipenuhi dengan konten citra tubuh atau diet dapat menjadi “pemicu peribahasa” yang bisa memicu perilaku gangguan makan, kata Johanna Kandel, chief executive officer Aliansi Nasional untuk Gangguan Makan.
Salah satu tantangan bagi platform media sosial adalah bagaimana dan di mana menarik garis antara pos kesehatan dan pos yang berpotensi berbahaya. Apa yang mungkin berbahaya bagi beberapa pengguna mungkin sama sekali tidak memengaruhi yang lain.
“Ini bukan menarik garis di pasir dan mengatakan ‘ini baik untuk orang melihat, konten ini tidak,’” kata Ms. Kandel, menambahkan, “Saya tidak pikir hal ini sangat jelas. Akan harus ada kelenturan.”
Sapna Maheshwari berkontribusi pada pelaporan.