YouTube akan menghentikan rekomendasi video kepada remaja yang mengidolakan tingkat kebugaran tertentu, berat badan, atau fitur fisik tertentu, setelah para ahli memperingatkan bahwa konten tersebut dapat berbahaya jika dilihat secara berulang-ulang.
Platform tersebut masih akan memperbolehkan remaja berusia 13 hingga 17 tahun untuk melihat video, tetapi algoritmanya tidak akan mendorong pengguna muda ke konten terkait setelahnya.
YouTube mengatakan konten semacam itu tidak melanggar panduannya tetapi bahwa menontonnya secara berulang dapat memengaruhi kesejahteraan beberapa pengguna.
Kepala kesehatan global YouTube, Dr. Garth Graham, mengatakan: “Saat seorang remaja sedang mengembangkan pemikiran tentang siapa mereka dan standar mereka sendiri, konsumsi berulang konten yang menampilkan standar yang diidolakan yang mulai membentuk standar internal yang tidak realistis bisa membuat beberapa orang membentuk keyakinan negatif tentang diri mereka sendiri.”
YouTube mengatakan para ahli di komite dorongan pemuda dan keluarga telah menyarankan bahwa beberapa kategori yang mungkin “tidak berbahaya” sebagai video tunggal dapat “bermasalah” jika ditonton secara berulang.
Pedoman baru, yang sekarang diperkenalkan di Inggris dan di seluruh dunia, berlaku untuk konten yang: mengidolakan beberapa fitur fisik daripada yang lain, seperti rutinitas kecantikan untuk membuat hidung Anda terlihat lebih langsing; mengidolakan kebugaran atau berat badan, seperti rutinitas olahraga yang mendorong mencari tampilan tertentu; atau mendorong agresi sosial, seperti intimidasi fisik.
YouTube tidak akan lagi membuat rekomendasi berulang tentang topik-topik itu kepada remaja yang telah mendaftar usia mereka dengan platform sebagai pengguna yang sudah login. Kerangka keamanan itu sudah diperkenalkan di AS.
“Frekuensi yang lebih tinggi dari konten yang mengidolakan standar atau perilaku yang tidak sehat dapat menekankan pesan-pesan yang berpotensi bermasalah – dan pesan-pesan itu dapat mempengaruhi bagaimana beberapa remaja melihat diri mereka sendiri,” kata Allison Briscoe-Smith, seorang klinisi dan penasihat YouTube. ” ‘Guardrails’ dapat membantu remaja mempertahankan pola hidup sehat saat mereka secara alami membandingkan diri mereka dengan orang lain dan menilai bagaimana mereka ingin muncul di dunia.”
Di Inggris, Undang-Undang Keselamatan Online yang baru memerlukan perusahaan teknologi melindungi anak-anak dari konten berbahaya, serta mempertimbangkan bagaimana algoritmanya bisa mengekspos di bawah 18 tahun ke materi berbahaya. Undang-undang tersebut mengacu pada kemampuan algoritma untuk menyebabkan kerusakan dengan mendorong sejumlah besar konten kepada seorang anak dalam waktu singkat, dan memerlukan perusahaan teknologi menilai setiap risiko yang dapat ditimbulkan oleh algoritma tersebut bagi anak-anak.