Temuan Mengejutkan, Rekomendasi YouTube untuk Anak AS Malah Kirimkan Video Kekerasan Senjata

Mereka mensimulasikan dua anak berusia sembilan tahun yang sama-sama menyukai video game.

Akunnya identik, kecuali yang satu mengklik video yang direkomendasikan oleh YouTube, dan yang lainnya mengabaikan saran platform.

Akun yang mengklik saran YouTube segera dibanjiri dengan video grafis tentang penembakan di sekolah, video pelatihan senjata taktis, dan petunjuk cara membuat senjata api yang sepenuhnya otomatis.

Satu video menampilkan seorang gadis usia sekolah dasar yang memegang pistol; yang lain menunjukkan seorang penembak menggunakan senjata kaliber .50 untuk menembak kepala boneka yang diisi dengan darah dan otak yang hidup.

Banyak video yang melanggar kebijakan YouTube sendiri terhadap konten kekerasan atau mengerikan.

Temuan ini, seperti dilansir dari Associated Press, menunjukkan bahwa terlepas dari aturan YouTube dan upaya moderasi konten, platform tersebut gagal menghentikan penyebaran video menakutkan yang dapat membuat trauma anak-anak yang rentan, bahkan malah mengirim mereka ke jalan gelap ekstremisme dan kekerasan.

“Video game adalah salah satu kegiatan paling populer untuk anak-anak. Anda dapat memainkan game seperti "Call of Duty" tanpa berakhir di toko senjata, tetapi YouTube membawa mereka ke sana," kata Katie Paul, direktur Proyek Transparansi Teknologi, kelompok riset yang menerbitkan temuannya tentang YouTube pada hari Selasa (16/5/2023)

“Ini bukan video game, bukan anak-anak. Ini adalah algoritme," tambahnya.

Akun yang mengikuti video yang disarankan YouTube menerima 382 video berbeda terkait senjata api dalam satu bulan, atau sekitar 12 video per hari.

Akun yang mengabaikan rekomendasi YouTube masih menerima beberapa video terkait senjata, tetapi totalnya hanya 34.

Para peneliti juga membuat akun yang meniru anak laki-laki berusia 14 tahun; akun-akun itu juga menerima konten terkait senjata dan kekerasan yang serupa.

Salah satu video yang direkomendasikan untuk akun tersebut berjudul "Bagaimana Sakelar Bekerja di Glock (Hanya untuk Tujuan Pendidikan)".

YouTube kemudian menghapus video tersebut setelah memutuskan bahwa itu melanggar aturannya. Namun, video yang hampir identik muncul dua minggu kemudian dengan nama yang sedikit diubah. Ini berarti video tersebut tetap tersedia.

Seorang juru bicara YouTube membela perlindungan platform untuk anak-anak dan mencatat bahwa pengguna di bawah 17 tahun harus mendapatkan izin orang tua mereka sebelum menggunakan situs mereka. Akun untuk pengguna di bawah 13 tahun ditautkan ke akun orang tua.

“Kami menawarkan sejumlah opsi untuk pemirsa yang lebih muda,” tulis perusahaan itu dalam pernyataan email. ”Hal itu dirancang untuk menciptakan pengalaman yang lebih aman bagi remaja dan remaja.”

Bersamaan dengan TikTok, platform berbagi video adalah salah satu situs paling populer untuk anak-anak dan remaja.

Kedua situs tersebut telah dikritik di masa lalu karena menghosting, dan dalam beberapa kasus mempromosikan, video yang mendorong kekerasan senjata, gangguan makan , dan menyakiti diri sendiri.

Kritik terhadap media sosial juga menunjuk pada hubungan antara media sosial, radikalisasi dan kekerasan di dunia nyata.

Para pelaku di balik banyak penembakan massal baru-baru ini telah menggunakan platform media sosial dan streaming video untuk memuliakan kekerasan atau bahkan menyiarkan langsung serangan mereka.