Youtube KIDS berada di air panas untuk berbagai video mengganggu yang menyamar sebagai konten anak-anak di situs mereka. Baru-baru ini, perusahaan mengumumkan telah mengerjakan kebijakan konten baru yang memungkinkan pengguna untuk tandai video yang menggunakan kata kunci populer untuk menyelipkan video melalui situs. Meskipun ini akan mempersulit hal-hal yang tidak pantas untuk masuk ke Youtube Kids, masalah sebenarnya adalah algoritme.
NS kebijakan baru muncul dalam terang beberapa laporan dari sumber-sumber seperti Waktu New York dan Medium yang telah mengungkap tren video mengganggu yang meresahkan dan terlalu umum yang beredar di YouTube Kids. Video-video ini menampilkan karakter anak-anak tercinta dan tampak seperti konten yang dapat diklik dan ramah anak. Tetapi mereka sebenarnya sangat tidak pantas dan berbahaya. Video tersebut menampilkan konten yang mengganggu seperti Peppa Pig minum pemutih atau Joker mengubur Elsa dari Beku hidup. Menurut Waktu New York, seorang ibu di Indiana memperhatikan putranya yang berusia 3 tahun menonton video dengan karakter dari
Jadi, siapa yang membuat video ini dan mengapa? Ini pertanyaan yang sulit. Dalam posting menyeluruhnya di Medium berjudul "Ada yang Salah Di Internet" penulis James Bridle terjun ke tren yang mengganggu dan terungkap jutaan dan jutaan video yang dipasarkan untuk anak-anak dan menghasilkan keuntungan. Ini tidak mengejutkan: Semakin banyak penayangan yang didapat saluran, semakin banyak uang yang diterima orang-orang di belakang saluran tersebut. Ini matematika sederhana. Tapi sementara laporan lain seperti yang diterbitkan oleh New YorkWaktu memandang masalah konten kekerasan sebagai masalah moderasi, Bridle melihatnya sebagai kelemahan mendasar dalam cara Internet dan algoritma beroperasi.
Ke Bridle, jalan sistem yang terstruktur adalah masalahnya, dan cara sistem disusun adalah alasan mengapa video gila ini, yang menghasilkan banyak sekali keuntungan, mendapatkan penonton. Orang tua (atau pengguna Youtube mana pun) tidak boleh bertanggung jawab atas penandaan konten itu sendiri. Bukan mereka masalahnya. Algoritma adalah.
