Youtube KIDS è in acqua calda per la vasta gamma di video inquietanti mascherati da contenuti per bambini sul loro sito. Di recente, la società ha annunciato di aver lavorato a una nuova politica sui contenuti che consente agli utenti di segnala i video che utilizzano parole chiave popolari per far scorrere i video attraverso il sito. Anche se ciò renderebbe più difficile l'ingresso di elementi inappropriati su Youtube Kids, il vero problema è l'algoritmo.
Il nuova politica viene alla luce di diversi rapporti provenienti da fonti come il New York Times e medio che hanno messo in luce la preoccupante e fin troppo comune tendenza dei video inquietanti che circolano intorno a YoutTube Kids. Questi video presentano personaggi amati dai bambini e sembrano contenuti cliccabili e adatti ai bambini. Ma in realtà sono selvaggiamente inappropriati e pericolosi. I video presentano contenuti inquietanti come Peppa Pig che beve candeggina o The Joker che seppellisce Elsa da Congelato vivo. Secondo il New York Times
Allora, chi sta creando questi video e perché? È una domanda difficile. Nel suo post approfondito su Medium intitolato "Something Is Wrong On The Internet" scrittore James Bridle si è tuffato nella tendenza inquietante e ha scoperto milioni e milioni di video commercializzati verso i bambini e generati a scopo di lucro. Questo non è uno shock: più visualizzazioni ottiene un canale, più soldi ricevono le persone dietro il canale. È semplice matematica. Ma mentre altri rapporti come quello pubblicato da Il New YorkVolte considera il problema dei contenuti violenti come un problema di moderazione, Bridle lo vede come un difetto fondamentale nel modo in cui Internet e gli algoritmi operano.
Per brigliare, la via il sistema è strutturato è il problema, e il modo in cui il sistema è strutturato è il motivo per cui questi video squilibrati, che creano tonnellate e tonnellate di profitti, guadagnano un pubblico. I genitori (o qualsiasi utente di Youtube) non dovrebbero essere responsabili della segnalazione dei contenuti stessi. Non sono loro il problema. L'algoritmo è.
