O YouTube KIDS está em apuros por causa da grande variedade de vídeos perturbadores disfarçados de conteúdo infantil em seu site. Recentemente, a empresa anunciou que está trabalhando em uma nova política de conteúdo que permite aos usuários sinalizar os vídeos que usam palavras-chave populares para inserir vídeos no site. Embora isso torne mais difícil a entrada de coisas inadequadas no Youtube Kids, o verdadeiro problema é o algoritmo.
o nova política vem à luz de vários relatórios de fontes como o New York Times e Médio que expôs a tendência preocupante e muito comum de vídeos perturbadores que circulam no YoutTube Kids. Esses vídeos apresentam personagens infantis adorados e parecem conteúdo clicável e adequado para crianças. Mas eles são, na verdade, extremamente inapropriados e perigosos. Os vídeos apresentam conteúdo perturbador como Peppa Pig bebendo água sanitária ou O Coringa enterrando Elsa de Congeladas vivo. De acordo com New York Times, uma mãe em Indiana notou seu filho de 3 anos assistindo a um vídeo com personagens de
Então, quem está criando esses vídeos e por quê? É uma pergunta difícil. Em sua postagem completa no Medium intitulada "Something Is Wrong On The Internet", o escritor James Bridle mergulhou na tendência perturbadora e descobriu milhões e milhões de vídeos comercializados para crianças e gerados com fins lucrativos. Isso não é um choque: quanto mais visualizações um canal obtém, mais dinheiro as pessoas por trás do canal recebem. É matemática simples. Mas enquanto outros relatórios, como o publicado por A nova iorqueVezes ver a questão do conteúdo violento como uma questão de moderação, Bridle vê isso como uma falha fundamental na maneira como a Internet e algoritmos operam.
Para Bridle, o caminho o sistema está estruturado é o problema, e a maneira como o sistema está estruturado é o motivo pelo qual esses vídeos malucos, que criam toneladas e toneladas de lucro, ganham público. Os pais (ou qualquer usuário do Youtube) não devem ser responsáveis por sinalizar o conteúdo por conta própria. Eles não são o problema. O algoritmo é.
