Au cours des derniers mois, YouTube a fait face à de nombreuses réactions négatives pour son incapacité à surveiller correctement ses vidéos « conviviales », car il a été constaté que les chaînes ciblant les enfants promouvoir un contenu dérangeant, y compris la maltraitance des enfants et des versions matures des personnages de l'enfant bien-aimé. Face à ces défis croissants, Google, propriétaire du service de streaming, a annoncé son intention d'embaucher 10 000 évaluateurs dont le seul travail sera d'aider la plateforme vidéo à se débarrasser des contenus problématiques ou inappropriés qui enfreignent les Stratégies.
La PDG de YouTube, Susan Wojcicki, a annoncé la nouvelle le Le blog officiel de YouTube, où elle a décrit le plan de l'entreprise pour faire un meilleur travail en veillant à ce que les enfants ne soient pas exposés à un contenu troublant sur leur site. Wojcicki a déclaré qu'elle était fière de l'ouverture et de la liberté disponibles pour les utilisateurs sur YouTube, mais admet qu'au cours de la dernière année, elle a vu "un autre côté, plus troublant, de l'ouverture de YouTube".
YouTube a examiné le contenu de plus de deux millions de vidéos au cours des six derniers mois. Mais Wojcicki sait que ce problème ne fera que s'aggraver s'il n'est pas traité de front, ce qui est pourquoi Google a l'intention d'avoir 10 000 personnes "travaillant pour traiter le contenu qui pourrait enfreindre nos politiques" dans 2018. On ne sait pas actuellement combien d'employés Google examinent et signalent actuellement des vidéos potentiellement troublantes.
YouTube utilise également la technologie pour aider à réduire le contenu dérangeant pour les enfants, comme le note Wojcicki que Le « machine learning de pointe » aide les employés à signaler près de cinq fois plus de vidéos qu'ils ne l'ont fait avant. En fait, selon l'article, "98 % des vidéos que nous supprimons pour extrémisme violent sont signalées par nos algorithmes d'apprentissage automatique". C'est un grand pas pour faire YouTube redevient un environnement sûr et amusant pour les enfants et, espérons-le, ces nouveaux critiques aideront à éliminer le contenu grossier et étrange que trop d'enfants regardent sur leur placer.