YouTube KIDS staat in het teken van het brede scala aan verontrustende video's die zich voordoen als inhoud voor kinderen op hun site. Onlangs heeft het bedrijf aangekondigd dat het werkt aan een nieuw inhoudsbeleid waarmee gebruikers kunnen: markeer de video's die populaire trefwoorden gebruiken om video's door de site te laten glippen. Hoewel dit het moeilijker zou maken voor ongepaste dingen om in Youtube Kids te komen, is het echte probleem het algoritme.
De nieuw beleid komt in het licht van verschillende rapporten van bronnen als de New York Times en Medium die de verontrustende en al te vaak voorkomende trend van verontrustende video's die rond YoutTube Kids circuleren, hebben blootgelegd. Deze video's bevatten geliefde kinderpersonages en lijken klikbare, kindvriendelijke inhoud. Maar ze zijn in feite enorm ongepast en gevaarlijk. De video's bevatten zulke verontrustende inhoud als Peppa Pig die bleekwater drinkt of The Joker die Elsa begraaft van Bevroren in leven. Volgens de New York Times
Dus, wie maakt deze video's en waarom? Het is een moeilijke vraag. In zijn grondige post op Medium getiteld "Er is iets mis op het internet" schrijver James hoofdstel dook in de verontrustende trend en ontdekte miljoenen en miljoenen video's die op de markt werden gebracht voor kinderen en werden gegenereerd voor winst. Dit is geen schok: hoe meer views een kanaal krijgt, hoe meer geld de mensen achter het kanaal ontvangen. Het is simpele wiskunde. Maar terwijl andere rapporten, zoals die van De New YorkKeer de kwestie van gewelddadige inhoud zien als een kwestie van matiging, beschouwt Bridle het als een fundamentele fout in de manier waarop internet en algoritmen werken.
Naar hoofdstel, de weg het systeem is gestructureerd is het probleem, en de manier waarop het systeem is gestructureerd, is de reden waarom deze gestoorde video's, die tonnen en tonnen winst opleveren, een publiek krijgen. Ouders (of een YouTube-gebruiker) mogen niet verantwoordelijk zijn voor het zelf markeren van de inhoud. Zij zijn niet het probleem. Het algoritme is.
