Youtube KIDS er i varmt vand for den brede vifte af forstyrrende videoer, der forklæder sig som børneindhold på deres websted. For nylig meddelte virksomheden, at det har arbejdet på en ny indholdspolitik, der giver brugerne mulighed for det flag videoerne der bruger populære søgeord til at smutte videoer gennem webstedet. Selvom dette ville gøre det sværere for upassende ting at komme ind på Youtube Kids, er det virkelige problem algoritmen.
Det ny politik kommer i lyset af flere rapporter fra sådanne kilder som New York Times og Medium der har afsløret den bekymrende og alt for almindelige tendens med foruroligende videoer, der cirkulerer omkring YouTube Kids. Disse videoer viser elskede børns karakterer og virker som klikbart, børnevenligt indhold. Men de er faktisk vildt upassende og farlige. Videoerne indeholder så foruroligende indhold som Peppa Pig, der drikker blegemiddel eller Jokeren, der begraver Elsa fra Frosset i live. Ifølge New York Times, en mor i Indiana lagde mærke til sin 3-årige søn, der så en video med karakterer fra
Så hvem laver disse videoer og hvorfor? Det er et svært spørgsmål. I sit grundige indlæg på Medium med titlen "Something Is Wrong On The Internet" forfatter James Bridle dykkede ind i den foruroligende tendens og afslørede millioner og atter millioner af videoer, der blev markedsført mod børn og genereret for profit. Dette er ikke et chok: Jo flere visninger en kanal får, jo flere penge modtager folkene bag kanalen. Det er simpel matematik. Men mens andre rapporter som den, der er udgivet af New YorkTider ser spørgsmålet om voldeligt indhold som et spørgsmål om mådehold, Bridle ser det som en grundlæggende fejl i den måde, internettet og algoritmer fungerer.
Til Bridle, vejen systemet er struktureret er problemet, og den måde, systemet er struktureret på, er grunden til, at disse forvirrede videoer, som skaber tonsvis af profit, får et publikum. Forældre (eller enhver YouTube-bruger) bør ikke være ansvarlige for selv at markere indholdet. De er ikke problemet. Algoritmen er.
