Youtube KIDS er i varmt vann for det store utvalget av urovekkende videoer som er utgitt som barneinnhold på nettstedet deres. Nylig kunngjorde selskapet at det har jobbet med en ny innholdspolicy som lar brukere flagg videoene som bruker populære søkeord for å slippe videoer gjennom nettstedet. Selv om dette ville gjøre det vanskeligere for upassende ting å komme inn på YouTube Kids, er det virkelige problemet algoritmen.
De ny politikk kommer i lys av flere rapporter fra slike kilder som New York Times og Medium som har avslørt den urovekkende og altfor vanlige trenden med urovekkende videoer som sirkulerer rundt YouTube Kids. Disse videoene inneholder kjære barnekarakterer og virker som klikkbart, barnevennlig innhold. Men de er faktisk vilt upassende og farlige. Videoene har urovekkende innhold som Peppa Pig som drikker blekemiddel eller The Joker som begraver Elsa fra Frossen i live. Ifølge New York Times, en mor i Indiana la merke til at hennes 3 år gamle sønn så på en video med karakterer fra PAW Patrol. I videoen dør flere av karakterene; en gikk av et tak.
Så hvem lager disse videoene og hvorfor? Det er et vanskelig spørsmål. I hans grundige innlegg på Medium med tittelen "Noe er galt på Internett" forfatter James Bridle gikk inn i den urovekkende trenden og avdekket millioner på millioner av videoer som ble markedsført mot barn og generert for profitt. Dette er ikke et sjokk: Jo flere visninger en kanal får, jo mer penger mottar folkene bak kanalen. Det er enkel matematikk. Men mens andre rapporter som den publisert av New YorkTider ser på spørsmålet om voldelig innhold som et spørsmål om moderasjon, ser Bridle på det som en grunnleggende feil i måten Internett og algoritmer fungerer.
Til Bridle, veien systemet er strukturert er problemet, og måten systemet er strukturert på er grunnen til at disse forvirrede videoene, som skaper tonnevis med fortjeneste, får et publikum. Foreldre (eller YouTube-brukere) bør ikke være ansvarlige for å flagge innholdet selv. De er ikke problemet. Algoritmen er.
