Youtube KIDS är i varmt vatten för det stora utbudet av störande videor som maskerar sig som barninnehåll på deras webbplats. Nyligen meddelade företaget att det har arbetat på en ny innehållspolicy som tillåter användare att flagga videorna som använder populära sökord för att föra videor genom webbplatsen. Även om detta skulle göra det svårare för olämpliga saker att komma in på Youtube Kids, är den verkliga frågan algoritmen.
De ny policy kommer i ljuset av flera rapporter från sådana källor som New York Times och Medium som har avslöjat den oroande och alltför vanliga trenden med störande videor som cirkulerar runt YouTube Kids. Dessa videor innehåller älskade barnkaraktärer och verkar vara klickbart, barnvänligt innehåll. Men de är faktiskt väldigt olämpliga och farliga. Videorna innehåller sådant störande innehåll som att Peppa Pig dricker blekmedel eller The Joker som begraver Elsa från Frysta vid liv. Enligt New York Times, en mamma i Indiana lade märke till att hennes 3-årige son tittade på en video med karaktärer från
Så vem skapar dessa videor och varför? Det är en svår fråga. I sitt grundliga inlägg på Medium med titeln "Något är fel på internet" författare James Bridle dök in i den oroande trenden och upptäckte att miljontals och åter miljoner videor marknadsfördes mot barn och genererades i vinstsyfte. Det här är ingen chock: Ju fler visningar en kanal får, desto mer pengar får personerna bakom kanalen. Det är enkel matematik. Men medan andra rapporter som den som publicerats av New YorkTider ser frågan om våldsamt innehåll som en fråga om måttfullhet, Bridle ser det som ett grundläggande fel i det sätt som Internet och algoritmer fungerar.
Till Bridle, vägen systemet är strukturerat är problemet, och hur systemet är uppbyggt är anledningen till att dessa förvirrade videor, som skapar massor av vinst, får en publik. Föräldrar (eller någon YouTube-användare) ska inte vara ansvariga för att flagga innehållet själva. De är inte problemet. Algoritmen är.
