Youtube KIDS on kuumas vees paljude häirivate videote jaoks, mis maskeeritakse nende saidil lastele mõeldud sisuna. Hiljuti teatas ettevõte, et on töötanud uue sisupoliitika kallal, mis võimaldab kasutajatel seda teha märgista videod mis kasutavad populaarseid märksõnu videote saidilt läbi libistamiseks. Kuigi see raskendaks sobimatute asjade sattumist Youtube Kidsi, on tegelik probleem algoritmis.
The uus poliitika tuleneb mitmetest aruannetest sellistest allikatest nagu New York Times ja Keskmine mis on paljastanud YouTube'i lastes levivate häirivate videote murettekitava ja liiga levinud trendi. Need videod sisaldavad armastatud lastetegelasi ja tunduvad olevat klõpsatavad lastesõbralikud sisud. Kuid tegelikult on need metsikult sobimatud ja ohtlikud. Videod sisaldavad sellist häirivat sisu nagu Peppa Pig joob valgendit või Jokker matab Elsa Külmunud elus. Vastavalt New York Times, ema Indianas märkas oma 3-aastast poega vaatamas videot tegelastega aastast PAW patrull. Videos mitu tegelast sureb; üks kõndis katuselt alla.
Niisiis, kes neid videoid loob ja miks? See on raske küsimus. Oma põhjalikus postituses meedias pealkirjaga "Internetis on midagi valesti" kirjanik James Bridle Sukeldus murettekitavasse suundumusesse ja paljastati miljonid ja miljonid lastele suunatud videod, mis loodi kasumi eesmärgil. See pole šokk: mida rohkem vaatamisi kanal saab, seda rohkem raha saavad kanali taga olevad inimesed. See on lihtne matemaatika. Kuid samas kui teised aruanded, nagu näiteks avaldatud New YorkAjad vaatleb vägivaldse sisu probleemi mõõdukuse probleemina, peab Bridle seda põhimõtteliseks veaks viisis, kuidas Internet ja algoritmid töötavad.
Bridle'ile, tee probleem on süsteem struktureeritud, ja see, kuidas süsteem on üles ehitatud, on põhjus, miks need hullunud videod, mis toovad tonnide kaupa kasumit, koguvad vaatajaskonda. Vanemad (või ükski Youtube'i kasutaja) ei peaks vastutama sisu märgistamise eest ise. Need ei ole probleem. Algoritm on.
