Youtube KIDS je v vroči vodi za široko paleto motečih videoposnetkov, ki se na njihovem spletnem mestu maskirajo kot otroške vsebine. Pred kratkim je podjetje objavilo, da dela na novi politiki vsebine, ki uporabnikom omogoča označite videoposnetke ki uporabljajo priljubljene ključne besede za premikanje videoposnetkov po spletnem mestu. Čeprav bi to otežilo vstop neprimernih stvari v Youtube Kids, je resnična težava algoritem.
The nova politika izhaja iz več poročil iz virov, kot je New York Times in srednje ki so razkrili zaskrbljujoč in vse preveč pogost trend motečih videoposnetkov, ki krožijo po YoutTube Kids. Ti videoposnetki prikazujejo ljubljene otroške like in so videti kot otrokom prijazna vsebina, ki jo je mogoče klikniti. Toda v resnici so zelo neprimerni in nevarni. Videoposnetki vsebujejo tako moteče vsebine, kot sta prašička Peppa, ki pije belilo ali Joker, ki pokopa Elso iz Zamrznjeno živ. Glede na New York Times, mati v Indiani je opazila, da je njen 3-letni sin gledal video z liki iz PAW Patrol. V videu umre več likov; eden je stopil s strehe.
Kdo torej ustvarja te videoposnetke in zakaj? To je težko vprašanje. V svoji temeljiti objavi na Mediumu z naslovom »Na internetu je nekaj narobe« pisatelj James Bridle Potopil v moteč trend in odkril milijone in milijone videoposnetkov, ki so bili namenjeni otrokom in ustvarjeni za dobiček. To ni šok: več ogledov ima kanal, več denarja prejmejo ljudje za kanalom. To je preprosta matematika. Toda medtem ko druga poročila, kot je tisto, ki ga je objavil New YorkČasi obravnavajo vprašanje nasilne vsebine kot vprašanje zmernosti, Bridle pa to vidi kot temeljno napako v načinu, kako internet in algoritmi delujejo.
Do Bridle, pot problem je sistem strukturiran, in način, kako je sistem strukturiran, je razlog, zakaj ti zmešani videoposnetki, ki ustvarjajo tone in tone dobička, pridobijo občinstvo. Starši (ali kateri koli uporabnik Youtube) sami ne bi smeli biti odgovorni za označevanje vsebine. Oni niso problem. Algoritem je.
