Přes víkend, Youtube aktivista Matt Watson se dostal na titulní stránku Redditu s videem o a rušivý fenomén, který objevil na platformě Google pro hostování videí, druhém největším vyhledávači na světě. Watson předvedl, jak se může proklikávat normálním, vhodným obsahem YouTube k sugestivním videím mladých dívek. I když mnoho z těchto videí, na kterých jsou preteens v bikinách a vamping ve svých ložnicích, nebyla explicitně sexuální, většina z nich byla uživateli okomentována zdánlivě pedofilní úmysl. Některé komentáře obsahovaly časová razítka pro konkrétní okamžiky, kdy byly mladé dívky v kompromitujících pozicích. Některé komentáře obsahují odkazy na soukromá, neveřejná videa. Tyto klipy YouTube byly zpeněženy prostřednictvím reklam pro společnosti jako Grammarly a samotný Google.
Krátce poté, co Watsonovo video, která mu ukázala, jak vyjadřuje hrůzu nad fenoménem, vyšplhal v žebříčku Reddit, mediální organizace a inzerenti odpověděli. The Verge oznámil to epické hry, společnost za nimi
To bylo něco, ale jako Forbes, Mashable, Business Insider, a The New York Times všichni zdůrazňovali, že to nebylo řešení zjevného problému algoritmického, lidského nebo strojového učení.
Zajímavé je, že u mnoha videí, která Watson viděl, byly zakázány komentáře, což naznačuje, že správci obsahu YouTube si všimli řady komentářů a snažili se pedofilům ztížit jejich působení místo. Ale všechny tyto snahy byly potvrzeny vědomím nevyřešeného problému.
Ve skutečnosti je jasné, že problém sahá minimálně do roku 2017. Ve stejném měsíci, kdy „Elsagate“ vypukla kontroverze, lidé začali zvonit na poplach kvůli podivným, implicitně sexuálním komentářům na videích malých dětí, vytvořených pro děti. Hlavní inzerenti rádi AT&T přestal utrácet za reklamy na webu, když BBC oznámila, že nevhodné komentáře u zpeněžených videí dětí často obsahují časová razítka sekundové okamžiky sugestivních pozic a odkazů na neveřejná videa – a inzerenti neobnovili výdaje, dokud nebyl problém „vyřešen“. Na 21. února AT&T, která právě v lednu začala na platformě opět inzerovat, uvedla, že přestanou utrácet za reklamy na platformě. Hasbro, Nestlé a Disney všichni následovali příklad.
Elsagate není totéž jako pedofilní kruh, ale problémy spolu souvisí. Obsahové farmy využily výhod klíčových slov a automaticky umístily reklamy na základě zapojení kanálu a nekvalitní filtrování AI a vytvořili karikatury, které používaly nelicencované postavy oblíbených dětí franšízy. Mnoho z nich "obsahové farmy" – tedy společnosti, které tato videa vytvořily – sídlí v místech, jako je Ho Či Minovo Město, Vietnam. Nebyly vzdělávací ani vhodné pro děti, ale šířily se na YouTube Kids jako zpeněžená videa.
Youtube změnili pokyny pro zpeněžení po duálních skandálech z roku 2017. Dnes musí mít tvůrci videí alespoň 1 000 odběratelů a mít svá videa zhlédnutá 4 000 hodin. Tyto předpisy byly zavedeny až po Elsagate a nyní společnost tvrdí, že všechna videa, která jsou zpeněžena, budou zkontrolována skutečnými lidskými bytostmi, nikoli Umělá inteligence, aby omezila zobrazování nevhodných reklam (předpokládejme: reklama Google, která předtočila video dívky s doladěním, která jí lízátko, které má více než 1 milion zobrazení).
Proto tolik videa dětí mít pod videi zakázány komentáře. 10 000 lidských recenzentů YouTube, kteří mají za úkol každou minutu zkontrolovat 400 hodin záznamu nahraného na YouTube, má také na starosti prohlížení nad interakcí s uvedenými videi a zakázáním nevhodných komentářů, odkazů na neveřejná videa nebo časových razítek dětí v sugestivním pozice.
Založil jsem si nový účet YouTube poté, co jsem zjistil, že moje algoritmy jsou tak zakořeněné, že najít nevhodný obsah bylo obtížné, a prohledal jsem totéž, co hledal Watson – „bikiny haul“. Během 12 kliknutí jsem byl v podivné králičí noře dětských wrestlingových videí a dívčích nočních hodin rutiny. Narazil jsem na jedno 30 a více minutové video a našel jsem toto:
Ve 21:25 se dívka na videu vzdálila od kamery a na okamžik byl vidět její rozkrok.
Také jsem narazil na spoustu modelingových videí mladých dívek jasně mladších 18 let. Komentující zaznamenali, jak krásné byly modelky a jak skvěle vypadaly ve spodním prádle, přestože se jedná o děti. Nebudu sdílet videa, protože jsou nevhodná; ale faktem je, že tyto komentáře by měly být nejen zdlouhavě monitorovány, ale možná by neměly být na webu vůbec. Proti těmto komentářům ani samotnému videu nezletilých modelujících spodní prádlo nebyly podniknuty žádné kroky.
A další dívka zveřejnila video své noční rutiny po sprše. Dívka, jejíž stránka na YouTube se jmenuje „Makenzieho zážitek z Fortnite“ a zdá se, že jí není více než 13 let, omylem pohne ručníkem způsobem, který na videu ukazuje strana jejího nahého trupu ve 2:47 minutě.
Je zřejmé, že toto video nemělo být nikdy nahráno. Dívka v něm je zjevně předpubertální a má na sobě ručník, což vysvětluje její noční rutinu. Toto video má asi 51 000 zhlédnutí. Zbytek jejích videí má mezi osmi a 150 zhlédnutími. Proč se to děje? Ví, proč 51 000 lidí zhlédlo toto video a žádné z jejích Fortnite videí nebo zábavných videí? Chápe, že jsou lidé, kteří se na to nedívají, protože je ve skutečnosti nezajímá její noční rutina, ale chtějí vidět malou holčičku v ručníku? Možná. Možná ne. je to dítě. Někdo by měl pečlivěji sledovat její používání internetu, ale to je také těžké. A to je místo YouTube by měl vstoupit, ale nemá. Toto je nevhodný obsah, i když není zjevně sexuální kvůli způsobu, jakým je pravděpodobně konzumován. To není dráždivá věc, pokud nejste ten typ člověka, který to konkrétně považuje za dráždivé.
Ačkoli tato videa nebyla zpeněžována pro reklamy, také je zjevně nesledovaly lidské bytosti ani umělá inteligence – alespoň ne efektivně. Některá videa by vůbec neměla být na YouTube, ale měla by mít miliony zhlédnutí. Pokud jsou komentáře a moderování obsahu tak neúčinné, jak se zdá, děti budou na platformě i nadále předmětem sexuálního zájmu, který bude i nadále nástrojem pro predátory.
S tím, jak se YouTube stává místem, kde stále více dětí sleduje videa, a také místem, kde předvádějí své výtvory, ti, kteří mají na starosti platforma se musí rozhodnout, zda má být umírněnost sledována v zájmu věrohodného popření nebo v zájmu ochrany děti. Pokud společnost dospěje k druhému závěru – a doufejme, že ano – bude muset přehodnotit jak personální obsazení, tak svůj software. Pokud to neudělají, měli by si rozmyslet, jakou roli chtějí na internetu hrát.
