Cez víkend, YouTube aktivista Matt Watson sa dostal na titulnú stranu Redditu s videom o a znepokojujúce fenomén, ktorý objavil na platforme na hosťovanie videa od Googlu, ktorá je druhým najväčším vyhľadávačom na svete. Watson ukázal, ako sa dokáže preklikať normálnym, vhodným obsahom YouTube smerom k sugestívnym videám mladých dievčat. Aj keď mnohé z týchto videí, na ktorých sú mladiství v bikinách a vamping vo svojich spálňach, neboli vyslovene sexuálne, väčšina z nich bola používateľmi komentovaná zdanlivo pedofilný zámer. Niektoré komentáre obsahovali časové pečiatky pre konkrétne momenty, keď boli mladé dievčatá v kompromitujúcich pozíciách. Niektoré komentáre obsahujú odkazy na súkromné, nezaradené videá. Tieto klipy YouTube boli speňažené prostredníctvom reklám pre spoločnosti ako Grammarly a samotný Google.
Krátko potom Watsonovo video, čo mu ukázalo, ako vyjadruje zdesenie nad týmto javom, stúpol v rebríčku Reddit, mediálne organizácie a inzerenti odpovedali. The Verge oznámil to
Toto bolo niečo, ale ako Forbes, Mashable, Business Insider, a The New York Times Všetci zdôrazňovali, že to nebolo riešenie zjavného problému algoritmického, ľudského alebo strojového učenia.
Je zaujímavé, že mnoho videí, ktoré si Watson prezeral, malo zakázané komentáre, čo naznačuje, že správcovia obsahu YouTube si všimli reťazec komentárov a snažili sa pedofilom sťažiť ich pôsobenie stránky. Ale všetky tieto snahy boli potvrdené uvedomením si nevyriešeného problému.
V skutočnosti je jasné, že problém siaha najmenej do roku 2017. V tom istom mesiaci, kedy „Elsagate“ vypukla kontroverzia, ľudia začali zvoniť na poplach kvôli zvláštnym, implicitne sexuálnym komentárom k videám malých detí, ktoré boli vytvorené pre deti. Významní inzerenti majú radi AT&T prestali míňať peniaze za reklamy na stránke, keď BBC uviedla, že nevhodné komentáre k speňaženým videám detí často obsahovali časové pečiatky sekundové momenty sugestívnych pozícií a odkazov na nezaradené videá – a inzerenti neobnovili výdavky, kým sa problém „nevyriešil“. Zapnuté 21. február AT&T, ktorá práve v januári opäť začala inzerovať na platforme, uviedla, že prestanú míňať peniaze na reklamy na platforme. Hasbro, Nestle a Disney nasledovali príklad.
Elsagate nie je to isté ako pedofília, ale problémy sú prepojené. Obsahové farmy využívali kľúčové slová a automaticky umiestňovali reklamy na základe zapojenia kanála a nekvalitné filtrovanie AI a vytvorili karikatúry, ktoré používali nelicencované postavy populárnych detí franšízy. Mnohé z nich "farmy obsahu" – teda spoločnosti, ktoré vytvorili tieto videá – majú ústredie na miestach ako Hočiminovo mesto, Vietnam. Neboli vzdelávacie ani vhodné pre deti, ale šírili sa na YouTube pre deti ako speňažené videá.
YouTube zmenili svoje pokyny na speňaženie po dvojitých škandáloch z roku 2017. Dnes musia mať tvorcovia videí aspoň 1 000 odberateľov a ich videá musia mať sledované 4 000 hodín. Tieto nariadenia boli zavedené až po Elsagate a teraz spoločnosť tvrdí, že všetky videá, ktoré sú speňažené, budú kontrolované skutočnými ľudskými bytosťami, nie AI s cieľom obmedziť zobrazovanie nevhodnej reklamy (napríklad reklama Google, ktorá predtáča video, v ktorom dievča s doplnkami konzumuje lízanku, ktorá má viac ako 1 milión názory).
Preto toľko videá s deťmi mať zakázané komentáre pod videami. 10 000 ľudských recenzentov na YouTube, ktorí majú za úlohu každú minútu skontrolovať 400 hodín záznamu nahraného na YouTube, má tiež na starosti nad interakciou s uvedenými videami a zakázaním nevhodných komentárov, odkazov na nezaradené videá alebo časových pečiatok detí v sugestívnom pozície.
Vytvoril som si nový účet YouTube po tom, čo som zistil, že moje algoritmy sú natoľko zakorenené, že nájsť nevhodný obsah bolo ťažké, a hľadal som to isté, čo hľadal Watson – „bikiny haul“. Po 12 kliknutiach som bol v podivnej králičej nore videí o detských wrestlingoch a dievčenských nočných hodinách rutiny. Narazil som na jedno vyše 30-minútové video a našiel som toto:
O 21:25 sa dievča na videu vzdialilo od kamery a na okamih sa jej objavil rozkrok.
Narazil som aj na množstvo modelingových videí mladých dievčat jednoznačne mladších ako 18 rokov. Komentujúci si všímali, aké krásne boli modelky a ako skvele vyzerali v spodnej bielizni, napriek tomu, že ide o deti. Videá nebudem zdieľať, pretože sú nevhodné; Faktom však je, že tieto komentáre by sa mali nielen zdĺhavo monitorovať, ale možno by ani nemali byť na webovej stránke. Proti týmto komentárom ani samotnému videu, na ktorom maloletí modelujú spodnú bielizeň, neboli podniknuté žiadne kroky.
A ďalšie dievča zverejnilo video svojej nočnej rutiny po sprche. Dievča, ktorého stránka YouTube sa volá „Makenzieho zážitok z Fortnite“ a zdá sa, že nemá viac ako 13 rokov, náhodne pohne uterákom na videu tak, že strana jej nahého trupu ukazuje v čase 2:47 minúty.
Je zrejmé, že toto video nemalo byť nikdy nahrané. Dievča v ňom je zjavne pred pubertou a má na sebe uterák, čím vysvetľuje svoju nočnú rutinu. Toto video má približne 51 000 videní. Ostatné jej videá majú 8 až 150 pozretí. Prečo sa to deje? Vie, prečo si toto video pozrelo 51 000 ľudí a žiadne z jej Fortnite videí alebo zábavných remeselných videí? Chápe, že sú tu ľudia, ktorí sa na to nepozerajú, pretože ich v skutočnosti nezaujíma jej nočná rutina, ale chcú vidieť malé dievčatko v uteráku? Možno. Možno nie. Je to dieťa. Niekto by mal dôkladnejšie sledovať jej používanie internetu, ale to je tiež ťažké. A to je miesto YouTube by mal prísť, ale nemá. Toto je nevhodný obsah, aj keď nie je zjavne sexuálny, pretože je pravdepodobné, že bude konzumovaný. Toto nie je dráždivá vec, pokiaľ nie ste typ človeka, ktorý to považuje za dráždivé.
Hoci tieto videá neboli speňažené pre reklamy, tiež ich zjavne nemonitorovali ľudia alebo AI – aspoň nie efektívne. Niektoré videá by vôbec nemali byť na YouTube, ale mali by mať milióny videní. Ak sú komentáre a moderovanie obsahu také neúčinné, ako sa zdá, deti budú na platforme naďalej predmetom sexuálneho záujmu, ktorý bude aj naďalej nástrojom pre predátorov.
Keďže YouTube sa stáva miestom, kde čoraz viac detí sleduje videá, ako aj miestom, kde predvádzajú svoje výtvory, tí, ktorí majú na starosti platforma sa musí rozhodnúť, či by sa malo uskutočňovať umiernenosť v záujme hodnoverného popierania alebo v záujme ochrany deti. Ak spoločnosť dospeje k poslednému záveru – a dúfajme, že áno – bude musieť prehodnotiť personálne obsadenie aj softvér. Ak to neurobia, mali by si rozmyslieť, akú úlohu chcú na internete hrať.
