Tijekom vikenda, YouTube aktivist Matt Watson došao je na naslovnu stranicu Reddita s videom o a uznemirujuće fenomen koji je otkrio na Googleovoj platformi za video hosting, drugoj po veličini tražilici na svijetu. Watson pokazao kako može kliknuti normalnim, odgovarajućim sadržajem na YouTubeu prema sugestivnim videozapisima mladih djevojaka. Iako mnogi od ovih videozapisa, koji prikazuju predtinejdžeri koji nose bikinije i vampiruju u spavaćim sobama, nisu bili eksplicitno seksualni, većinu su korisnici komentirali s naizgled pedofilski namjera. Neki su komentari sadržavali vremenske oznake za određene trenutke kada su mlade djevojke bile u kompromitirajućem položaju. Neki komentari sadrže veze na privatne videozapise koji nisu javno dostupni. Ovi YouTube isječci su unovčeni putem oglasa za tvrtke kao što su Grammarly i sam Google.
Ubrzo nakon Watsonov video, što je pokazalo kako izražava užas nad tim fenomenom, popeo se na Reddit ljestvici, javile su se medijske organizacije i oglašivači.
Ovo je bilo nešto, ali kao Forbes, Mashable, Business Insider, i New York Times sve je istaknuto, to nije bilo rješenje za očiti algoritamski, ljudski ili strojni problem učenja.
Zanimljivo je da su mnogi videozapisi koje je Watson pogledao imali onemogućene komentare, što sugerira da upravitelji sadržaja na YouTubeu primijetili su niz komentara i pokušavali otežati pedofilima da ih operiraju mjesto. Ali svi ti napori potvrdili su svijest o neriješenom problemu.
Zapravo, jasno je da problem datira barem iz 2017. U istom mjesecu kada je “Elsagate” eksplodirala je kontroverza, ljudi su počeli zvoniti na uzbunu zbog čudnih, implicitno seksualnih komentara na videima male djece, napravljenim za djecu. Glavni oglašivači vole AT&T prestao trošiti na oglase na web mjestu kada je BBC izvijestio da neprikladni komentari na unovčenim videozapisima djece često uključuju vremenske oznake za sekundarni trenuci sugestivnih pozicija i poveznica na videozapise koji nisu javno dostupni — a oglašivači nisu nastavili trošiti sve dok problem nije bio "riješen". Na 21. veljače, AT&T, koji je tek u siječnju ponovno počeo oglašavati na platformi, rekao je da će prestati trošiti na oglase na platformi. Hasbro, Nestle i Disney su ih slijedili.
Elsagate nije isto što i lanac pedofilije, ali problemi su povezani. Farme sadržaja iskoristile su prednosti ključnih riječi i automatski postavile oglase na temelju angažmana na kanalu i loše filtriranje umjetne inteligencije te stvorio crtiće koji su koristili nelicencirane likove popularne djece franšize. Mnogi od ovih "farme sadržaja" — to jest, tvrtke koje su kreirale ove videozapise — imaju sjedište u mjestima kao što je Ho Chi Minh City, Vijetnam. Nisu bili edukativni ili prilagođeni djeci, ali su se na YouTube djeci proširili kao unovčeni videozapisi.
YouTube promijenili svoje smjernice za unovčavanje nakon dvojnih skandala iz 2017. Danas kreatori videa moraju imati najmanje 1000 pretplatnika i da su njihovi videozapisi pregledani 4000 sati. Ovi su propisi uvedeni tek nakon Elsagatea i sada tvrtka tvrdi da će sve videozapise koji se unovčavaju pregledavati stvarna ljudska bića, a ne AI, kako bi se spriječilo prikazivanje neprikladnog oglašavanja (zamislite: Googleov oglas koji unaprijed prikazuje videozapis tinejdžerske djevojke koja jede lizalicu koja je imala više od milijun pogleda).
Zato toliko video snimci djece imaju onemogućene komentare ispod videozapisa. YouTubeovih 10.000 ljudskih recenzenta, čiji je zadatak pregledati 400 sati snimke postavljene na YouTube svake minute, također je zaduženo za traženje zbog angažmana s navedenim videozapisima i onemogućavanja neprikladnih komentara, veza na videozapise koji nisu javno dostupni ili vremenskih oznaka djece u sugestivnim pozicije.
Napravio sam novi YouTube račun nakon što sam otkrio da su moji algoritmi toliko ukorijenjeni da je pronalaženje neprikladnog sadržaja bilo teško i pretražio sam isto što je Watson tražio - "povlačenje bikinija". Unutar 12 klikova bio sam u čudnoj zečjoj rupi s videozapisima o hrvanju djece i noćnim satima za djevojčice rutine. Naišao sam na jedan video od 30+ minuta i pronašao ovo:
U 21:25 djevojka na snimci se odmaknula od kamere i na samo bljesak sekunde vidjelo joj se međunožje.
Također sam naišao na mnoštvo videa o modeliranju mladih djevojaka koje su očito mlađe od 18 godina. Komentatori su primijetili kako su manekenke bile lijepe i kako su sjajno izgledale u donjem rublju, unatoč činjenici da se radi o djeci. Neću dijeliti videe jer su neprikladni; ali činjenica je da ne samo da bi ove komentare trebalo dugo pratiti, već ih možda uopće ne bi trebalo biti na web stranici. Nikakve mjere nisu poduzete protiv tih komentara ili samog videa na kojem maloljetnice modeliraju donje rublje.
A druga djevojka objavila je video svoje noćne rutine, nakon tuširanja. Djevojka, čija se YouTube stranica zove “Makenziejevo Fortnite iskustvo” i koja se čini da nema više od 13 godina, slučajno pomakne svoj ručnik na način na snimci koji se vidi sa strane njenog golog torza na 2:47 minute.
Očito, ovaj video nikada nije trebao biti učitan. Djevojka u njemu očito je pred pubertetom i nosi ručnik, objašnjavajući njezinu noćnu rutinu. Ovaj video ima oko 51.000 pregleda. Ostali njezini videi imaju između osam i 150 pregleda. Pa, zašto se to događa? Zna li zašto je 51.000 ljudi pogledalo ovaj video, a nijedan od njezinih Fortnite videozapisa ili zabavnih craft videa? Shvaća li ona da postoje ljudi koji to ne gledaju jer im nije stalo do njezine noćne rutine, ali žele vidjeti djevojčicu u ručniku? Može biti. Možda ne. ona je dijete. Netko bi trebao pomnije pratiti njezino korištenje interneta, ali i to je teško. I to je gdje YouTube bi trebao doći, ali nije. Ovo je neprikladan sadržaj čak i ako nije izrazito seksualan zbog načina na koji će se vjerojatno konzumirati. Ovo nije zabrinjavajuća stvar osim ako niste osoba kojoj je to posebno uzbudljivo.
Iako ti videozapisi nisu bili unovčeni za oglase, također ih očito nisu nadzirala ljudska bića ili AI – barem ne učinkovito. Neki od videa uopće ne bi trebali biti na YouTubeu, ali imaju milijune pregleda. Ako su komentari i moderiranje sadržaja neučinkoviti kao što se čini, djeca će i dalje biti predmet seksualnog interesa na platformi, koja će i dalje biti alat za grabežljivce.
Kako YouTube postaje mjesto na kojem sve više djece konzumira video, kao i mjesto gdje izlažu svoje kreacije, oni koji su zaduženi za platforma treba donijeti odluku o tome treba li slijediti moderiranje u interesu vjerodostojnog poricanja ili u interesu zaštite djeca. Ako tvrtka dođe do potonjeg zaključka - a nadajmo se da hoće - morat će preispitati i svoje osoblje i softver. Ako to ne učine, trebali bi preispitati koju ulogu žele igrati na internetu.
