Преко викенда, ЈуТјуб aktivista Met Votson udario je na naslovnu stranu Reddita video snimkom o a uznemirujući fenomen koji je otkrio na Google-ovoj platformi za video hosting, drugom po veličini pretraživaču na svetu. Watson pokazao kako može da klikne normalan, odgovarajući YouTube sadržaj ka sugestivnim video snimcima mladih devojaka. Iako mnogi od ovih video snimaka, koji prikazuju tinejdžere koji nose bikinije i vampiruju u spavaćim sobama, nisu bili eksplicitno seksualni, većinu su korisnici komentarisali sa naizgled pedofilski намера. Neki komentari su sadržali vremenske oznake za određene trenutke kada su mlade devojke bile u kompromitujućem položaju. Neki komentari sadrže veze do privatnih video snimaka koji nisu navedeni. Ovi YouTube klipovi su monetizovani putem oglasa za kompanije kao što su Grammarly i sam Google.
Убрзо након Votsonov video, što je pokazalo da izražava užas nad tim fenomenom, popeo se na Reddit rang listi, javile su se medijske organizacije i oglašivači. The Verge
Ovo je bilo nešto, ali kao Forbes, Mashable, Business Insider, и The New York Times sve što je istaknuto, to nije bilo rešenje za očigledan algoritamski, ljudski ili problem mašinskog učenja.
Zanimljivo je da su mnogi video snimci koje je Votson pogledao imali onemogućene komentare, što sugeriše da menadžeri sadržaja na YouTube-u primetili su niz komentara i pokušavali da otežaju pedofilima da operišu svoje sajtu. Ali svi ti napori su potvrdili svest o nerešenom problemu.
U stvari, jasno je da problem datira najmanje iz 2017. U istom mesecu kada je „Elsagate” eksplodirala je kontroverza, ljudi su počeli da zvone na uzbunu zbog čudnih, implicitno seksualnih komentara na video snimcima male dece, napravljenim za decu. Glavni oglašivači vole AT&T prestao da troši na oglase na sajtu kada je Bi-Bi-Si izvestio da neprikladni komentari na monetizovane video snimke dece često uključuju vremenske oznake za sekundarni trenuci sugestivnih pozicija i linkova ka video snimcima po pozivu — a oglašivači nisu nastavili da troše sve dok problem nije „rešen“. на 21. februara AT&T, koji je upravo ponovo počeo da se oglašava na platformi u januaru, rekao je da će prestati da troši na oglase na platformi. Hasbro, Nestle i Disney su ih pratili.
Elsagate nije isto što i lanac pedofilije, ali problemi su povezani. Farme sadržaja su iskoristile prednosti ključnih reči i automatski postavile oglase na osnovu angažovanja kanala i loše AI filtriranje, i kreirali crtane filmove koji su koristili nelicencirane likove popularne dece franšize. Mnogi od ovih „farme sadržaja“ – to jest, kompanije koje su kreirale ove video snimke – imaju sedište u mestima kao što je Ho Ši Min, Vijetnam. Nisu bili edukativni ili prilagođeni deci, ali su se na YouTube deci proširili kao monetizovani video snimci.
ЈуТјуб promenili svoje smernice za monetizaciju nakon dvojnih skandala iz 2017. Danas kreatori videa moraju da imaju najmanje 1.000 pretplatnika i da su njihovi video snimci pregledani 4.000 sati. Ovi propisi su uvedeni tek nakon Elsagate-a i sada kompanija tvrdi da će sve video snimke koji se monetizuju pregledati stvarna ljudska bića, a ne AI, kako bi se sprečilo prikazivanje neprikladnog oglašavanja (zamislite: Google oglas koji prikazuje video snimak tinejdžerke koja jede lizalicu koja je imala preko milion pogledi).
Zato toliko mnogo video snimci dece imaju onemogućene komentare ispod video zapisa. YouTube-ovih 10.000 ljudi, recenzenata, koji imaju zadatak da pregledaju 400 sati snimaka koji se postavljaju na Jutjub svakog minuta, takođe su zaduženi za traženje zbog angažovanja sa navedenim video snimcima i onemogućavanja neprikladnih komentara, linkova ka video snimcima po pozivu ili vremenskih oznaka dece u sugestivnim pozicije.
Napravio sam novi YouTube nalog nakon što sam otkrio da su moji algoritmi toliko ukorenjeni da je pronalaženje neprikladnog sadržaja bilo teško i pretražio sam ista stvar koju je Votson tražio — „povlačenje bikinija“. U roku od 12 klikova bio sam u čudnoj zečjoj rupi sa video snimcima rvanja dece i noćnim satima devojčica rutine. Naišao sam na jedan video od 30+ minuta i našao ovo:
U 21:25, devojka na snimku se udaljila od kamere i na trenutak se videlo njeno međunožje.
Takođe sam naišao na niz video snimaka o modeliranju mladih devojaka koje su očigledno mlađe od 18 godina. Komentatori su primetili kako su manekenke bile lepe i kako su sjajno izgledale u donjem vešu, uprkos činjenici da se radi o deci. Neću deliti video snimke jer su neprikladni; ali činjenica je da ne samo da ovi komentari treba da se dugo prate, već ih možda i ne bi trebalo da budu na veb stranici. Nikakve mere nisu preduzete protiv tih komentara ili samog snimka na kojem maloletnici modeliraju donji veš.
A druga devojka je objavila snimak svoje noćne rutine, posle tuširanja. Devojka, čija se Jutjub stranica zove „Makenzijevo Fortnite iskustvo” i koja izgleda da nema više od 13 godina, slučajno pomera svoj peškir na način na snimku koji se vidi sa strane njenog golog torza na 2:47 minuta.
Očigledno, ovaj video nikada nije trebalo da bude postavljen. Devojka u njemu je očigledno pre puberteta i nosi peškir, objašnjavajući njenu noćnu rutinu. Ovaj video ima oko 51.000 pregleda. Ostali njeni video snimci imaju između osam i 150 pregleda. Pa, zašto se ovo dešava? Da li ona zna zašto je 51.000 ljudi pogledalo ovaj video, a nijedan njen Fortnite video ili zabavni video zapis? Da li ona razume da postoje ljudi koji ovo ne gledaju jer im nije stalo do njene noćne rutine, ali žele da vide devojčicu u peškiru? Можда. Можда не. ona je dete. Neko bi trebao pažljivije da prati njenu upotrebu interneta, ali i to je teško. I tu je IouTube bi trebalo da uđe, ali nije. Ovo je neprikladan sadržaj čak i ako nije otvoreno seksualan zbog načina na koji će se verovatno konzumirati. Ovo nije uznemirujuća stvar osim ako niste osoba kojoj je to posebno uzbudljivo.
Iako ovi video snimci nisu monetizovani za reklame, takođe ih očigledno nisu nadgledala ljudska bića ili veštačka inteligencija — barem ne efikasno. Neki od video snimaka uopšte ne bi trebalo da budu na YouTube-u, ali imaju milione pregleda. Ako su komentari i moderiranje sadržaja neefikasni kao što se čini, deca će i dalje biti predmet seksualnog interesovanja na platformi, koja će i dalje biti alat za predatore.
Kako YouTube postaje mesto gde sve više dece koristi video, kao i mesto gde izlažu svoje kreacije, oni koji su zaduženi za platforma treba da donese odluku o tome da li moderiranje treba da se sprovodi u interesu verodostojnog poricanja ili u interesu zaštite деца. Ako kompanija dođe do poslednjeg zaključka - a nadajmo se da jeste - moraće da preispita i svoje osoblje i softver. Ako to ne urade, trebalo bi da preispitaju koju ulogu žele da igraju na internetu.
