Čez vikend, YouTube aktivist Matt Watson je na naslovno stran Reddita prišel z videoposnetkom o a moteče fenomen, ki ga je odkril na Googlovi platformi za video gostovanje, drugem največjem iskalniku na svetu. Watson pokazal, kako lahko klikne po običajnih, ustreznih YouTubovih vsebinah do sugestivnih videoposnetkov mladih deklet. Čeprav mnogi od teh videoposnetkov, ki prikazujejo prednajstnike, ki nosijo bikinije in vampirajo v svojih spalnicah, niso bili izrecno seksualni, so večino uporabnikov komentirali z navidezno pedofilna namen. Nekateri komentarji so vsebovali časovne žige za določene trenutke, ko so bila mlada dekleta v kompromitiranih položajih. Nekateri komentarji vsebujejo povezave do zasebnih, nenavedenih videoposnetkov. Ti posnetki v YouTubu so bili monetizirani prek oglasov za podjetja, kot sta Grammarly in sam Google.
Kmalu Watsonov video, ki je pokazal, da je izražal grozo nad pojavom, povzpel na lestvici Reddit, odzvale so se medijske organizacije in oglaševalci. The Verge
To je bilo nekaj, ampak kot Forbes, Mashable, Business Insider, in The New York Times vse poudarjeno, ni bila rešitev za navidezno algoritemsko, človeško ali strojno učenje problema.
Zanimivo je, da so številni videoposnetki, ki si jih je Watson ogledal, onemogočili komentarje, kar nakazuje, da so upravitelji vsebine YouTube so opazili niz komentarjev in poskušali pedofilom otežiti njihovo delovanje spletno mesto. Toda vsa ta prizadevanja so se potrdila zavedanje nerešenega problema.
Pravzaprav je jasno, da težava sega vsaj v leto 2017. V istem mesecu, ko je bil »Elsagate” je eksplodirala polemika, ljudje so začeli alarmirati zaradi čudnih, implicitno spolnih komentarjev na videoposnetke majhnih otrok, narejenih za otroke. Glavnim oglaševalcem je všeč AT&T prenehali porabiti za oglase na spletnem mestu, ko je BBC poročal, da so neprimerni komentarji na monetizirane videoposnetke otrok pogosto vključevali časovne žige za sekundarni trenutki sugestivnih pozicij in povezav do nenavedenih videoposnetkov – in oglaševalci niso nadaljevali s porabo, dokler težava ni bila »odpravljena«. Vklopljeno 21. februarja, AT&T, ki je januarja pravkar znova začela oglaševati na platformi, so sporočili, da bodo nehali porabiti za oglase na platformi. Hasbro, Nestle in Disney so sledili temu.
Elsagate ni isto kot obroč pedofilije, vendar so težave povezane. Kmetije vsebin so izkoristile prednosti ključnih besed in samodejno umestile oglase na podlagi angažiranosti kanala in slabo filtriranje umetne inteligence ter ustvarili risanke, ki so uporabljale nelicencirane like priljubljenih otrok franšize. Veliko teh "kmetije vsebin" — torej podjetja, ki so ustvarila te videoposnetke — imajo sedež v mestih, kot je Ho Ši Minh, Vietnam. Niso bili izobraževalni ali otrokom prijazni, vendar so se na YouTubu za otroke razširili kot monetizirani videoposnetki.
YouTube spremenili svoje smernice za monetizacijo po dvojnih škandalih iz leta 2017. Ustvarjalci videoposnetkov morajo danes imeti vsaj 1000 naročnikov in so si njihovi videoposnetki ogledali 4000 ur. Ti predpisi so bili uvedeni šele po Elsagateu in zdaj podjetje trdi, da bodo vse videoposnetke, ki so monetizirani, pregledali dejanski ljudje, ne AI, da bi zajezili neprimerno oglaševanje (pomislite: Googlov oglas, ki predhodno predvaja videoposnetek najstniške deklice, ki poje liziko, ki je imel več kot milijon pogledi).
Zato toliko videoposnetki otrok imajo onemogočene komentarje pod videoposnetki. YouTubovih 10.000 človeških pregledovalcev, ki imajo nalogo pregledati 400 ur posnetkov, naloženih na YouTube vsako minuto, skrbi tudi za iskanje nad sodelovanjem z omenjenimi videoposnetki in onemogočanjem neprimernih komentarjev, povezav do nenavedenih videoposnetkov ali časovnih žigov otrok v sugestivnih položaji.
Ustvaril sem nov račun YouTube, potem ko sem ugotovil, da so moji algoritmi tako ukoreninjeni, da je bilo težko najti neprimerno vsebino, in iskal sem isto stvar, ki jo je iskal Watson – »vlečenje bikinija«. V 12 klikih sem bil v čudni zajčji luknji videoposnetkov o rokoborbi otrok in nočnih noči deklet rutine. Naletel sem na en 30+ minutni videoposnetek in našel tole:
Ob 21.25 se je dekle na posnetku odmaknilo od kamere in le za trenutek se je videlo njeno mednožje.
Naletel sem tudi na množico videoposnetkov o modeliranju mladih deklet, očitno mlajših od 18 let. Komentatorji so ugotavljali, kako lepe so bile manekenke in kako super so izgledale v spodnjem perilu, kljub temu, da so to otroci. Ne bom delil videoposnetkov, ker so neprimerni; a dejstvo je, da ne samo, da bi morali te komentarje obširno spremljati, ampak jih morda sploh ne bi smeli biti na spletni strani. Zoper te komentarje ali sam videoposnetek, na katerem mladoletne modelirajo spodnje perilo, niso bili sprejeti nobeni ukrepi.
In drugo dekle je objavilo video svoje nočne rutine po tuširanju. Deklica, katere stran v YouTubu se imenuje "Makenziejeva izkušnja Fortnite” in ki se zdi, da ni stara več kot 13 let, po nesreči premakne svojo brisačo na način, kot je prikazano na strani njenega golega trupa ob 2:47 minuti.
Očitno ta videoposnetek nikoli ne bi smel biti naložen. Dekle v njej je očitno pred puberteto in nosi brisačo, kar pojasnjuje njeno nočno rutino. Ta video ima približno 51.000 ogledov. Preostali njeni videoposnetki imajo od osem do 150 ogledov. Torej, zakaj se to dogaja? Ali ve, zakaj si je ta videoposnetek ogledalo 51.000 ljudi in nobenega od njenih videoposnetkov Fortnite ali zabavnih videoposnetkov o izdelavi? Ali razume, da obstajajo ljudje, ki na to ne gledajo, ker jim ni mar za njeno nočno rutino, ampak želijo videti deklico v brisači? mogoče. Morda pa tudi ne. ona je otrok. Nekdo bi moral bolj natančno spremljati njeno uporabo interneta, vendar je tudi to težko. In to je kje YouTube bi moral priti, vendar ni. To je neprimerna vsebina, tudi če ni odkrito spolna zaradi načina, kako bi jo verjetno zaužili. To ni vznemirljivo, razen če ste oseba, ki se ji zdi to posebej vznemirljivo.
Čeprav ti videoposnetki niso bili monetizirani za oglase, jih tudi očitno niso spremljali ljudje ali umetna inteligenca – vsaj ne učinkovito. Nekateri videoposnetki sploh ne bi smeli biti na YouTubu, ampak imajo milijone ogledov. Če sta moderiranje komentarjev in vsebine tako neučinkovita, kot se zdi, bodo otroci še naprej predmet spolnega zanimanja na platformi, ki bo še naprej orodje za plenilce.
Ko YouTube postaja kraj, kjer vse več otrok uživa videoposnetek, in mesto, kjer razstavljajo svoje stvaritve, tisti, ki so zadolženi za platforma mora sprejeti odločitev o tem, ali je treba zmernost izvajati v interesu verjetnega zanikanja ali v interesu zaščite otrok. Če bo podjetje prišlo do zadnjega zaključka - in upajmo, da se bo to zgodilo -, bodo morali ponovno razmisliti o kadrovanju in programski opremi. Če tega ne storijo, naj premislijo, kakšno vlogo želijo igrati na internetu.
