I weekenden, Youtube aktivisten Matt Watson ramte forsiden af Reddit med en video om en foruroligende fænomen han opdagede på Googles videohostingplatform, verdens næststørste søgemaskine. Watson demonstrerede, hvordan han kunne klikke sig igennem normalt, passende YouTube-indhold til suggestive videoer af unge piger. Selvom mange af disse videoer, som viser preteens iført bikini og vamping i deres soveværelser, ikke var eksplicit seksuelle, var størstedelen blevet kommenteret af brugere med tilsyneladende pædofil hensigt. Nogle kommentarer indeholdt tidsstempler for specifikke øjeblikke, hvor de unge piger var i kompromitterende positioner. Nogle kommentarer indeholder links til private, skjulte videoer. Disse YouTube-klip blev indtægtsgenereret via annoncer for virksomheder som Grammarly og Google selv.
Kort efter Watsons video, som viste ham udtrykke rædsel over fænomenet, klatrede på Reddit-ranglisten, medieorganisationer og annoncører reagerede. Randen rapporterede det Episke spil
Dette var noget, men som Forbes, Mashable, Business Insider, og New York Times alle påpegede, at det ikke var en løsning på et tilsyneladende algoritmisk, menneskeligt eller maskinlæringsproblem.
Interessant nok havde mange videoer, Watson så, deaktiveret kommentarer, hvilket tyder på, at YouTubes indholdsadministratorer har bemærket rækken af kommentarer og har forsøgt at gøre det sværere for pædofile at operere deres websted. Men alle de bestræbelser, der blev bekræftet, var en bevidsthed om det uløste problem.
Faktisk er det klart, at problemet går tilbage til mindst 2017. I samme måned som "Elsagate” kontroversen eksploderede, folk var begyndt at ringe alarmen om mærkelige, implicit seksuelle kommentarer på videoer af små børn, lavet til børn. Store annoncører kan lide AT&T stoppede med at bruge til annoncer på webstedet, da BBC rapporterede, at upassende kommentarer på indtægtsgenererende videoer af børn ofte inkluderede tidsstempler for sekundlange øjeblikke med suggestive holdninger og links til unoterede videoer - og annoncører genoptog ikke udgifterne, før problemet var "løst". På 21. februar, AT&T, som lige var begyndt at annoncere på platformen igen i januar, sagde, at de ville stoppe med at bruge på annoncer på platformen. Hasbro, Nestle og Disney har alle fulgt trop.
Elsagate er ikke det samme som en pædofiliring, men problemerne hænger sammen. Indholdsfarme udnyttede søgeord og placerede automatisk annoncer baseret på kanalengagement og sjusket AI-filtrering og skabte tegnefilm, der brugte ulicenserede karakterer af populære børn franchise. Mange af disse "indholdsfarme" — det vil sige, virksomheder, der har lavet disse videoer — har hovedkontor i steder som Ho Chi Minh City, Vietnam. De var ikke pædagogiske eller børnevenlige, men spredte sig på YouTube-børn som indtægtsgenererende videoer.
Youtube ændret deres retningslinjer for indtægtsgenerering efter de dobbelte 2017-skandaler. I dag skal videoskabere have mindst 1.000 abonnenter og have haft deres videoer set i 4.000 timer. Disse regler blev først indført efter Elsagate, og nu hævder virksomheden, at alle videoer, der tjener penge, vil blive gennemgået af faktiske mennesker, ikke AI, for at dæmme op for upassende reklamer, der vises (tænk: en Google-annonce, der prerollerer en video af en tween-pige, der spiser en slikkepind, der har haft over 1 mio. visninger).
Det er derfor så mange videoer af børn har kommentarer deaktiveret under videoerne. YouTubes 10.000 menneskelige anmeldere, der har til opgave at gennemgå de 400 timers optagelser, der uploades til YouTube hvert minut, er også ansvarlige for at se over engagementet med nævnte videoer og deaktivering af upassende kommentarer, links til ikke-listede videoer eller tidsstempler af børnene i suggestiv stillinger.
Jeg oprettede en ny YouTube-konto efter at have opdaget, at mine algoritmer var så forankrede, at det var svært at finde upassende indhold, og søgte det samme som Watson søgte - "bikini haul." Inden for 12 klik var jeg i et mærkeligt kaninhul af børne-wrestling-videoer og pigernes nattetid rutiner. Jeg faldt over en video på mere end 30 minutter og fandt denne:
Klokken 21:25 bevægede pigen i videoen sig væk fra kameraet, og i et øjeblik var hendes skridt til syne.
Jeg stødte også på en række modelvideoer af unge piger klart under 18. Kommentarer bemærkede, hvor smukke modellerne var, og hvor flotte de så ud i deres undertøj, på trods af at det er børn. Jeg vil ikke dele videoerne, fordi de er upassende; men sagen er, at ikke kun skal disse kommentarer overvåges i længden, de burde måske slet ikke være på hjemmesiden. Der er ikke truffet nogen handling over for disse kommentarer eller selve videoen af mindreårige, der modellerer undertøj.
Og en anden pige postede en video af sin natterutine, efter brusebad. Pigen, hvis YouTube-side hedder "Makenzies Fortnite-oplevelse” og som ikke ser ud til at være mere end 13 år gammel, flytter ved et uheld sit håndklæde på en måde i videoen, som siden af hendes nøgne torso viser ved 2:47 minutter.
Denne video skulle naturligvis aldrig have været uploadet. Pigen i det er tydeligt præ-pubertet og bærer et håndklæde, der forklarer sin natterutine. Denne video har omkring 51.000 visninger. Resten af hendes videoer har mellem otte og 150 visninger. Så hvorfor sker det her? Ved hun, hvorfor 51.000 mennesker har set denne video og ingen af hendes Fortnite-videoer eller sjove håndværksvideoer? Forstår hun, at der er mennesker derude, som ikke kigger på dette, fordi de ikke rigtig bekymrer sig om hendes natterutine, men gerne vil se en lille pige i et håndklæde? Måske. Måske ikke. Hun er et barn. Nogen burde overvåge hendes internetbrug nøjere, men det er også svært. Og det er der YouTube burde komme ind, men har ikke. Dette er upassende indhold, selvom det ikke er åbenlyst seksuelt på grund af den måde, det sandsynligvis vil blive forbrugt på. Dette er ikke pirrende ting, medmindre du er den slags person, der specifikt finder det pirrende.
Selvom disse videoer ikke blev indtægtsgenereret til annoncer, blev de tydeligvis heller ikke overvåget af mennesker eller AI - i det mindste ikke effektivt. Nogle af videoerne burde slet ikke være på YouTube, men have millioner af visninger. Hvis kommentarer og indholdsmoderering er så ineffektive, som det ser ud til, vil børn fortsat være genstand for seksuel interesse på platformen, som fortsat vil være et værktøj for rovdyr.
Efterhånden som YouTube bliver et sted, hvor flere og flere børn bruger video, samt et sted, hvor de fremviser deres kreationer, vil de ansvarlige for platform nødt til at træffe en beslutning om, hvorvidt moderation bør forfølges af hensyn til plausibel benægtelse eller af hensyn til at beskytte børn. Hvis virksomheden kommer til sidstnævnte konklusion - og lad os håbe det gør - bliver de nødt til at genoverveje både deres personale og deres software. Hvis de ikke gør det, bør de genoverveje, hvilken rolle de vil spille på internettet.
