Per savaitgalį, YouTube aktyvistas Mattas Watsonas pateko į pirmąjį Reddit puslapį su vaizdo įrašu apie a trikdantis reiškinys, kurį jis atrado „Google“ vaizdo įrašų prieglobos platformoje, antroje pagal dydį pasaulyje paieškos sistemoje. Vatsonas pademonstravo, kaip gali spustelėti įprastą, tinkamą „YouTube“ turinį, kad pamatytų įtaigius jaunų merginų vaizdo įrašus. Nors daugelis šių vaizdo įrašų, kuriuose vaizduojami paaugliai, dėvintys bikinius ir vampeliuojantys savo miegamuosiuose, nebuvo aiškiai seksualūs, didžiąją dalį naudotojų komentavo, regis, pedofiliškas tikslas. Kai kuriuose komentaruose buvo laiko žymos, skirtos tam tikroms akimirkoms, kai jaunos merginos buvo kompromituojančiose pozicijose. Kai kuriuose komentaruose pateikiamos nuorodos į privačius, neįtrauktus į sąrašą vaizdo įrašus. Iš šių „YouTube“ klipų buvo gauta pajamų iš skelbimų, skirtų tokioms įmonėms kaip „Grammarly“ ir „Google“.
Netrukus po to, kai Watsono vaizdo įrašas, kuris parodė, kad jis išreiškia siaubą dėl šio reiškinio,
Tai buvo kažkas, bet kaip Forbes, Mashable, Business Insider, ir „The New York Times“. Visi nurodė, kad tai nebuvo akivaizdžios algoritminės, žmogaus ar mašininio mokymosi problemos sprendimas.
Įdomu tai, kad daugelyje vaizdo įrašų, kuriuos žiūrėjo Watsonas, buvo išjungti komentarai, o tai rodo, kad „YouTube“ turinio valdytojai pastebėjo daugybę komentarų ir bandė apsunkinti pedofilų operaciją svetainę. Tačiau visos tos pastangos patvirtino, kad buvo suvokta neišspręsta problema.
Tiesą sakant, aišku, kad problema kilo mažiausiai 2017 m. Tą patį mėnesį, kai „Elsagatas“, kilo ginčas, žmonės pradėjo skambėti pavojaus varpais apie keistus, netiesiogiai seksualinius komentarus vaikams skirtuose vaizdo įrašuose, kuriuose vaizduojami maži vaikai. Didiesiems reklamuotojams patinka AT&T nustojo leisti skelbimams svetainėje, kai BBC pranešė, kad netinkamuose komentaruose apie vaikų vaizdo įrašus, iš kurių gaunama pajamų, dažnai buvo laiko žymes sekundę trunkančios dviprasmiškos pozicijos ir nuorodų į sąraše neįtrauktus vaizdo įrašus akimirkos – ir reklamuotojai nebeleido išlaidauti, kol problema nebuvo „ištaisyta“. Įjungta vasario 21 d. AT&T, kuri tik sausį platformoje vėl pradėjo reklamuotis, pareiškė nebeišlaidaujanti reklamoms platformoje. „Hasbro“, „Nestle“ ir „Disney“ pasekė pavyzdžiu.
Elsagate nėra tas pats, kas pedofilijos žiedas, tačiau problemos yra susijusios. Turinio ūkiai pasinaudojo raktiniais žodžiais ir automatiškai įdėjo skelbimus pagal kanalo įtraukimą ir nekokybiškas AI filtravimas, ir sukūrė animacinius filmus, kuriuose buvo naudojami nelicencijuoti populiarių vaikų personažai franšizės. Daugelis iš šių „turinio ūkiai“ – tai yra, šiuos vaizdo įrašus sukūrusių įmonių būstinė yra tokiose vietose kaip Hošiminas, Vietnamas. Jie nebuvo mokomieji ar draugiški vaikams, bet paplito „YouTube“ vaikams kaip vaizdo įrašai, iš kurių gaunama pajamų.
YouTube pakeitė savo pajamų gavimo gaires po dvigubų 2017 m. Šiandien vaizdo įrašų kūrėjai turi turėti bent 1 000 prenumeratorių, o jų vaizdo įrašai turi būti peržiūrimi 4 000 valandų. Šios taisyklės buvo priimtos tik po Elsagate ir dabar bendrovė teigia, kad visus vaizdo įrašus, iš kurių gaunama pajamų, peržiūrės tikri žmonės, o ne AI, siekiant pažaboti netinkamos reklamos pateikimą (pagalvokite: „Google“ reklama, rodanti vaizdo įrašą, kuriame mergaitė valgo ledinuką, kuriame buvo daugiau nei 1 mln. Peržiūrėjo).
Štai kodėl tiek daug vaikų vaizdo įrašai po vaizdo įrašais išjungti komentarai. „YouTube“ 10 000 žmonių, kuriems pavesta peržiūrėti 400 valandų filmuotos medžiagos, įkeliamos į „YouTube“ kiekvieną minutę, taip pat yra atsakingos už peržiūrą. per susižavėjimą minėtais vaizdo įrašais ir netinkamų komentarų, nuorodų į neįtrauktus į sąrašą vaizdo įrašus ar laiko žymų, skirtų dviprasmiškame vaikams, išjungimą pozicijų.
Sukūriau naują „YouTube“ paskyrą, kai sužinojau, kad mano algoritmai buvo taip įsišakniję, kad sunku rasti netinkamą turinį, ir ieškojau tas pats, ko Watsonas ieškojo – „bikinio vilkimas“. Per 12 paspaudimų patekau į keistą vaikų imtynių vaizdo įrašų ir mergaičių nakties triušių duobę rutinos. Aptikau vieną 30+ minučių vaizdo įrašą ir radau štai ką:
21.25 val., mergina vaizdo įraše pasitraukė nuo fotoaparato ir vos sekundei matėsi jos tarpkojis.
Taip pat aptikau daugybę modelių vaizdo įrašų, kuriuose aiškiai matomos jaunesnės nei 18 metų merginos. Komentatoriai pastebėjo, kokie gražūs buvo modeliai ir kaip puikiai atrodė su apatiniais, nepaisant to, kad tai vaikai. Vaizdo įrašais nesidalinsiu, nes jie netinkami; bet faktas yra tas, kad šiuos komentarus reikia ne tik ilgai stebėti, bet ir galbūt jų išvis neturėtų būti svetainėje. Prieš tuos komentarus ar patį vaizdo įrašą, kuriame nepilnamečiai modeliuoja apatinius, nebuvo imtasi jokių veiksmų.
Kita mergina paskelbė vaizdo įrašą apie savo nakties rutiną po dušo. Mergina, kurios „YouTube“ puslapis vadinasi „Makenzie Fortnite patirtis“ ir kuri, atrodo, yra ne vyresnė nei 13 metų, netyčia pajudina savo rankšluostį vaizdo įraše taip, kad 2:47 min. rodoma jos nuogo liemens pusė.
Akivaizdu, kad šis vaizdo įrašas niekada neturėjo būti įkeltas. Jame esanti mergina aiškiai prieš brendimą ir dėvi rankšluostį, aiškindama savo nakties rutiną. Šis vaizdo įrašas peržiūrėtas apie 51 000 kartų. Kiti jos vaizdo įrašai turi nuo aštuonių iki 150 peržiūrų. Taigi, kodėl tai vyksta? Ar ji žino, kodėl 51 000 žmonių peržiūrėjo šį vaizdo įrašą ir nė vieno iš jos „Fortnite“ vaizdo įrašų ar linksmų amatų vaizdo įrašų? Ar ji supranta, kad yra žmonių, kurie į tai nežiūri, nes jiems nelabai rūpi jos nakties rutina, bet nori matyti mažą mergaitę rankšluosčiu? Gal būt. O gal ir ne. Ji yra vaikas. Kažkas turėtų atidžiau stebėti jos naudojimąsi internetu, bet tai taip pat sunku. Ir štai kur „YouTube“ turėtų ateiti, bet neturi. Tai yra netinkamas turinys, net jei jis nėra akivaizdžiai seksualus dėl to, kaip jis gali būti vartojamas. Tai nėra erzinantis dalykas, nebent esate toks žmogus, kuris mano, kad tai erzina.
Nors iš šių vaizdo įrašų nebuvo gauta pajamų iš skelbimų, jie taip pat aiškiai nebuvo stebimi nei žmonių, nei AI – bent jau ne efektyviai. Kai kurie vaizdo įrašai neturėtų būti „YouTube“, bet turėtų būti peržiūrimi milijonais. Jei komentarų ir turinio moderavimas bus toks neveiksmingas, kaip atrodo, vaikai ir toliau bus seksualinio susidomėjimo objektas platformoje, kuri ir toliau bus plėšrūnų įrankis.
„YouTube“ tampa vieta, kur vis daugiau vaikų žiūri vaizdo įrašus, taip pat vieta, kur jie demonstruoja savo kūrinius, atsakingi už platforma turi apsispręsti, ar reikia laikytis nuosaikumo, siekiant tikėtino paneigimo, ar siekiant apsaugoti vaikai. Jei įmonė padarys pastarąją išvadą – ir tikėkimės, kad taip padarys – ji turės persvarstyti savo personalą ir programinę įrangą. Jei jie to nedaro, jie turėtų persvarstyti, kokį vaidmenį jie nori atlikti internete.
