Viikonlopun yli, YouTube aktivisti Matt Watson osui Redditin etusivulle videolla a häiritsevä ilmiö, jonka hän löysi Googlen videopalvelualustalta, joka on maailman toiseksi suurin hakukone. Watson osoitti, kuinka hän voi klikata normaalia, sopivaa YouTube-sisältöä kohti vihjailevia nuoria tyttöjä sisältäviä videoita. Vaikka monet näistä videoista, joissa esitetyt teini-ikäiset käyttävät bikinejä ja vampelevat makuuhuoneissaan, eivät olleet nimenomaisesti seksuaalisia, käyttäjät olivat kommentoineet suurinta osaa niistä näennäisesti. pedofiilinen tahallisuus. Joissakin kommenteissa oli aikaleimoja tietyille hetkille, jolloin nuoret tytöt olivat kompromisseissa. Joissakin kommenteissa on linkkejä yksityisiin, piilotettuihin videoihin. Nämä YouTube-leikkeet kaupallistettiin mainoksilla sellaisille yrityksille kuin Grammarly ja itse Google.
Vähän sen jälkeen Watsonin video, joka osoitti hänen ilmaisevan kauhua ilmiöstä, nousi Redditin rankingissa, mediaorganisaatiot ja mainostajat vastasivat.
Tämä oli jotain, mutta kuten Forbes, Mashable, Business Insider, ja New York Times Kaikki huomauttivat, että se ei ollut ratkaisu näennäiseen algoritmiseen, ihmisen tai koneoppimisongelmaan.
Mielenkiintoista on, että monet videot, joita Watson katsoi, olivat poistaneet kommentit käytöstä, mikä viittaa siihen, että YouTuben sisällönvastaavat ovat huomanneet kommenttien sarjan ja yrittäneet vaikeuttaa pedofiilien toimintaa sivusto. Mutta kaikki nuo ponnistelut vahvistivat tietoisuutta ratkaisemattomasta ongelmasta.
Itse asiassa on selvää, että ongelma juontaa juurensa ainakin vuoteen 2017. Samassa kuussa, kun "ElsagateKiista räjähti, ihmiset olivat alkaneet soittaa oudoista, epäsuorasti seksuaalisista kommenteista lapsille tehtyihin videoihin, joissa oli pieniä lapsia. Suuret mainostajat pitävät AT&T lakkasi käyttämästä mainoksia sivustolla, kun BBC raportoi, että sopimattomat kommentit kaupallistettuihin lapsivideoihin sisälsivät usein aikaleimoja toissijaisia hetkiä vihjailevista sijoituksista ja linkeistä piilotettuihin videoihin – ja mainostajat eivät jatkaneet kuluttamista ennen kuin ongelma oli "korjattu". Päällä 21. helmikuuta AT&T, joka oli juuri alkanut mainostaa alustalla uudelleen tammikuussa, sanoi lopettavansa mainoksiin kulutuksen alustalla. Hasbro, Nestle ja Disney ovat kaikki seuranneet esimerkkiä.
Elsagate ei ole sama asia kuin pedofiliasormus, mutta ongelmat liittyvät toisiinsa. Sisältötilat hyödynsivät avainsanoja ja sijoittivat mainoksia automaattisesti kanavan sitoutumisen perusteella ja huono tekoälysuodatus ja loi sarjakuvia, joissa käytettiin suosittujen lasten lisensoimattomia hahmoja franchising-sopimuksia. Monet näistä "sisältöfarmit" – toisin sanoen yritykset, jotka ovat luoneet nämä videot – sijaitsevat Ho Chi Minh Cityn kaltaisissa paikoissa, Vietnam. Ne eivät olleet opetuksellisia tai lapsiystävällisiä, vaan ne levisivät YouTube-lapsissa kaupallistettuina videoina.
YouTube muuttivat kaupallistamissääntöjään vuoden 2017 kaksoisskandaalien jälkeen. Nykyään videoiden tekijöillä on oltava vähintään 1 000 tilaajaa ja heidän videoitaan on katsottu 4 000 tuntia. Nämä määräykset otettiin käyttöön vasta Elsagaten jälkeen, ja nyt yritys väittää, että kaikki kaupallistetut videot tulevat todellisten ihmisten tarkastettavaksi. AI, hillitäkseen sopimattoman mainoksen näyttämistä (ajattele: Google-mainos, joka esittelee videota tween-tytöstä syömässä tikkaria, jota on syönyt yli miljoona näkymät).
Siksi niin monet videoita lapsista kommentit on poistettu käytöstä videoiden alla. YouTuben 10 000 tarkastajaa, joiden tehtävänä on tarkistaa 400 tuntia YouTubeen joka minuutti ladattua materiaalia, ovat myös vastuussa etsimisestä. yli sitoutumisen mainittuihin videoihin ja lasten sopimattomien kommenttien, piilotettujen videoiden linkkien tai aikaleimien poistaminen käytöstä asemat.
Tein uuden YouTube-tilin havaittuani, että algoritmini olivat niin juurtuneet, että sopimattoman sisällön löytäminen oli vaikeaa, ja tein haun. sama asia, jonka Watson haki – "bikinihaul". 12 napsautuksella olin oudossa jäniskolossa lasten painivideoiden ja tyttöjen yöaikaan rutiinit. Törmäsin yhteen yli 30 minuutin videoon ja löysin tämän:
Kello 21.25 videolla näkyvä tyttö siirtyi pois kamerasta ja hänen haaransa oli näkyvissä vain hetken.
Löysin myös lukuisia mallivideoita nuorista selvästi alle 18-vuotiaista tytöistä. Kommentoijat panivat merkille, kuinka kauniita mallit olivat ja kuinka upeilta he näyttivät alusvaatteissaan huolimatta siitä, että he ovat lapsia. En jaa videoita, koska ne ovat sopimattomia. mutta tosiasia on, että näitä kommentteja ei pitäisi vain seurata pitkään, vaan niitä ei ehkä pitäisi olla verkkosivustolla ollenkaan. Näitä kommentteja tai itse videota vastaan, jossa alaikäiset mallintavat alusvaatteita, ei ole ryhdytty toimenpiteisiin.
Ja toinen tyttö julkaisi videon yörutiinistaan suihkun jälkeen. Tyttö, jonka YouTube-sivu on nimeltään "Makenzien Fortnite-kokemus” ja joka näyttää olevan korkeintaan 13-vuotias, siirtää pyyhkeensä vahingossa videolla tavalla, joka näkyy hänen alaston vartalon kyljessä 2:47 minuutin kohdalla.
On selvää, että tätä videota ei olisi koskaan pitänyt ladata. Tyttö siinä on selvästi esikarvainen ja hänellä on pyyhe yllään, mikä selittää hänen yörutiiniaan. Tällä videolla on noin 51 000 katselukertaa. Hänen muilla videoilla on 8-150 katselukertaa. Miksi näin tapahtuu? Tietääkö hän, miksi 51 000 ihmistä on katsonut tämän videon eikä yhtään hänen Fortnite-videoistaan tai hauskoista askarteluvideoistaan? Ymmärtääkö hän, että siellä on ihmisiä, jotka eivät katso tätä, koska he eivät todellakaan välitä hänen yörutiinistaan, vaan haluavat nähdä pienen tytön pyyhkeessä? Voi olla. Ehkä ei. Hän on lapsi. Jonkun pitäisi seurata tarkemmin hänen Internetin käyttöä, mutta se on myös vaikeaa. Ja siellä YouTuben pitäisi tulla mukaan, mutta ei ole. Tämä on sopimatonta sisältöä, vaikka se ei olisikaan selvästi seksuaalista sen todennäköisen käyttötavan vuoksi. Tämä ei ole kutkuttavaa, ellet ole sellainen henkilö, joka kokee sen kutkuttavana.
Vaikka näitä videoita ei kaupallistettu mainoksiksi, ihmiset tai tekoäly eivät selvästikään valvoneet niitä – ainakaan ei tehokkaasti. Joidenkin videoiden ei pitäisi olla YouTubessa ollenkaan, mutta niillä pitäisi olla miljoonia katselukertoja. Jos kommentit ja sisällön valvonta ovat niin tehottomia kuin miltä se näyttää, lapset ovat edelleen seksuaalisen kiinnostuksen kohteena alustalla, joka on edelleen petoeläinten työkalu.
Kun YouTubesta tulee paikka, jossa yhä useammat lapset nauttivat videoita, sekä paikka, jossa he esittelevät luomuksiaan, alustan on tehtävä päätös siitä, pitäisikö maltillisuutta noudattaa uskottavan kiistämisen vuoksi vai suojelemisen vuoksi lapset. Jos yritys tulee jälkimmäiseen johtopäätökseen - ja toivotaan, että se tekee - heidän on harkittava uudelleen sekä henkilöstöään että ohjelmistoaan. Jos he eivät tee niin, heidän tulee harkita uudelleen, mikä rooli he haluavat olla Internetissä.
