A hétvégén, Youtube Matt Watson aktivista a Reddit címlapjára került egy videóval arról, hogy a zavaró jelenség, amelyet a Google videotárhely-platformján, a világ második legnagyobb keresőjében fedezett fel. Watson bemutatta, hogyan tud átkattintani a normál, megfelelő YouTube-tartalmakon a fiatal lányokról készült szuggesztív videókra. Bár ezek közül a videók közül sok, amelyeken tizenévesek bikiniben járnak és vámpíroznak a hálószobájukban, nem voltak kifejezetten szexuális jellegűek, a legtöbbjüket a felhasználók úgy kommentálták, pedofil elszánt. Egyes megjegyzések időbélyegzőket tartalmaztak azokra a pillanatokra, amikor a fiatal lányok kompromittáló helyzetben voltak. Egyes megjegyzések privát, nem nyilvános videókra mutató linkeket tartalmaznak. Ezeket a YouTube-klipeket olyan cégek hirdetései révén szerezték be, mint a Grammarly és maga a Google.
Nem sokkal azután Watson videója, ami azt mutatta, hogy rémületét fejezte ki a jelenség miatt, feljutott a Reddit ranglistájára, médiaszervezetek és hirdetők válaszoltak.
Ez volt valami, de mint Forbes, Mashable, Business Insider, és A New York Times Mindannyian rámutattak, hogy ez nem megoldás egy látszólagos algoritmikus, emberi vagy gépi tanulási problémára.
Érdekes módon sok Watson által megtekintett videóban letiltották a megjegyzéseket, ami arra utal, hogy a YouTube tartalomkezelői észrevették a megjegyzések sorát, és megpróbálták megnehezíteni a pedofilok dolgát webhely. De mindezek az erőfeszítések megerősítették a megoldatlan probléma tudatát.
Valójában egyértelmű, hogy a probléma legalább 2017-re nyúlik vissza. Ugyanabban a hónapban, amikor a „ElsagateA vita kirobbant, az emberek elkezdték kongatni a vészharangot a kisgyerekekről készült, gyerekeknek készült videók furcsa, burkoltan szexuális megjegyzéseiről. A nagy hirdetők kedvelik AT&T abbahagyta a hirdetésekre való költést az oldalon, amikor a BBC arról számolt be, hogy a gyerekekről készült bevételszerzésre alkalmas videókhoz fűzött nem megfelelő megjegyzések gyakran tartalmaztak időbélyeget a sugalmazó pozíciók és a nem listázott videókra mutató linkek másodpercig tartó pillanatai – és a hirdetők addig nem folytatták a költekezést, amíg a problémát „meg nem javították”. Tovább február 21. AT&T, amely éppen januárban kezdett újra hirdetni a platformon, azt mondta, hogy nem költenek a platformon megjelenő hirdetésekre. A Hasbro, a Nestle és a Disney egyaránt követte a példát.
Az Elsagate nem azonos a pedofíliagyűrűvel, de a problémák összefüggenek. A tartalomfarmok kihasználták a kulcsszavakat, és a csatorna elköteleződése alapján automatikusan elhelyezték a hirdetéseket és a silány mesterséges intelligencia-szűrést, valamint olyan rajzfilmeket készítettek, amelyekben népszerű gyerekek engedély nélküli karaktereit használták fel franchise-ok. Sok ilyen „tartalomfarmok” – vagyis azoknak a cégeknek, amelyek ezeket a videókat készítették – olyan helyeken találhatók a székhelyük, mint Ho Si Minh-város, Vietnam. Nem voltak oktató jellegűek vagy gyerekbarátak, hanem bevételszerzésre alkalmas videókként terjedtek el a YouTube gyerekeken.
Youtube megváltoztatta bevételszerzési irányelveit a kettős 2017-es botrányok után. Ma a videókészítőknek legalább 1000 feliratkozóval kell rendelkezniük, és videóikat 4000 órán keresztül nézték meg. Ezeket a szabályokat csak az Elsagate után léptették életbe, és most a cég azt állítja, hogy minden bevételszerzésre használt videót tényleges emberek ellenőriznek, nem pedig A mesterséges intelligencia a nem megfelelő reklámozás visszaszorítása érdekében (gondoljon egy Google-reklámra, amely egy olyan videót előregördít, amelyen egy kislány egy több mint 1 millió elfogyasztott nyalókát eszik nézetek).
Ezért sok videók gyerekekről a megjegyzések le vannak tiltva a videók alatt. A YouTube 10 000 emberi felülvizsgálója, akiknek feladata a YouTube-ra feltöltött, percenként 400 órányi felvétel áttekintése, szintén a keresésért felel. az említett videókkal való elköteleződés felett, valamint a nem megfelelő megjegyzések, a nem nyilvános videókra mutató linkek vagy a gyerekek időbélyegzőinek letiltása a sugalmazó tartalmú pozíciókat.
Új YouTube-fiókot hoztam létre, miután megállapítottam, hogy az algoritmusaim annyira beépültek, hogy nehéz volt megtalálni a nem megfelelő tartalmat, és kerestem ugyanaz, amit Watson keresett – „bikini fuvar”. 12 kattintáson belül egy furcsa nyúllyukba kerültem a gyerekbirkózós videók és a lányok éjszakái között rutinokat. Beleakadtam egy több mint 30 perces videóba, és ezt találtam:
21:25-kor a videón látható lány eltávolodott a kamerától, és egy pillanatra az ágyéka látszott.
Találkoztam egy csomó olyan modellvideóval is, amelyek egyértelműen 18 év alatti lányokról készültek. A kommentelők megjegyezték, milyen gyönyörűek a modellek, és milyen jól néztek ki fehérneműjükben, annak ellenére, hogy gyerekekről van szó. Nem osztom meg a videókat, mert nem megfelelőek; de a helyzet az, hogy ezeket a kommenteket nem csak hosszasan kell figyelni, de lehet, hogy egyáltalán nem kellene felkerülniük a weboldalra. Nem tettek lépéseket ezekkel a megjegyzésekkel vagy magával a videóval szemben, amelyen kiskorúak fehérneműt modelleznek.
Egy másik lány pedig közzétett egy videót az éjszakai rutinjáról, a zuhanyozás után. A lány, akinek a YouTube oldala a „Makenzie Fortnite-élménye” és aki úgy tűnik, nem több 13 évesnél, véletlenül úgy mozgatja meg a törülközőjét a videón, hogy meztelen törzsének oldala látszik a 2:47 percnél.
Nyilvánvaló, hogy ezt a videót soha nem lett volna szabad feltölteni. A benne lévő lány egyértelműen serdülőkorban van, és törölközőt visel, amivel magyarázza az éjszakai rutinját. Ezt a videót körülbelül 51 000-en nézték meg. A többi videóját nyolc és 150 között nézték meg. Szóval, miért történik ez? Tudja, miért nézték meg 51 000-en ezt a videót, és miért nem nézték meg egyetlen Fortnite-videóját vagy szórakoztató kézműves videóját sem? Megérti, hogy vannak olyanok, akik nem nézik ezt, mert nem igazán törődnek az éjszakai rutinjával, de szeretnének látni egy kislányt egy törülközőben? Talán. Talán nem. Ő egy gyerek. Valakinek jobban fel kellene figyelnie az internethasználatát, de ez is nehéz. És ott van A YouTube-nak be kell jönnie, de nem. Ez nem megfelelő tartalom még akkor is, ha nem kifejezetten szexuális a fogyasztási módja miatt. Ez nem izgató dolog, hacsak nem olyan ember vagy, aki kifejezetten felkavarónak tartja.
Noha ezeket a videókat nem reklámozták bevételszerzésre, nyilvánvalóan nem figyelték őket sem emberek, sem mesterséges intelligencia – legalábbis nem hatékonyan. Egyes videóknak egyáltalán nem kellene megjelenniük a YouTube-on, de több millióan nézték meg. Ha a megjegyzések és a tartalom moderálása olyan hatástalan, mint amilyennek látszik, a gyerekek továbbra is szexuális érdeklődés tárgyát képezik a platformon, amely továbbra is a ragadozók eszköze lesz.
Ahogy a YouTube egyre több gyerek fogyaszt videót, valamint olyan hellyé válik, ahol bemutatják alkotásaikat, a a platformnak döntést kell hoznia arról, hogy a mérséklést a valószínű tagadhatóság vagy a védelem érdekében kell-e folytatni. gyermekek. Ha a cég ez utóbbi következtetésre jut – és reméljük, hogy így lesz –, át kell gondolniuk mind a személyzetet, mind a szoftverüket. Ha ezt nem teszik meg, akkor át kell gondolniuk, milyen szerepet szeretnének betölteni az interneten.
