Nädalavahetusel, Youtube aktivist Matt Watson tabas Redditi esilehel videoga a häiriv nähtus, mille ta avastas Google'i videomajutusplatvormil, mis on maailma suuruselt teine otsingumootor. Watson demonstreeris, kuidas ta saab klõpsata tavalisel ja sobival YouTube'i sisul, et vaadata noorte tüdrukute videoid. Kuigi paljud neist videotest, mis kujutavad bikiine kandvaid ja oma magamistoas vamplevaid eelteismelisi, ei olnud otseselt seksuaalsed, olid kasutajad kommenteerinud enamikku neist näiliselt. pedofiilne kavatsus. Mõned kommentaarid sisaldasid ajatempleid konkreetsete hetkede kohta, mil noored tüdrukud olid kompromissis. Mõned kommentaarid sisaldavad linke privaatsetele, registrivälistele videotele. Need YouTube'i klipid teeniti rahaks selliste ettevõtete reklaamide kaudu nagu Grammarly ja Google ise.
Varsti pärast Watsoni video, mis näitas, et ta väljendas selle nähtuse pärast õudust, tõusis Redditi edetabelis, vastasid meediaorganisatsioonid ja reklaamiandjad. The Verge teatas sellest
See oli midagi, aga nagu Forbes, Mashable, Business Insiderja New York Times Kõik märkisid, et see ei olnud lahendus näilisele algoritmi-, inim- või masinõppeprobleemile.
Huvitav on see, et paljudel videotel, mida Watson vaatas, olid kommentaarid keelatud, mis viitab sellele, et YouTube'i sisuhaldurid on märganud rida kommentaare ja püüdnud muuta pedofiilidel nende opereerimist raskemaks saidile. Kuid kõik need jõupingutused kinnitasid, et oli teadlik lahendamata probleemist.
Tegelikult on selge, et probleem pärineb vähemalt 2017. aastast. Samal kuul, kui "Elsagatevaidlused plahvatusid, inimesed olid hakanud helistama veidrate, kaudselt seksuaalsete kommentaaride pärast lastele loodud videote kohta väikestest lastest. Suurematele reklaamijatele meeldib AT&T lõpetas saidil reklaamidele kulutamise, kui BBC teatas, et laste monetiseeritud videote sobimatud kommentaarid sisaldasid sageli ajatempleid sekundit pikad hetked sugestiivsetest positsioonidest ja linkidest registriväliste videote juurde – ja reklaamijad ei jätkanud kulutamist enne, kui probleem oli lahendatud. Peal 21. veebruar AT&T, mis oli just jaanuaris platvormil uuesti reklaamima hakanud, teatas, et lõpetab platvormil reklaamidele kulutamise. Hasbro, Nestle ja Disney on kõik järginud eeskuju.
Elsagate ei ole sama mis pedofiiliarõngas, kuid probleemid on omavahel seotud. Sisufarmid kasutasid ära märksõnu ja paigutasid reklaame automaatselt kanali seotuse alusel ja kehva AI-filtreerimisega ning loonud koomikseid, milles kasutati populaarsete laste litsentseerimata tegelasi frantsiisid. Paljud neist "sisufarmid" — see tähendab, et need videod loonud ettevõtted asuvad sellistes kohtades nagu Ho Chi Minh City, Vietnam. Need ei olnud harivad ega lastesõbralikud, vaid levisid YouTube'i lastele rahaks muudetud videotena.
Youtube muutis oma monetiseerimisjuhiseid pärast 2017. aasta kahekordseid skandaale. Tänapäeval peab videoloojatel olema vähemalt 1000 tellijat ja nende videoid on vaadatud 4000 tundi. Need eeskirjad kehtestati alles pärast Elsagate'i ja nüüd väidab ettevõte, et kõik monetiseeritavad videod vaatavad üle tegelikud inimesed, mitte AI, et ohjeldada sobimatute reklaamide esitamist (mõelge: Google'i reklaam, mis eelrullib videot tüdrukust, kes sööb pulgakommi, mida on söönud üle 1 miljoni vaated).
Sellepärast nii palju videod lastest on videote all kommentaarid keelatud. YouTube'i 10 000 inimülevaatajat, kelle ülesandeks on vaadata üle 400 tundi YouTube'i iga minut üles laaditud materjali, vastutavad ka otsimise eest. kõnealuste videotega seotuse üle ja laste ebasobivate kommentaaride, registriväliste videote linkide või ajatemplite keelamise positsioonid.
Tegin uue YouTube'i konto pärast seda, kui leidsin, et mu algoritmid olid nii juurdunud, et sobimatu sisu leidmine oli keeruline, ja otsisin sama, mida Watson otsis – "bikiini vedu". 12 klõpsuga sattusin veidrasse jäneseauku, kus olid lastemaadlusvideod ja tüdrukute õhtud rutiinid. Sattusin juhuslikult ühe 30-minutilise video peale ja leidsin selle:
Kell 21:25 eemaldus videol olnud neiu kaamerast ja hetkeks oli näha tema jalgevahe.
Samuti leidsin hulgaliselt modellivideoid noortest tüdrukutest, kes olid selgelt alla 18-aastased. Kommenteerijad märkisid, kui ilusad modellid olid ja kui vahvad nad oma aluspesus välja nägid, hoolimata sellest, et tegu on lastega. Ma ei jaga videoid, kuna need on sobimatud; aga asi on selles, et mitte ainult ei peaks neid kommentaare pikalt jälgima, vaid võib-olla ei tohiks neid üldse kodulehel ollagi. Nende kommentaaride ega alaealiste aluspesu modelleeriva video enda vastu ei ole võetud meetmeid.
Ja veel üks tüdruk postitas video oma öisest rutiinist pärast dušši. Tüdruk, kelle YouTube'i leht kannab nimeMakenzie Fortnite'i kogemus” ja kes näib olevat alla 13-aastane, liigutab kogemata oma rätikut videos viisil, mis näitab tema alasti torso külge 2:47 minuti tähisel.
Ilmselgelt poleks seda videot kunagi tohtinud üles laadida. Selles olev tüdruk on selgelt pubekas ja kannab rätikut, selgitades oma öist rutiini. Sellel videol on umbes 51 000 vaatamist. Ülejäänud tema videoid on vaadatud kaheksa kuni 150. Miks see nii juhtub? Kas ta teab, miks on seda videot vaadanud 51 000 inimest ja mitte ühtegi tema Fortnite'i videot ega lõbusat käsitöövideot? Kas ta mõistab, et seal on inimesi, kes ei vaata seda, sest nad ei hooli tema öisest rutiinist, vaid tahavad näha väikest tüdrukut rätikus? Võib olla. Võibolla mitte. Ta on laps. Keegi peaks tema Interneti-kasutust tähelepanelikumalt jälgima, kuid see on samuti raske. Ja see on koht YouTube peaks sisse tulema, aga pole teinud. See on sobimatu sisu, isegi kui see ei ole ilmselgelt seksuaalne selle tõenäolise tarbimisviisi tõttu. See ei ole ängistav värk, välja arvatud juhul, kui olete seda tüüpi inimene, kes peab seda ärritavaks.
Kuigi neid videoid reklaamide jaoks rahaks ei muudetud, ei jälginud neid ilmselgelt ka inimesed ega tehisintellekt – vähemalt mitte tõhusalt. Mõned videod ei tohiks üldse YouTube'is olla, kuid neil peaks olema miljoneid vaatamisi. Kui kommentaarid ja sisu modereerimine on nii ebaefektiivsed, kui pealtnäha paistab, on lapsed jätkuvalt seksuaalse huvi objektiks platvormil, mis on ka edaspidi röövloomade tööriist.
Kuna YouTube'ist saab koht, kus üha enam lapsi tarbib videoid ja kus nad oma loomingut esitlevad, vastutavad platvorm peab tegema otsuse selle kohta, kas mõõdukust tuleks järgida usutava eitatavuse või kaitse huvides. lapsed. Kui ettevõte jõuab viimasele järeldusele – ja loodame, et see nii läheb –, peavad nad nii oma personali kui ka tarkvara uuesti läbi vaatama. Kui nad seda ei tee, peaksid nad uuesti läbi mõtlema, millist rolli nad Internetis mängida tahavad.
