În weekend, YouTube activistul Matt Watson a ajuns pe prima pagină a Reddit cu un videoclip despre a deranjant fenomen pe care l-a descoperit pe platforma de găzduire video a Google, al doilea cel mai mare motor de căutare din lume. Watson a demonstrat cum ar putea face clic pe conținutul normal și adecvat de pe YouTube pentru videoclipuri sugestive cu fete tinere. Deși multe dintre aceste videoclipuri, care prezintă preadolescenți purtând bikini și făcându-se în dormitoare, nu au fost în mod explicit sexuale, cea mai mare parte a fost comentată de utilizatori aparent cu pedofil intentie. Unele comentarii au prezentat marcaje de timp pentru anumite momente în care fetele tinere se aflau în poziții compromițătoare. Unele comentarii includ linkuri către videoclipuri private, nelistate. Aceste clipuri YouTube au fost monetizate prin reclame pentru companii precum Grammarly și Google însuși.
Puțin după videoclipul lui Watson, care l-a arătat că își exprimă groază față de fenomen, a urcat în clasamentul Reddit,
Acesta a fost ceva, dar ca Forbes, Mashable, Business Insider, și The New York Times Toate au subliniat că nu a fost o soluție la o problemă aparentă algoritmică, umană sau de învățare automată.
Interesant este că multe videoclipuri pe care le-a văzut Watson aveau comentarii dezactivate, ceea ce sugerează că managerii de conținut YouTube au observat șirul de comentarii și au încercat să le îngreuneze pedofililor să își opereze site-ul. Dar toate aceste eforturi confirmate a fost conștientizarea problemei nerezolvate.
De fapt, este clar că problema datează cel puțin din 2017. În aceeași lună în care „Elsagate” a explodat polemica, oamenii începuseră să tragă un semnal de alarmă despre comentarii ciudate, implicit sexuale, la videoclipurile cu copii mici, făcute pentru copii. Agenții de publicitate majori le place AT&T a încetat să cheltuiască pentru reclame de pe site, când BBC a raportat că comentariile neadecvate la videoclipurile generate de bani cu copii includeau adesea marcaje de timp pentru al doilea moment de poziții sugestive și linkuri către videoclipuri nelistate – iar agenții de publicitate nu au reluat cheltuielile până când problema a fost „remediată”. Pe 21 februarie, AT&T, care tocmai începuse să facă publicitate pe platformă din nou în ianuarie, a spus că vor înceta să cheltuiască pe reclame de pe platformă. Hasbro, Nestle și Disney au urmat cu toții exemplul.
Elsagate nu este același lucru cu un inel de pedofilie, dar problemele sunt legate. Fermele de conținut au profitat de cuvintele cheie și au plasat automat anunțuri bazate pe implicarea canalului și filtrare AI defectuoasă și a creat desene animate care foloseau personaje fără licență ale unor copii populari francize. Multe dintre acestea „ferme de conținut” — adică companiile care au creat aceste videoclipuri — au sediul în locuri precum Ho Chi Minh City, Vietnam. Nu erau educaționale sau prietenoase pentru copii, dar au proliferat pe copiii YouTube ca videoclipuri monetizate.
YouTube și-au schimbat regulile de generare de bani după dublele scandaluri din 2017. Astăzi, creatorii de videoclipuri trebuie să aibă cel puțin 1.000 de abonați și să aibă videoclipurile vizionate timp de 4.000 de ore. Aceste reglementări au fost puse în aplicare abia după Elsagate, iar acum compania susține că toate videoclipurile care sunt monetizate vor fi revizuite de ființe umane reale, nu AI, pentru a limita difuzarea de publicitate neadecvată (gândiți-vă: un anunț Google care prezintă înainte de rulare un videoclip cu o preadolescentă care mănâncă o acadea care a avut peste 1 milion vederi).
De aceea atât de mulți videoclipuri cu copii au comentariile dezactivate sub videoclipuri. Cei 10.000 de recenzenți umani de la YouTube, însărcinați să examineze cele 400 de ore de filmări încărcate pe YouTube în fiecare minut, sunt, de asemenea, responsabili de căutarea asupra interacțiunii cu videoclipurile menționate și dezactivarea comentariilor neadecvate, a linkurilor către videoclipuri nelistate sau a marcajelor de timp ale copiilor în sugestii pozitii.
Mi-am creat un nou cont YouTube după ce am constatat că algoritmii mei erau atât de înrădăcinați încât a fost dificil să găsesc conținut neadecvat și am căutat Același lucru pe care l-a căutat Watson - „trasă în bikini”. În 12 clicuri, am fost într-o groapă ciudată de videoclipuri de lupte cu copii și noaptea fetelor rutine. Am dat peste un videoclip de peste 30 de minute și am găsit asta:
La 21:25, fata din videoclip s-a îndepărtat de cameră și, doar pentru un fulger de secundă, i-a fost la vedere între picioarele.
De asemenea, am dat peste o grămadă de videoclipuri cu modele cu fete tinere sub 18 ani. Comentatorii au remarcat cât de frumoase erau modelele și cât de grozave arătau în lenjeria lor, în ciuda faptului că aceștia sunt copii. Nu voi distribui videoclipurile pentru că sunt nepotrivite; dar adevărul este că nu numai că aceste comentarii ar trebui monitorizate îndelung, ci poate că nu ar trebui să fie deloc pe site. Nu s-a luat nicio măsură împotriva acestor comentarii sau a videoclipului în sine cu minori care modelează lenjerie intimă.
Și o altă fată a postat un videoclip cu rutina ei de noapte, după duș. Fata, a cărei pagină YouTube se numește „Experiența Fortnite a lui Makenzie” și care pare să nu aibă mai mult de 13 ani, își mișcă accidental prosopul într-un fel în videoclipul pe care îl arată partea laterală a trunchiului ei gol la momentul 2:47.
Evident, acest videoclip nu ar fi trebuit să fie încărcat niciodată. Fata din ea este în mod clar pre-pubescentă și poartă un prosop, explicând rutina ei de noapte. Acest videoclip are aproximativ 51.000 de vizualizări. Restul videoclipurilor ei au între opt și 150 de vizualizări. Deci, de ce se întâmplă asta? Știe ea de ce 51.000 de persoane au vizionat acest videoclip și niciunul dintre videoclipurile ei Fortnite sau videoclipurile distractive de artizanat? Înțelege ea că există oameni care nu se uită la asta pentru că nu le pasă de rutina ei de noapte, dar vor să vadă o fetiță cu prosop? Poate. Poate nu. Ea este un copil. Cineva ar trebui să-i monitorizeze mai îndeaproape utilizarea internetului, dar și asta este greu. Și acolo YouTube ar trebui să intre, dar nu are. Acesta este conținut inadecvat, chiar dacă nu este în mod deschis sexual din cauza modului în care este probabil să fie consumat. Acestea nu sunt lucruri emoționante decât dacă ești genul de persoană care le consideră în mod special emoționante.
Deși aceste videoclipuri nu au fost monetizate pentru reclame, ele nu au fost în mod clar monitorizate de ființe umane sau AI - cel puțin nu în mod eficient. Unele dintre videoclipuri nu ar trebui să fie deloc pe YouTube, dar să aibă milioane de vizionări. Dacă comentariile și moderarea conținutului sunt atât de ineficiente pe cât pare, copiii vor continua să fie subiectul interesului sexual pe platformă, care va continua să fie un instrument pentru prădători.
Pe măsură ce YouTube devine un loc în care din ce în ce mai mulți copii consumă videoclipuri, precum și un loc în care își prezintă creațiile, cei responsabili de platforma trebuie să ia o decizie dacă moderarea ar trebui urmărită în interesul unei negări plauzibile sau în interesul protejării copii. Dacă compania ajunge la ultima concluzie – și să sperăm că o va face – va trebui să-și reconsidere atât personalul, cât și software-ul. Dacă nu fac asta, ar trebui să-și reconsidere rolul pe care doresc să joace pe internet.
