Przez weekend, Youtube aktywista Matt Watson trafił na pierwszą stronę Reddit z filmem o niepokojący zjawisko, które odkrył na platformie hostingu wideo Google, drugiej co do wielkości wyszukiwarce na świecie. Watson zademonstrował, jak może klikać normalne, odpowiednie treści na YouTube w kierunku sugestywnych filmów z młodymi dziewczynami. Chociaż wiele z tych filmów, na których nastolatkowie noszą bikini i włóczą się w swoich sypialniach, nie były jednoznacznie seksualne, większość była komentowana przez użytkowników z pozornie pedofilski zamiar. Niektóre komentarze zawierały znaczniki czasu dla konkretnych momentów, w których młode dziewczyny znajdowały się w kompromitujących pozycjach. Niektóre komentarze zawierają linki do prywatnych, niepublicznych filmów. Na tych klipach YouTube zarabiano dzięki reklamom firm takich jak Grammarly i samo Google.
Wkrótce po Wideo Watsona, co pokazało, że wyrażał przerażenie tym zjawiskiem, wspiął się w rankingach Reddit, odpowiedziały organizacje medialne i reklamodawcy.
To było coś, ale jak Forbes, Mashable, Business Insider, oraz New York Times Wszyscy wskazywali, że nie było to rozwiązanie oczywistego problemu algorytmicznego, ludzkiego lub uczenia maszynowego.
Co ciekawe, wiele filmów oglądanych przez Watsona miało wyłączone komentarze, co sugeruje, że menedżerowie treści YouTube zauważyłem ciąg komentarzy i próbowałem utrudnić pedofilom operowanie ich Strona. Ale wszystkie te wysiłki, które potwierdziły, były świadomością nierozwiązanego problemu.
W rzeczywistości jasne jest, że problem sięga co najmniej 2017 roku. W tym samym miesiącu, w którym „Elsagate” kontrowersje eksplodowały, ludzie zaczęli alarmować o dziwnych, niejawnie seksualnych komentarzach do filmów z małymi dziećmi, przeznaczonych dla dzieci. Główni reklamodawcy lubią AT&T przestał wydawać na reklamy w witrynie, gdy BBC poinformowało, że nieodpowiednie komentarze pod filmami, na których zarabiają dzieci, często zawierały znaczniki czasu dla sekundowe chwile sugestywnych pozycji i linków do niepublicznych filmów – a reklamodawcy nie wznowili wydatków, dopóki problem nie zostanie „rozwiązany”. Na 21 lutego AT&T, który właśnie zaczął ponownie reklamować się na platformie w styczniu, powiedział, że przestanie wydawać na reklamy na platformie. Hasbro, Nestle i Disney poszli w ich ślady.
Elsagate to nie to samo, co pierścień pedofilii, ale problemy są ze sobą powiązane. Farmy treści wykorzystywały słowa kluczowe i automatycznie umieszczały reklamy na podstawie zaangażowania kanału i tandetne filtrowanie AI oraz stworzył kreskówki, które wykorzystywały nielicencjonowane postacie popularnych dzieci franczyzy. Wiele z nich „farmy treści” — to znaczy firmy, które stworzyły te filmy — mają siedziby w miejscach takich jak Ho Chi Minh City, Wietnam. Nie miały charakteru edukacyjnego ani przyjaznego dzieciom, ale były rozpowszechniane w YouTube dla dzieci jako filmy, na których można było zarabiać.
Youtube zmienili swoje wytyczne dotyczące zarabiania po podwójnych skandalach z 2017 roku. Obecnie twórcy filmów muszą mieć co najmniej 1000 subskrybentów i oglądać ich filmy przez 4000 godzin. Przepisy te zostały wprowadzone dopiero po Elsagate, a teraz firma twierdzi, że wszystkie filmy, na których zarabiają, będą sprawdzane przez rzeczywistych ludzi, a nie AI, aby ograniczyć wyświetlanie nieodpowiednich reklam (pomyśl: reklama Google przed filmem dziewczyny z nastolatką jedzącą lizaka, który miał ponad milion wyświetlenia).
Dlatego tak wielu filmy z dziećmi mieć wyłączone komentarze pod filmami. 10 000 ludzkich recenzentów YouTube, których zadaniem jest przejrzenie 400 godzin materiału filmowego przesyłanego do YouTube co minutę, jest również odpowiedzialne za sprawdzanie nad zaangażowaniem w te filmy i wyłączaniem nieodpowiednich komentarzy, linków do niepublicznych filmów lub znaczników czasu dzieci w sugestywnych stanowiska.
Utworzyłem nowe konto YouTube po stwierdzeniu, że moje algorytmy są tak zakorzenione, że znalezienie nieodpowiednich treści było trudne, i przeszukałem to samo, czego szukał Watson – „zaciąg bikini”. W ciągu 12 kliknięć znalazłem się w dziwnej króliczej norce filmów o zapasach dla dzieci i nocnych nocnych dziewcząt rutyny. Natknąłem się na jeden ponad 30-minutowy film i znalazłem to:
O 21:25 dziewczyna na filmie odsunęła się od kamery i na ułamek sekundy jej krocze było widoczne.
Natknąłem się również na mnóstwo filmów z modelowaniem młodych dziewcząt wyraźnie poniżej 18 roku życia. Komentatorzy zauważyli, jak piękne były modelki i jak wspaniale wyglądały w swojej bieliźnie, mimo że są to dzieci. Nie udostępnię filmów, ponieważ są nieodpowiednie; ale faktem jest, że nie tylko te komentarze powinny być dokładnie monitorowane, ale może w ogóle nie powinny znajdować się na stronie. Nie podjęto żadnych działań przeciwko tym komentarzom ani samemu filmowi przedstawiające nieletnich modelujących bieliznę.
A inna dziewczyna opublikowała wideo ze swojej nocnej rutyny po prysznicu. Dziewczyna, której strona YouTube nazywa się „Doświadczenie Makenzie w Fortnite” i która wydaje się mieć nie więcej niż 13 lat, przypadkowo przesuwa ręcznik w taki sposób, w jaki widać bok jej nagiego torsu w minucie 2:47.
Oczywiście ten film nigdy nie powinien zostać przesłany. Dziewczyna w nim jest wyraźnie przed okresem dojrzewania i ma na sobie ręcznik, co wyjaśnia jej wieczorną rutynę. Ten film ma około 51 000 wyświetleń. Pozostałe jej filmy mają od ośmiu do 150 wyświetleń. Dlaczego tak się dzieje? Czy wie, dlaczego 51 000 osób obejrzało ten film, a żaden z jej filmów o Fortnite lub zabawnych filmów o rzemiośle? Czy rozumie, że są ludzie, którzy nie patrzą na to, ponieważ nie dbają o jej wieczorną rutynę, ale chcą zobaczyć małą dziewczynkę w ręczniku? Być może. Może nie. Jest dzieckiem. Ktoś powinien dokładniej monitorować jej korzystanie z Internetu, ale to też jest trudne. I właśnie tam YouTube powinien wejść, ale nie. Jest to nieodpowiednia treść, nawet jeśli nie jest jawnie seksualna ze względu na sposób, w jaki może być konsumowana. To nie są podniecające rzeczy, chyba że jesteś osobą, która szczególnie uważa to za podniecające.
Chociaż na tych filmach nie zarabiano na reklamach, wyraźnie nie były one również monitorowane przez ludzi ani sztuczną inteligencję – przynajmniej nie skutecznie. Niektóre filmy w ogóle nie powinny być w YouTube, ale mają miliony wyświetleń. Jeśli moderowanie komentarzy i treści będzie tak nieskuteczne, jak się wydaje, dzieci będą nadal przedmiotem zainteresowania seksualnego na platformie, która nadal będzie narzędziem dla drapieżników.
Ponieważ YouTube staje się miejscem, w którym coraz więcej dzieci ogląda filmy, a także miejscem, w którym prezentują swoje dzieła, osoby odpowiedzialne za platforma musi podjąć decyzję, czy należy prowadzić umiar w interesie prawdopodobnego zaprzeczenia, czy w interesie ochrony dzieci. Jeśli firma dojdzie do tego drugiego wniosku — i miejmy nadzieję, że tak — będzie musiała ponownie rozważyć zarówno swój personel, jak i oprogramowanie. Jeśli tego nie zrobią, powinni ponownie rozważyć, jaką rolę chcą odgrywać w Internecie.
