Nedēļas nogalē, YouTube aktīvists Mets Vatsons Reddit pirmajā lapā nokļuva ar video par a satraucoši parādība, ko viņš atklāja Google video mitināšanas platformā, pasaulē otrajā lielākajā meklētājprogrammā. Vatsons demonstrēja, kā viņš var noklikšķināt uz parastā, atbilstošā YouTube satura, lai iegūtu divdomīgus jaunu meiteņu videoklipus. Lai gan daudzi no šiem videoklipiem, kuros redzami pusaudži, kuri valkā bikini un staigā savās guļamistabās, nebija nepārprotami seksuāli, lielāko daļu lietotāji komentēja ar šķietami pedofilisks nolūks. Dažos komentāros bija norādīti laika zīmogi konkrētiem brīžiem, kad jaunās meitenes atradās kompromitējošās pozīcijās. Dažos komentāros ir saites uz privātiem, nerindotiem videoklipiem. Šie YouTube klipi tika monetizēti, izmantojot reklāmas tādiem uzņēmumiem kā Grammarly un pats Google.
Neilgi pēc tam, kad Vatsona video, kas viņam parādīja šausmas par šo parādību, pakāpās Reddit reitingā, atbildēja mediju organizācijas un reklāmdevēji. The Verge ziņoja, ka
Šis bija kaut kas, bet kā Forbes, Mashable, Business Insider, un The New York Times Visi norādīja, ka tas nebija risinājums šķietamai algoritmiskai, cilvēku vai mašīnmācīšanās problēmai.
Interesanti, ka daudzos videoklipos, kurus skatījās Vatsons, bija atspējoti komentāri, kas liecina, ka YouTube satura pārvaldnieki ir pamanījuši komentāru virkni un ir mēģinājuši apgrūtināt pedofilu operāciju vietne. Taču visi šie centieni apstiprināja neatrisinātās problēmas apzināšanos.
Faktiski ir skaidrs, ka problēma ir radusies vismaz 2017. gadā. Tajā pašā mēnesī, kad “Elsagate” izcēlās strīds, cilvēki bija sākuši zvanīt trauksmi par dīvainiem, netieši seksuāliem komentāriem bērniem paredzētos videoklipos, kuros redzami mazi bērni. Lielajiem reklāmdevējiem patīk AT&T pārtrauca tērēt par reklāmām vietnē, kad BBC ziņoja, ka nepiemērotos komentāros par monetizētiem bērnu videoklipiem bieži ir ietverti laika zīmogi sekundāri mirkļi, kuros bija ieteiksmīgas pozīcijas un saites uz nerindotiem videoklipiem, un reklāmdevēji neatsāka tērēt, kamēr problēma nebija “novērsta”. Ieslēgts 21. februāris, AT&T, kas tikko janvārī atkal sāka reklamēties platformā, paziņoja, ka pārtrauks tērēt reklāmām platformā. Hasbro, Nestle un Disney ir sekojuši šim piemēram.
Elsagate nav tas pats, kas pedofīlijas gredzens, taču problēmas ir saistītas. Satura saimniecības izmantoja atslēgvārdu priekšrocības un automātiski ievietoja reklāmas, pamatojoties uz kanāla iesaisti un nekvalitatīva AI filtrēšana, kā arī radīja multfilmas, kurās tika izmantoti nelicencēti populāru bērnu varoņi franšīzes. Daudzi no šiem “satura saimniecības” — proti, uzņēmumu, kas izveidoja šos videoklipus, galvenā mītne atrodas tādās vietās kā Hošimina, Vjetnama. Tie nebija izglītojoši vai bērniem draudzīgi, bet tika izplatīti vietnē YouTube bērniem kā monetizēti videoklipi.
YouTube mainīja monetizācijas vadlīnijas pēc duālajiem 2017. gada skandāliem. Mūsdienās videoklipu veidotājiem ir jābūt vismaz 1000 abonentiem, un viņu videoklipi ir skatīti 4000 stundu. Šie noteikumi tika ieviesti tikai pēc Elsagate, un tagad uzņēmums apgalvo, ka visus videoklipus, kas tiek monetizēti, pārskatīs faktiski cilvēki, nevis AI, lai ierobežotu nepiemērotu reklāmu rādīšanu (padomājiet: Google reklāma, kurā tiek rādīts video, kurā meitene ēd konfekti, kurā ir bijis vairāk nekā 1 miljons skatījumi).
Tāpēc tik daudz bērnu video zem videoklipiem ir atspējoti komentāri. YouTube 10 000 cilvēku recenzenti, kuru uzdevums ir pārskatīt 400 stundu video, kas katru minūti tiek augšupielādēts pakalpojumā YouTube, ir arī atbildīgi par meklēšanu. pār saikni ar minētajiem videoklipiem un nepiemērotu komentāru, saišu uz nerindotiem videoklipiem vai bērnu laika zīmogu atspējošanu divdomīgā veidā pozīcijas.
Es izveidoju jaunu YouTube kontu pēc tam, kad konstatēju, ka mani algoritmi ir tik iesakņojušies, ka bija grūti atrast nepiemērotu saturu, un meklēju tas pats, ko Vatsons meklēja — “bikini vilkšana”. 12 klikšķu laikā es nokļuvu dīvainā trušu bedrē, kurā redzami bērnu cīkstēšanās video un meiteņu nakts rutīnas. Es nejauši uzgāju vienu 30 minūšu garu video un atradu šo:
21:25 video redzamā meitene attālinājās no kameras un tikai uz sekundes mirkli bija redzama viņas kājstarpe.
Es arī sastapu daudzus modelēšanas videoklipus ar jaunām meitenēm, kas nepārprotami jaunākas par 18 gadiem. Komentētāji atzīmēja, cik skaistas bija modeles un cik lieliski viņas izskatījās savā apakšveļā, neskatoties uz to, ka tie ir bērni. Es nepublicēšu videoklipus, jo tie ir nepiemēroti; bet lieta ir tāda, ka šie komentāri ir ne tikai ilgi jāuzrauga, bet tiem, iespējams, vispār nevajadzētu būt vietnē. Pret šiem komentāriem vai pašu video, kurā nepilngadīgie modelē apakšveļu, nekādas darbības nav veiktas.
Un cita meitene ievietoja video par savu nakts rutīnu pēc dušas. Meitene, kuras YouTube lapa saucas “Makenzijas Fortnite pieredze” un kura, šķiet, nav jaunāka par 13 gadiem, nejauši pakustina savu dvieli video tādā veidā, ka 2:47 minūtes atzīmei ir redzama viņas kailā rumpja puse.
Acīmredzot šo videoklipu nekad nevajadzēja augšupielādēt. Meitene tajā nepārprotami ir pirms pubertātes un ir uzvilkusi dvieli, izskaidrojot savu nakts rutīnu. Šim videoklipam ir aptuveni 51 000 skatījumu. Pārējiem viņas videoklipiem ir no astoņiem līdz 150 skatījumiem. Tātad, kāpēc tas notiek? Vai viņa zina, kāpēc 51 000 cilvēku ir skatījušies šo videoklipu un nevienu no viņas Fortnite videoklipiem vai jautriem amatniecības videoklipiem? Vai viņa saprot, ka ir cilvēki, kuri uz to neskatās, jo viņiem nerūp viņas nakts rutīna, bet vēlas redzēt mazu meiteni dvielī? Var būt. Varbūt ne. Viņa ir bērns. Kādam vajadzētu rūpīgāk uzraudzīt viņas interneta lietošanu, taču arī tas ir grūti. Un tieši tur YouTube vajadzētu ienākt, bet nav. Šis ir nepiemērots saturs, pat ja tas nav atklāti seksuāls tā lietošanas veida dēļ. Šīs nav kaitinošas lietas, ja vien jūs neesat tāds cilvēks, kam tas īpaši šķiet kaitinoši.
Lai gan šie videoklipi netika monetizēti reklāmām, arī cilvēki vai mākslīgais intelekts tos nepārraudzīja — vismaz ne efektīvi. Dažiem videoklipiem vispār nevajadzētu būt pakalpojumā YouTube, bet tiem ir miljoniem skatījumu. Ja komentāru un satura regulēšana ir tik neefektīva, kā šķiet, bērni joprojām būs seksuālas intereses objekts platformā, kas joprojām būs rīks plēsējiem.
Tā kā YouTube kļūst par vietu, kur arvien vairāk bērnu izmanto video, kā arī par vietu, kur viņi demonstrē savus darbus, tie, kas atbild par platformai ir jāpieņem lēmums par to, vai mērenība ir jāīsteno ticamas noliegšanas vai aizsardzības interesēs bērniem. Ja uzņēmums nonāks pie pēdējā secinājuma — un cerēsim, ka tā arī notiks —, viņiem būs jāpārskata gan personāls, gan programmatūra. Ja viņi to nedara, viņiem ir jāpārdomā, kādu lomu viņi vēlas spēlēt internetā.
