През уикенда, YouTube активистът Мат Уотсън попадна на първа страница на Reddit с видеоклип за a смущаващо феномен, който той открива на платформата за видео хостинг на Google, втората по големина търсачка в света. Уотсън демонстрира как може да щракне през нормалното, подходящо съдържание в YouTube към внушаващи видеоклипове на млади момичета. Въпреки че много от тези видеоклипове, които представят пред тийнейджъри, носещи бикини и вампири в спалните си, не бяха изрично сексуални, по-голямата част беше коментирана от потребителите с привидно педофилски намерение. Някои коментари съдържаха времеви марки за конкретни моменти, когато младите момичета бяха в компрометиращи позиции. Някои коментари съдържат връзки към частни, скрити видеоклипове. Тези клипове в YouTube бяха осигурени чрез реклами за компании като Grammarly и самия Google.
Малко след Видео на Уотсън, което показва, че той изразява ужас от явлението, се изкачи в класацията на Reddit, отговориха медийни организации и рекламодатели.
Това беше нещо, но като Forbes, Mashable, Business Insider, и Ню Йорк Таймс както се посочи, това не беше решение на привиден алгоритмичен, човешки или машинно обучение проблем.
Интересното е, че много видеоклипове, които Уотсън е гледал, имат забранени коментари, което предполага, че мениджърите на съдържание в YouTube са забелязали поредица от коментари и са се опитвали да затруднят педофилите да оперират с тях сайт. Но всички тези потвърдени усилия бяха осъзнаване на нерешения проблем.
Всъщност е ясно, че проблемът датира поне от 2017 г. През същия месец, когато „Елсагейт” избухна полемика, хората започнаха да алармират за странни, имплицитно сексуални коментари към видеоклипове на малки деца, направени за деца. Големите рекламодатели харесват AT&T спря да харчи за реклами на сайта, когато Би Би Си съобщи, че неподходящите коментари за монетизирани видеоклипове на деца често включват времеви печати за моменти с внушителни позиции и връзки към скрити видеоклипове – и рекламодателите не възобновиха разходите си, докато проблемът не беше „отстранен“. На 21 февруари, AT&T, които току-що започнаха да рекламират отново в платформата през януари, заявиха, че ще спрат да харчат за реклами в платформата. Hasbro, Nestle и Disney последваха примера.
Elsagate не е същото като група за педофилия, но проблемите са свързани. Ферми за съдържание се възползваха от ключовите думи и автоматично поставяха реклами въз основа на ангажираността на канала и калпаво AI филтриране и създава анимационни филми, които използват нелицензирани герои на популярни деца франчайзи. Много от тези „ферми за съдържание“ — тоест компаниите, създали тези видеоклипове — са със седалище на места като Хо Ши Мин, Виетнам. Те не бяха образователни или подходящи за деца, но се разпространиха в YouTube за деца като видеоклипове с възможност за приходи.
YouTube промениха своите насоки за монетизация след двойните скандали през 2017 г. Днес създателите на видеоклипове трябва да имат поне 1000 абонати и видеоклиповете им да са гледани в продължение на 4000 часа. Тези разпоредби бяха въведени едва след Elsagate и сега компанията твърди, че всички видеоклипове, които се монетизират, ще бъдат преглеждани от реални човешки същества, а не AI, с цел да се ограничи показването на неподходяща реклама (помислете: реклама в Google, която предварително пуска видеоклип на момиче-тийнейджър, което яде близалка, която има над 1 милион изгледи).
Ето защо толкова много видеоклипове на деца имат деактивирани коментари под видеоклиповете. 10 000 човешки рецензенти на YouTube, натоварени със задачата да преглеждат 400 часа кадри, качени в YouTube всяка минута, също отговарят за търсенето над ангажираността със споменатите видеоклипове и деактивирането на неподходящи коментари, връзки към скрити видеоклипове или времеви печати на децата в подсказващи позиции.
Направих нов акаунт в YouTube, след като установих, че алгоритмите ми са толкова вкоренени, че намирането на неподходящо съдържание беше трудно, и потърсих същото нещо, което Уотсън е търсил — „теглене на бикини“. В рамките на 12 щраквания бях в странна заешка дупка от видеоклипове за борба с деца и нощни момичета съчетания. Попаднах на едно 30+ минутно видео и открих това:
В 21:25 момичето от видеото се отдалечи от камерата и само за миг от секунда се виждаше чатала й.
Също така попаднах на множество видеоклипове за моделиране на млади момичета, явно под 18 години. Коментаторите отбелязаха колко красиви са моделите и колко страхотно изглеждат по бельото си, въпреки факта, че това са деца. Няма да споделям видеоклиповете, защото са неподходящи; но фактът е, че не само тези коментари трябва да се следят надълго и нашироко, но може би изобщо не трябва да са на уебсайта. Не са предприети никакви действия срещу тези коментари или самото видео на непълнолетни, които моделират бельо.
А друго момиче публикува видео от своята нощна рутина, след душ. Момичето, чиято страница в YouTube се казва „Опитът на Макензи във Fortnite” и която изглежда не повече от 13 години, случайно мести кърпата си по начин във видеото, което се вижда отстрани на голото й торс на 2:47 минута.
Очевидно това видео никога не е трябвало да бъде качено. Момичето в него явно е преди пубертета и носи кърпа, което обяснява нейната нощна рутина. Този видеоклип има около 51 000 гледания. Останалите нейни видеоклипове имат между осем и 150 гледания. И така, защо се случва това? Тя знае ли защо 51 000 души са гледали това видео и нито един от нейните видеоклипове във Fortnite или забавни видеоклипове за занаяти? Разбира ли тя, че има хора, които не гледат на това, защото всъщност не ги е грижа за нейната нощна рутина, но искат да видят малко момиченце с кърпа? Може би. Може би не. тя е дете. Някой трябва да следи по-внимателно нейното използване на интернет, но и това е трудно. И ето къде YouTube трябва да влезе, но не е. Това е неподходящо съдържание, дори ако не е открито сексуално поради начина, по който е вероятно да бъде консумирано. Това не е вълнуващо, освен ако не сте от хората, които конкретно го намират за вълнуващо.
Въпреки че тези видеоклипове не са били осигурявани за приходи за реклами, те също очевидно не са били наблюдавани от човешки същества или AI - поне не ефективно. Някои от видеоклиповете изобщо не трябва да са в YouTube, но да имат милиони гледания. Ако коментарите и модерирането на съдържанието са толкова неефективни, колкото изглежда, децата ще продължат да бъдат обект на сексуален интерес в платформата, която ще продължи да бъде инструмент за хищници.
Тъй като YouTube се превръща в място, където все повече деца консумират видео, както и място, където те показват своите творения, отговорните за платформата трябва да вземе решение дали модерирането трябва да се извършва в интерес на правдоподобно отричане или в интерес на защитата деца. Ако компанията стигне до последното заключение – и да се надяваме, че ще го направи – ще трябва да преразгледат както персонала, така и софтуера си. Ако не направят това, те трябва да преосмислят каква роля искат да играят в интернет.
