На выходных, YouTube активист Мэтт Уотсон попал на первую страницу Reddit с видео о тревожный явление, которое он обнаружил на платформе видеохостинга Google, второй по величине поисковой системе в мире. Watson продемонстрировал, как он может переходить по обычному и подходящему контенту YouTube на непристойные видеоролики с участием молодых девушек. Хотя многие из этих видео, в которых подростки носят бикини и изображают вампиров в своих спальнях, не были явно сексуальными, большинство пользователей комментировали, казалось бы, педофил намерение. В некоторых комментариях были отмечены временные метки конкретных моментов, когда девушки занимали компромиссное положение. В некоторых комментариях есть ссылки на частные видео, не указанные в списке. Эти ролики на YouTube монетизировались за счет рекламы таких компаний, как Grammarly и Google.
Вскоре после Видео Уотсона, который показал, как он выражает ужас перед явлением, поднялся в рейтинге Reddit, откликнулись медиа-организации и рекламодатели.
Это было что-то, но как Forbes, Mashable, Business Insider, а также Нью-Йорк Таймс Как все отмечалось, это не было решением очевидной проблемы алгоритмического, человеческого или машинного обучения.
Интересно, что во многих видео, которые просматривал Ватсон, были отключены комментарии, что говорит о том, что менеджеры контента YouTube заметили череду комментариев и пытались усложнить педофилам сайт. Но все эти усилия подтвердились осознанием нерешенности проблемы.
На самом деле ясно, что проблема возникла как минимум в 2017 году. В том же месяце, что и «ЭльсагейтСпоры разгорелись, люди начали бить тревогу из-за странных, неявно сексуальных комментариев к видео с маленькими детьми, снятым для детей. Крупные рекламодатели любят AT&T прекратил тратить на рекламу на сайте, когда BBC сообщила, что неуместные комментарии к коммерческим видео детей часто включают отметки времени для Секунды с подозрительными позициями и ссылками на частные видео - и рекламодатели не возобновляли расходы, пока проблема не была «исправлена». На 21 февраля, AT&T, которая только что снова начала размещать рекламу на платформе в январе, заявили, что прекратят тратить на рекламу на платформе. Hasbro, Nestle и Disney последовали их примеру.
Elsagate - это не то же самое, что кольцо педофилии, но проблемы связаны между собой. Контент-фермы использовали ключевые слова и автоматически размещали рекламу в зависимости от взаимодействия с каналом. и дрянную фильтрацию AI, а также создавали мультфильмы, в которых использовались нелицензионные персонажи популярных детей. франшизы. Многие из этих «Контентные фермы» - то есть компании, создавшие эти видео, - имеют штаб-квартиры в таких местах, как Хошимин, Вьетнам. Они не были образовательными или ориентированными на детей, но были распространены среди детей на YouTube в виде монетизированных видео.
YouTube изменили правила монетизации после двойных скандалов 2017 года. Сегодня создатели видео должны иметь не менее 1000 подписчиков и просматривать свои видео в течение 4000 часов. Эти правила были введены в действие только после того, как Elsagate, и теперь компания утверждает, что все видео, которые монетизируются, будут проверяться реальными людьми, а не Искусственный интеллект, чтобы ограничить показ ненадлежащей рекламы (представьте себе рекламу в Google, предварительно прокручивающую видео, в котором девочка-подросток ест леденец на палочке, у которой было более 1 миллиона Просмотры).
Вот почему так много видео с детьми отключить комментарии под видео. 10 000 рецензентов YouTube, которым поручено просматривать 400 часов видеозаписей, загружаемых на YouTube каждую минуту, также отвечают за поиск за взаимодействие с указанными видео и отключение неуместных комментариев, ссылок на видео, не включенные в список, или отметок времени детей в подозрительных позиции.
Я создал новую учетную запись YouTube после того, как обнаружил, что мои алгоритмы настолько укоренились, что найти неприемлемый контент было сложно, и выполнил поиск то же самое, что искал Уотсон - «бикини». За 12 кликов я оказался в странной кроличьей норе из видео о детских реслингах и ночных вечеринок для девочек. рутины. Я наткнулся на одно 30-минутное видео и обнаружил следующее:
В 21:25 девушка на видео отошла от камеры, и на мгновение была видна ее промежность.
Я также наткнулся на множество модельных видео молодых девушек явно моложе 18 лет. Комментаторы отметили, насколько красивы были модели и как прекрасно они выглядели в нижнем белье, несмотря на то, что это дети. Я не буду публиковать видео, потому что они неуместны; но дело в том, что за этими комментариями следует не только внимательно следить, но и вообще не должно быть на сайте. Никаких действий не было предпринято против этих комментариев или самого видео, на котором несовершеннолетние моделируют нижнее белье.
А еще одна девушка выложила видео своего ночного распорядка после душа. Девушка, чья страница на YouTube называется «Опыт Макензи в Fortnite»И которой на вид не старше 13 лет, случайно сдвинула полотенце так, как на видео, что видно на стороне ее обнаженного торса на отметке 2:47 минуты.
Очевидно, это видео никогда не должно было быть загружено. Девушка в нем явно не достигла половой зрелости и носит полотенце, что объясняет ее ночной распорядок. Это видео набрало около 51 000 просмотров. Остальные ее видео набрали от восьми до 150 просмотров. Итак, почему это происходит? Знает ли она, почему 51000 человек просмотрели это видео, и ни одно из ее видео про Fortnite или забавных видеороликов о ремеслах? Понимает ли она, что есть люди, которые не смотрят на это, потому что им наплевать на ее ночной распорядок, но они хотят видеть маленькую девочку в полотенце? Может быть. Может быть нет. Она ребенок. Кто-то должен более внимательно следить за ее использованием Интернета, но это тоже сложно. И вот где YouTube должен войти, но не сделал. Это неприемлемый контент, даже если он не носит откровенно сексуального характера из-за того, как он может быть использован. Это не возбуждает, если только вы не относитесь к тому типу людей, которые находят это особенно возбуждающим.
Хотя эти видео не были монетизированы для рекламы, они также явно не отслеживались людьми или ИИ - по крайней мере, неэффективно. Некоторых видео вообще не должно быть на YouTube, но они должны иметь миллионы просмотров. Если комментарии и модерация контента окажутся столь же неэффективными, как кажется, дети по-прежнему будут объектом сексуального интереса на платформе, которая по-прежнему будет инструментом для хищников.
Поскольку YouTube становится местом, где все больше и больше детей смотрят видео, а также местом, где они демонстрируют свои творения, те, кто отвечает за платформе необходимо принять решение о том, следует ли проводить модерацию в интересах правдоподобного отрицания ответственности или в интересах защиты дети. Если компания придет к последнему выводу - а будем надеяться, что это так - им придется пересмотреть и свой персонал, и свое программное обеспечение. Если они этого не сделают, им следует пересмотреть, какую роль они хотят играть в Интернете.
