В минулі вихідні, YouTube активіст Метт Вотсон потрапив на першу сторінку Reddit з відео про a тривожний феномен, який він виявив на платформі відеохостингу Google, другій за величиною пошуковій системі в світі. Ватсон продемонстрував, як він може клацати звичайний відповідний вміст YouTube до непристойних відео молодих дівчат. Хоча багато з цих відео, на яких підлітки носять бікіні та вампірують у спальнях, не були явно сексуальними, більшість прокоментували користувачі з, здавалося б, педофільний наміри. Деякі коментарі містили позначки часу для конкретних моментів, коли молоді дівчата були в компромісних позиціях. Деякі коментарі містять посилання на приватні відео, які не є доступними для всіх. Ці ролики YouTube монетизувалися за допомогою реклами таких компаній, як Grammarly і сам Google.
Незабаром після Відео Ватсона, що показало, що він висловив жах перед цим явищем, піднявся в рейтингу Reddit, відповіли медіа-організації та рекламодавці. Грань повідомив про це Епічні ігри, компанія за спиною
Це було щось, але як Forbes, Mashable, Business Insider, і Нью-Йорк Таймс Як зазначалося, це не було вирішенням очевидної алгоритмічної, людської чи машинної проблеми.
Цікаво, що багато відео, які переглядав Уотсон, мали відключені коментарі, що говорить про те, що контент-менеджери YouTube помітили низку коментарів і намагалися ускладнити операцію педофілів сайт. Але всі ці зусилля підтвердили усвідомлення невирішеності проблеми.
Насправді зрозуміло, що проблема сягає принаймні 2017 року. У тому ж місяці, коли «Ельсагейт” вибухнула суперечка, люди почали бити на сполох про дивні, неявно сексуальні коментарі до відео маленьких дітей, зроблених для дітей. Основним рекламодавцям подобається AT&T припинив витрачати кошти на рекламу на сайті, коли BBC повідомила, що недоречні коментарі до монетизованих відео дітей часто містили позначки часу для секунди тривалих моментів непристойних позицій і посилань на відео, які не є для всіх, і рекламодавці не відновлювали витрати, доки проблему не було «вирішено». Увімкнено 21 лютого, AT&T, які щойно почали рекламувати на платформі в січні, заявили, що припинять витрачати кошти на рекламу на платформі. Hasbro, Nestle та Disney наслідували цей приклад.
Elsagate – це не те саме, що група педофілії, але проблеми пов’язані. Контент-ферми скористалися перевагами ключових слів і автоматично розмістили рекламу на основі взаємодії з каналом і поганою фільтрацією штучного інтелекту, а також створювали мультфільми, в яких використовувалися неліцензійні персонажі популярних дітей франшизи. Багато з них «контент-ферми» — тобто компанії, які створили ці відео, — мають штаб-квартири в таких місцях, як Хошимін, В'єтнам. Вони не були освітніми чи дружніми до дітей, але поширювалися на YouTube для дітей як монетизовані відео.
YouTube змінили свої правила монетизації після подвійних скандалів 2017 року. Сьогодні автори відео повинні мати принаймні 1000 передплатників і переглядати відео протягом 4000 годин. Ці правила були введені в дію лише після Elsagate, і тепер компанія стверджує, що всі відео, які монетизуються, будуть перевірятися реальними людьми, а не ШІ, щоб запобігти показу невідповідної реклами (згадаймо: реклама Google, що передує відео, на якому дівчина-підлітка їсть льодяник, який зібрав понад 1 мільйон перегляди).
Тому так багато відео дітей вимкнути коментарі під відео. 10 000 рецензентів YouTube, яким доручено переглядати 400 годин відео, які завантажуються на YouTube щохвилини, також відповідають за пошук через взаємодію із зазначеними відео та вимкнення неприйнятних коментарів, посилань на відео, які не є для всіх, або відміток часу дітей у непристойних позиції.
Я створив новий обліковий запис YouTube після того, як виявив, що мої алгоритми настільки вкорінені, що знайти невідповідний вміст було важко, і здійснив пошук те саме, що шукав Ватсон — «перетягування бікіні». Протягом 12 кліків я потрапив у дивну кролячу нору з відео про дитячу боротьбу та нічних вечірок для дівчат рутини. Я натрапив на одне 30+ хвилинне відео і знайшов це:
О 21:25 дівчина на відео відійшла від камери і лише на мить секунди було видно її промежину.
Я також натрапив на безліч відеороликів з моделюванням молодих дівчат, яким явно не виповнилося 18 років. Коментатори відзначили, які гарні були моделі і як чудово виглядали в білизні, незважаючи на те, що це діти. Я не буду ділитися відео, оскільки вони невідповідні; але справа в тому, що ці коментарі не тільки слід ретельно відстежувати, але й, можливо, їх взагалі не повинно бути на веб-сайті. Жодних заходів не вжито проти цих коментарів або самого відео, на якому неповнолітні моделюють білизну.
А ще одна дівчина опублікувала відео своєї нічної рутини після душу. Дівчина, чия сторінка на YouTube називається «Досвід Макензі у Fortnite” і якій, здається, не більше 13 років, випадково пересуває свій рушник таким чином на відео, яке видно збоку її оголеного тулуба на 2:47 хвилині.
Очевидно, це відео ніколи не слід було завантажувати. Дівчина в ньому явно неповнолітня і носить рушник, що пояснює її нічний режим. Це відео має близько 51 000 переглядів. Решта її відео мають від восьми до 150 переглядів. Отже, чому це відбувається? Чи знає вона, чому 51 000 людей переглянули це відео, а жодне з її відео у Fortnite чи відео з веселим ремеслом? Чи розуміє вона, що є люди, які не дивляться на це, тому що їм байдуже про її нічний режим, а хочуть побачити маленьку дівчинку в рушнику? Можливо. Можливо, не. вона дитина. Хтось повинен уважніше стежити за її використанням Інтернету, але це також важко. І ось де YouTube має зайти, але не має. Це невідповідний вміст, навіть якщо він не є відверто сексуальним через те, як його можна споживати. Це не захоплююча річ, якщо тільки ви не з тих людей, для яких це особливо хвилює.
Хоча ці відео не монетизувалися для реклами, вони також явно не контролювалися людьми чи штучним інтелектом — принаймні, неефективно. Деякі відео взагалі не мають бути на YouTube, але мають мільйони переглядів. Якщо модерування коментарів і вмісту настільки неефективні, як здається, діти й надалі будуть об’єктом сексуального інтересу на платформі, яка й надалі залишатиметься інструментом для хижаків.
Оскільки YouTube стає місцем, де все більше дітей переглядають відео, а також місцем, де вони демонструють свої творіння, відповідальні за Платформа повинна прийняти рішення про те, чи слід проводити модерацію в інтересах правдоподібного заперечення чи в інтересах захисту дітей. Якщо компанія прийде до останнього висновку — і будемо сподіватися, що це так — їй доведеться переглянути як штат, так і програмне забезпечення. Якщо вони цього не зроблять, вони повинні переглянути, яку роль вони хочуть відігравати в Інтернеті.
