Youtube KIDS знаходиться в гарячій воді для широкого спектру тривожних відео, які маскуються під дитячий контент на їхньому сайті. Нещодавно компанія оголосила, що працює над новою політикою щодо вмісту, яка дозволяє користувачам позначити відео які використовують популярні ключові слова для просування відео на сайті. Хоча це ускладнить проникнення невідповідних речей в Youtube Kids, справжня проблема полягає в алгоритмі.
The нова політика у світлі кількох повідомлень із таких джерел, як Нью-Йорк Таймс і Середній які викрили тривожну та надто поширену тенденцію тривожних відео, що циркулюють навколо YouTube Kids. Ці відео показують улюблених дитячих персонажів і схожі на інтерактивний вміст, зручний для дітей. Але насправді вони вкрай невідповідні та небезпечні. У відео міститься такий тривожний контент, як Свинка Пеппа, яка п’є відбілювач або Джокер, який ховає Ельзу з Заморожений живий. Відповідно до Нью-Йорк Таймс, мати в Індіані помітила, що її 3-річний син дивиться відео з персонажами з Щенячий патруль. На відео кілька персонажів гинуть; один зійшов з даху.
Отже, хто і чому створює ці відео? Це важке питання. У своєму ґрунтовному дописі на Medium під назвою «Щось не так в Інтернеті» автор Джеймс Брідл заглибившись у тривожну тенденцію, і виявили мільйони і мільйони відео, які рекламуються для дітей і створюються з метою отримання прибутку. Це не шок: чим більше переглядів отримує канал, тим більше грошей отримують люди, які стоять за каналом. Це проста математика. Але в той час як інші звіти, такі як опублікований автором Нью-ЙоркЧаси розглядати проблему насильницького вмісту як проблему модерації, Бріддл бачить у ній фундаментальний недолік у тому, як Інтернет та працюють алгоритми.
До Брідла, шлях проблема структурована, і те, як структурована система, саме тому ці божевільні відео, які приносять тонни і тонни прибутку, завойовують аудиторію. Батьки (або будь-який користувач YouTube) не повинні нести відповідальність за те, щоб позначати вміст. Вони не проблема. Алгоритм такий.
