주말 동안, 유튜브 활동가 Matt Watson은 Reddit의 첫 페이지에 방해 그가 세계에서 두 번째로 큰 검색 엔진인 Google의 비디오 호스팅 플랫폼에서 발견한 현상입니다. 왓슨 그는 어린 소녀들의 외설적인 비디오를 향해 정상적이고 적절한 YouTube 콘텐츠를 클릭할 수 있는 방법을 보여주었습니다. 십대 초반이 비키니를 입고 침실에서 흡혈을 하는 모습이 담긴 이 동영상 중 많은 부분이 노골적으로 성적인 것은 아니었지만 대부분의 사용자는 소아성애 의지. 일부 댓글에는 어린 소녀들이 타협적인 위치에 있었던 특정 순간에 대한 타임스탬프가 포함되었습니다. 일부 댓글에는 비공개 비공개 동영상에 대한 링크가 있습니다. 이 YouTube 클립은 Grammarly 및 Google 자체와 같은 회사의 광고를 통해 수익을 창출했습니다.
잠시 후 왓슨의 영상, 그 현상에 공포를 표하는 것을 보여주었지만, Reddit 순위에 올랐고, 미디어 조직과 광고주가 응답했습니다. 더 버지 보고했다 에픽 게임즈, 뒤에 회사 포트나이트, Watson의 게시물이 입소문을 타고 실내 운동인 Peloton이 퍼진 후 YouTube에서 프리롤 광고를 삭제했습니다. 자전거 회사는 광고가 부적절한 것에 대해 푸시되는 이유를 파악하기 위해 노력하고 있다고 말했습니다. 콘텐츠. YouTube도 이에 대응하여 '채널 경고 시스템'을 업데이트했습니다. 10년 동안 업데이트되지 않은 해당 시스템은 사용자가 부적절한 행동을 한다고 경고합니다. 삼진법을 사용한다.
이것은 무언가였지만, 포브스, 매셔블, 비즈니스 인사이더, 그리고 뉴욕 타임즈 모두 지적했지만 명백한 알고리즘, 인간 또는 기계 학습 문제에 대한 솔루션이 아니었습니다.
흥미롭게도 Watson이 본 많은 비디오에는 댓글이 비활성화되어 YouTube 콘텐츠 관리자가 일련의 댓글을 알아차리고 소아성애자가 자신의 대지. 그러나 확인된 모든 노력은 미해결 문제에 대한 인식이었습니다.
사실, 문제는 적어도 2017년으로 거슬러 올라갑니다. 같은 달에 "엘사게이트" 논란이 폭발하자 사람들은 아동용으로 제작된 어린 아이들의 비디오에 이상하고 암묵적인 성적 댓글에 대한 경보를 울리기 시작했습니다. 다음과 같은 주요 광고주
Elsagate는 소아성애 고리와 동일하지 않지만 문제는 연결되어 있습니다. 콘텐츠 팜은 키워드를 활용하고 채널 참여에 따라 자동으로 광고를 게재했습니다. 그리고 조잡한 AI 필터링, 인기있는 아이들의 무면허 캐릭터를 사용하여 만화를 만들었습니다. 프랜차이즈. 이들 중 많은 "콘텐츠 농장" 즉, 이 비디오를 만든 회사는 호치민시에 본사를 두고 있습니다. 베트남. 교육적이거나 어린이 친화적이지는 않았지만 YouTube 키즈에서 수익을 창출하는 동영상으로 확산되었습니다.
유튜브 수익 창출 가이드라인 변경 이중 2017 스캔들 이후. 오늘날 동영상 제작자는 구독자가 1,000명 이상이어야 하고 동영상을 본 시간이 4,000시간 이상이어야 합니다. 이 규정은 Elsagate 이후에야 시행되었으며 현재 회사는 수익을 창출하는 모든 비디오는 실제 사람이 검토하는 것이 아니라 실제 사람이 검토한다고 주장합니다. 부적절한 광고가 게재되는 것을 억제하기 위한 AI 견해).
그렇기 때문에 많은 아이들의 비디오 동영상 아래에 댓글이 비활성화되어 있습니다. 1분마다 YouTube에 업로드되는 400시간 분량의 영상을 검토하는 임무를 맡은 YouTube의 10,000명의 검토자가 해당 동영상에 대한 참여 및 부적절한 댓글, 미등록 동영상에 대한 링크 또는 외설적인 아동의 타임스탬프 비활성화 위치.
내 알고리즘이 너무 확고해서 부적절한 콘텐츠를 찾기가 어렵다는 것을 알게 된 후 새 YouTube 계정을 만들고 검색했습니다. 왓슨이 검색한 것과 동일한 것 - "비키니 홀". 12번의 클릭 만에 나는 꼬마 씨름 영상과 소녀들의 밤의 이상한 토끼굴에 빠졌다 루틴. 나는 30분 이상의 비디오를 우연히 발견했고 이것을 발견했습니다:
21시 25분, 영상 속 소녀는 카메라에서 멀어져 찰나의 순간 동안 그녀의 사타구니가 보였다.
나는 또한 분명히 18세 미만의 어린 소녀들의 모델링 비디오를 많이 보았습니다. 댓글 작성자는 모델이 얼마나 아름다웠는지, 그리고 그들이 어린이라는 사실에도 불구하고 속옷을 입은 모습이 얼마나 멋져 보이는지 언급했습니다. 부적절하기 때문에 동영상을 공유하지 않겠습니다. 그러나 문제의 사실은 이러한 댓글을 길게 모니터링해야 할 뿐만 아니라 웹사이트에 전혀 게시해서는 안 된다는 것입니다. 해당 댓글이나 미성년자가 속옷을 모델링하는 동영상 자체에 대해 어떠한 조치도 취하지 않았습니다.
그리고 또 다른 소녀는 샤워 후 야간 일과를 담은 동영상을 게시했습니다. YouTube 페이지가 "Makenzie의 Fortnite 경험” 그리고 13세 미만으로 보이는 이 여성은 2분 47초에 자신의 벗은 상체 옆구리가 보여지는 방향으로 실수로 수건을 움직였다.
분명히, 이 영상은 절대 업로드되어서는 안 됩니다. 그 안에 있는 소녀는 분명히 사춘기 이전이고 수건을 두르고 밤 시간의 일과를 설명하고 있습니다. 이 영상의 조회수는 약 51,000회입니다. 나머지 동영상의 조회수는 8~150회입니다. 왜 이런 일이 발생합니까? 그녀는 왜 51,000명의 사람들이 이 비디오를 보았고 그녀의 Fortnite 비디오나 재미있는 공예 비디오는 하나도 보지 않았는지 알고 있습니까? 그녀는 그녀의 야간 일과는 별로 신경 쓰지 않고 수건을 두른 어린 소녀를 보고 싶어하기 때문에 이것을 보지 않는 사람들이 있다는 것을 이해하고 있습니까? 아마도. 아마. 그녀는 꼬마야. 누군가 그녀의 인터넷 사용을 더 면밀히 모니터링해야 하지만 그것도 어렵습니다. 그리고 그 곳이 유튜브가 들어와야 한다, 하지만 없습니다. 이는 소비될 가능성이 있는 방식으로 인해 노골적으로 성적이지 않더라도 부적절한 콘텐츠입니다. 당신이 특별히 자극적이라고 생각하는 사람이 아닌 한 이것은 자극적 인 물건이 아닙니다.
이 비디오는 광고로 수익을 창출하지 않았지만 인간이나 AI에 의해 적어도 효과적으로 모니터링되지는 않았습니다. 일부 동영상은 YouTube에 전혀 없어야 하지만 수백만 회의 조회수를 기록해야 합니다. 댓글과 콘텐츠 중재가 보이는 것처럼 비효율적이라면 아이들은 계속해서 플랫폼에서 성적 관심의 대상이 될 것이며, 이는 계속해서 포식자를 위한 도구가 될 것입니다.
유튜브가 점점 더 많은 아이들이 영상을 소비하는 곳이자 자신의 창작물을 선보이는 곳이 되면서 플랫폼은 타당한 부인을 위해 또는 보호를 위해 중재를 추구해야 하는지 여부를 결정해야 합니다. 어린이들. 회사가 후자의 결론에 도달하면(그렇게 되기를 바랍니다.) 직원과 소프트웨어를 모두 재고해야 합니다. 그렇게 하지 않으면 인터넷에서 어떤 역할을 하고 싶은지 재고해야 합니다.
