Hafta sonu boyunca, Youtube aktivist Matt Watson, Reddit'in ön sayfasına bir video ile çıktı. rahatsız edici Dünyanın en büyük ikinci arama motoru olan Google'ın video barındırma platformunda keşfettiği fenomen. Watsons genç kızların müstehcen videolarına doğru normal, uygun YouTube içeriğini nasıl tıklayabileceğini gösterdi. Bikini giyen ve yatak odalarında vızıldayan gençlerin yer aldığı bu videoların çoğu açıkça cinsel içerikli olmasa da, çoğu kullanıcı tarafından görünüşte pedofilik niyet. Bazı yorumlar, genç kızların taviz veren pozisyonlarda olduğu belirli anlar için zaman damgaları içeriyordu. Bazı yorumlarda özel, listelenmemiş videolara bağlantılar bulunur. Bu YouTube kliplerinden Grammarly ve Google gibi şirketler için reklamlar yoluyla para kazanıldı.
Hemen ardından Watson'ın videosufenomen karşısında dehşetini ifade ettiğini gösteren, Reddit sıralamasına tırmandı, medya kuruluşları ve reklamcılar yanıt verdi. Sınır bildirdi Epik Oyunlar, arkasındaki şirket Fortnite, Watson'ın gönderisi viral hale geldikten ve iç mekan egzersizi Peloton'dan sonra videodan önce gösterilen reklamlarını YouTube'dan çekti. bisiklet şirketi, reklamlarının neden uygunsuz sitelere itildiğini anlamaya çalıştıklarını söyledi. içerik. YouTube da "kanal ihtar sistemini" güncelleyerek yanıt verdi. On yıldır güncellenmeyen bu sistem, uygunsuz davranan kullanıcıları uyarıyor.
Bu bir şeydi ama Forbes, Mashable, Business Insider, ve New York Times hepsinin belirttiği gibi, belirgin bir algoritmik, insan veya makine öğrenimi sorununa bir çözüm değildi.
İlginç bir şekilde, Watson'ın görüntülediği birçok videoda yorumları devre dışı bıraktı, bu da YouTube içerik yöneticilerinin yorum dizisini fark ettiler ve sübyancıların kendi hesapları üzerinde çalışmasını zorlaştırmaya çalıştılar. alan. Ancak onaylanan tüm bu çabalar, çözülmemiş sorunun farkındalığıydı.
Aslında, sorunun en az 2017 yılına kadar uzandığı açık. Aynı ay içinde “Elsagate” tartışması patlak verdi, insanlar küçük çocukların çocuklara özel videolarındaki tuhaf, üstü kapalı cinsel yorumlarla ilgili alarmı çalmaya başladı. Başlıca reklamverenler beğeniyor AT&T BBC, çocukların para kazanılan videolarındaki uygunsuz yorumların genellikle zaman damgaları içerdiğini bildirdiğinde sitedeki reklamlar için harcamayı durdurdu. Müstehcen konumlar ve listelenmemiş videolara bağlantılar içeren ikinci uzun anlar - ve reklamverenler sorun "düzeltilene" kadar harcamaya devam etmediler. Açık 21 Şubat, AT&TOcak ayında yeniden platformda reklam vermeye başlayan, platformdaki reklamlara harcama yapmayı bırakacaklarını söyledi. Hasbro, Nestle ve Disney de aynı şeyi yaptı.
Elsagate, pedofili halkasıyla aynı şey değildir, ancak sorunlar bağlantılıdır. İçerik çiftlikleri, anahtar kelimelerden yararlandı ve reklamları kanal etkileşimine göre otomatik olarak yerleştirdi ve kalitesiz AI filtreleme ve popüler çocukların lisanssız karakterlerini kullanan çizgi filmler yarattı. bayilikler. Bunların çoğu “içerik çiftlikleri” - yani, bu videoları oluşturan şirketlerin merkezi Ho Chi Minh Şehri gibi yerlerde, Vietnam. Eğitici veya çocuk dostu değillerdi, ancak YouTube çocuklarında para kazanılan videolar olarak yayıldılar.
Youtube para kazanma kurallarını değiştirdi ikili 2017 skandallarından sonra. Bugün, video içerik oluşturucularının en az 1.000 abonesi olması ve videolarının 4.000 saat görüntülenmesi gerekiyor. Bu düzenlemeler ancak Elsagate'ten sonra yürürlüğe girdi ve şimdi şirket, para kazanılan tüm videoların gerçek insanlar tarafından değil, gerçek insanlar tarafından inceleneceğini iddia ediyor. AI, uygunsuz reklamların sunulmasını engellemek için (düşün: 1 milyondan fazla lolipop yiyen bir ara kızın videosunu önceden gösteren bir Google reklamı Görüntüleme).
Bu yüzden pek çok çocuk videoları Videoların altında yorumları devre dışı bırakın. YouTube'un her dakika YouTube'a yüklenen 400 saatlik görüntüyü incelemekle görevli 10.000 insan incelemecisi de söz konusu videolarla etkileşim ve uygunsuz yorumları, liste dışı videolara bağlantıların veya çocukların zaman damgalarının müstehcen olarak devre dışı bırakılmasıyla ilgili pozisyonlar.
Algoritmalarımın o kadar yerleşik olduğunu ve uygunsuz içerik bulmanın zor olduğunu gördükten sonra yeni bir YouTube hesabı açtım ve arama yaptım. Watson'ın aradığı şeyin aynısı - "bikini taşıma". 12 tıklamada, çocuk güreşi videoları ve kızların gece vakti tuhaf bir tavşan deliğindeydim. rutinler. 30+ dakikalık bir videoya rastladım ve şunu buldum:
21:25'te videodaki kız kameradan uzaklaştı ve sadece bir saniyeliğine kasıkları göründü.
Ayrıca açıkça 18 yaşın altındaki genç kızların bir dizi modelleme videosuna rastladım. Yorumcular, modellerin ne kadar güzel olduğunu ve çocuk olmalarına rağmen iç çamaşırlarında ne kadar harika göründüklerini kaydetti. Videoları uygunsuz olduğu için paylaşmayacağım; ama işin gerçeği şu ki, bu yorumlar uzun uzadıya izlenmemeli, belki de hiç sitede yer almamalıdır. Bu yorumlara veya küçüklerin iç çamaşırı mankenliği yaptığı videonun kendisine karşı herhangi bir işlem yapılmadı.
Ve başka bir kız, duştan sonra gece rutininin bir videosunu yayınladı. YouTube sayfasına “denilen kız”Makenzie'nin Fortnite deneyimi” ve 13 yaşından büyük olmadığı görülen videoda yanlışlıkla havlusunu 2:47 dakika işaretinde çıplak gövdesinin yanını gösterecek şekilde hareket ettiriyor.
Açıkçası, bu video hiç yüklenmemeliydi. İçindeki kız açıkça ergenlik öncesi ve gece rutinini açıklayan bir havlu giyiyor. Bu videonun yaklaşık 51.000 görüntülemesi var. Videolarının geri kalanı sekiz ila 150 arasında görüntülendi. Yani niye bu gerçekleşti? 51.000 kişinin bu videoyu neden izlediğini ve Fortnite videolarının veya eğlenceli el işi videolarının neden hiçbirinin olmadığını biliyor mu? Dışarıda, onun gece rutinini gerçekten umursamayan ama küçük bir kızı havluyla görmek istedikleri için buna bakmayan insanlar olduğunu anlıyor mu? Belki. Belki değil. O bir çocuk. Birisi internet kullanımını daha yakından izlemeli, ama bu da zor. Ve orası YouTube gelmeli, ama olmadı. Bu, tüketilme olasılığı nedeniyle açıkça cinsellik içermese bile uygunsuz içeriktir. Özellikle onu gıdıklayıcı bulan türden biri değilseniz, bu gıdıklayıcı şeyler değildir.
Bu videolardan reklamlar için para kazanılmamış olsa da, insanlar veya yapay zeka tarafından en azından etkili bir şekilde izlenmedikleri de açıktı. Bazı videolar YouTube'da hiç olmamalı, ancak milyonlarca görüntülenmeli. Yorum ve içerik denetimi göründüğü kadar etkisiz olursa, çocuklar platformda cinsel ilgi konusu olmaya devam edecek ve bu da yırtıcılar için bir araç olmaya devam edecek.
YouTube, giderek daha fazla çocuğun video tükettiği ve yarattıklarını sergiledikleri bir yer haline geldikçe, platformun makul bir inkar edilebilirlik veya koruma yararına ılımlılığın izlenmesi gerekip gerekmediği konusunda bir karar vermesi gerekir. çocuklar. Şirket ikinci sonuca varırsa - umarız öyle olur - hem kadrolarını hem de yazılımlarını yeniden gözden geçirmek zorunda kalacaklar. Bunu yapmazlarsa, internette hangi rolü oynamak istediklerini yeniden gözden geçirmeliler.
