Şubatta, YouTuber Matt Watson algoritmik olarak oluşturulmuş bir sisteme ne kadar kolay girebildiğini gösteren bir video yayınladı. tavşan deliği ve normalde normal videolardan yararlanan sübyancı topluluklarını yorumlayan bulun çocuklar. Bazen, aynı yorumcular, listelenmemiş videolara bağlantılar yayınladılar veya ne olduğu için WhatsApp iletişim bilgilerini yayınladılar: muhtemelen, pedofili dostu grup mesajlaşması, ancak çoğu zaman, söz konusu ortamlarda taviz veren konumlardaki çocukların zaman damgalarını yayınladı. videolar.
Watson'ın bulguları, YouTube'un ılımlılığı ve hesap verebilirliği konusundaki tartışmayı bir kez daha alevlendirdi. Bulduğu videoların birçoğu programlı olarak reklamlarla para kazanıyordu, bu da YouTube'un içerikten para kazandığı anlamına geliyordu. kendisini rahatsız etmemiş olsa da, gizli bilgileri olanlar tarafından tıklamalarda ve görüntülemelerde istismar ediliyordu. motifler. Videoların kendileri çoğunlukla sorun değildi. Birçoğu normal çocuk işleri yapan çocuklardı: kardeşleriyle güreşmek, oyuncaklarını göstermek koleksiyonlar, ancak yorumlar ve birbirleriyle bağlantı kurma biçimleri şüpheliydi ve nihayetinde, rahatsız edici.
YouTube'un bu yorum halkalarını ilk kez kabul etmesinden sadece bir yıl sonra ortaya çıkan skandal ve sonrasında YouTube çocukları İnsanların çocuklar ve onların güvenliği düşünülerek hazırlanmış bir platformda rahatsız edici videolar bulduğu #ElsaGate skandalı, YouTube'u birçok kişinin sorduğu bir tartışmaya bulaştırdı: YouTube herhangi bir şeyi değiştirdi mi? Ve eğer öyleyse, sorun neden çoğalıyordu? Düzeltilebilir mi?
YouTube, yırtıcılar tarafından hedef alınan milyonlarca video hakkındaki yorumları devre dışı bırakarak ve 10.000 kişilik derin bir ekibine sahip olduklarını belirterek yanıt verdi. insan yorumu ve içerik moderatörleri ve işi videoları gözden geçirmek ve rahatsız edici her şeyi işaretlemek olan bir makine öğrenimi sistemi. Ama yeterli mi? YouTube'un endişeli ebeveynleri düzeltmesinin bir yolu var mı? Yoksa şirketin algoritması çok mu ileri gitti?
Platformu düzeltmek için neler yapılabileceğini anlamak için, babacanBerkman Klein İnternet ve Toplum Merkezi'nde bir Ortak, Alexander von Humboldt İnternet ve Toplum Enstitüsü'nde Yardımcı Araştırmacı ve DFG Araştırma Görevlisi olan Jonas Keiser ile konuştuk. Keizer, YouTube algoritmaları ve zararlı toplulukların çoğalması konusunda uzmandır. Kendisiyle YouTube'un algoritması, bu sorunların nasıl oluştuğu ve YouTube'un daha iyi yapmak için neler yapabileceği hakkında konuştuk.
Araştırmanız, Youtube'daki aşırı sağcı trol kampanyalarına ve bu tür toplulukların nasıl yayıldığına odaklanıyor. Bu topluluklar ile yorum bölümlerinde bağlantı paylaşan yeni bulunan pedofilik topluluklar arasında benzerlikler var mı?
Bu karşılaştırmayı yapmazdım. Aşırı sağ ile, bir topluluk oluşturmak ve diğer kanallarla bağlantı kurmak için daha görünür ve açık girişimlerimiz var. Önemli olduğunu düşündükleri konularda kendi eğilimlerini takip ederler ve bu bir kanalda değil birkaç kanalda gerçekleşir. Kendi eylemleriyle çok kasıtlı olarak yapılır. Aşırı sağ konuşan kafalar birbirlerinin şovlarına gidiyor ve birbirlerine belirgin bir meşruiyet kazandırıyor.
Aynı zamanda etkinlikleri ve kullanıcı etkinlikleriyle YouTube'un algoritmasını şu şekilde etkilerler: YouTube, siyasi videolar ve siyasi kanallar, hangi ideolojiye bakarsanız bakın, genellikle aşırı sağa yol açar. kanallar.
Yani, pedofilik topluluklar, kanalların ve videoların mutlaka topluluk olması gerekmediğinden çok daha fazlası gibi görünüyor. orada değil, okuduklarımdan bu garip, görünmez, çok rahatsız edici yaratan çevrimiçi yorumlar fenomen.
Bilmeyenler için YouTube'un algoritması nasıl işliyor?
YouTube'un algoritma kullanıcıları etkileşimde tutacağı fikri etrafında dönüyor. Bu bağlamda, bu açıkça videoları izlemek, yorum yapmak, beğenmek veya paylaşmak anlamına gelir. Platformda kalmak en önemli hedeftir. Platformda kalmak için ana sayfanızda, video sayfalarında ve kanalların kendisinde öneriler alacaksınız. Bunların hepsi, kullanıcıların platformda kalması gerektiği fikri etrafında inşa edilmiştir. Soru, elbette, YouTube bunu yapan bir algoritmayı nasıl oluşturur?
Bu algoritmaya giren birçok farklı veri noktası vardır. Örneğin: Şu anda platformda trend olan nedir? Aynı ilgi alanlarına sahip diğer insanlar neye baktı? En çok hangi videolar tıklanıyor? Kullanıcı yorumlarında benzer kişiler nerede çakışıyor? Bu tür şeyler. Ana fikir, algoritmanın kullanıcıları neyin çektiğini ve platformda tuttuğunu öğrenmesini sağlamaktır.
YouTube'da içerik ve yorum denetimi açısından, bu denetleme nasıl kurulur? İnternetteki tehditlere karşı yeterli bir yanıt olduğunu düşünüyor musunuz?
Sadece bir dereceye kadar. Çoğu büyük sosyal medya platformunun yaptığı gibi ılımlılıkla ilgili sorun, içeriği bildiren insanlar etrafında inşa edilmiş olmasıdır. Yani, temel olarak, eğer kimse bunu rapor etmezse ve bu, makine öğrenimi yoluyla tanımlanabilen kurallara açıkça aykırı değilse - örneğin küfürlü sözler veya algoritmik olarak filtrelenebilecek buna benzer bir şey - diğer yorumları tespit etmek açıkçası çok daha zor yani bir insan buna bakmalı. Ancak hiç kimse içeriği rapor etmezse, platformda çok fazla içerik olduğu için YouTube var olduğunu bilmiyor. Kullanıcıların önemini vurgular. Kullanıcıların, YouTube'a kendilerini rahatsız eden şeyleri vurgulamak için emek vermeleri gereken bir konuma getirilmeleri, bunun iyi veya kötü bir şey olup olmadığı tartışılır.
Video düzeyinde, şimdi diğer [denetim biçimleri] uygulandı, bu nedenle en iyi haberleri içerebilecek içeriğin sıralamasında düşüş var. Haber öğelerini ararsanız, önce YouTube'un daha güvenilir kaynaklar olarak kabul ettiğini görürsünüz. Bazı komplo videolarının etrafındaki bilgi kutularını denediler. Bunların hepsi, bir şekilde, içerik denetleme biçimleridir.
YouTube'un sorunlu veya rahatsız edici olabilecek şeyleri bildirmek için iyi samaritanlara güvenme şekli de buna benziyor Reddit'in aynı zamanda bu sorunu yaşamamasına rağmen, Reddit'in topluluk moderatörleri tarafından da büyük ölçüde denetlendiğini ölçek.
Karşılaştırma mantıklı, ama çok farklı. Her alt dizin, temelde hangi tür içeriğe izin verildiğini söyleyen bir topluluktur. Örneğin SubReddit bilimi bağlamında, moderatörlerin kurallara uyulduğundan emin olurken, diğer alt dizinler çok laissez-faire iken görebilirsiniz. Alt dizinlerdeki gönderilerin sayısı, YouTube'da herhangi bir saatte yüklenen videoların sayısıyla karşılaştırılamaz. Bu forumlardan bazıları kendi kendini denetlemeye ilgi duyuyor. Emek, temelde kullanıcılara dış kaynaklıdır ve varsayım, bu işi yapmak için yeterince motive olmuş insanlar olduğu sürece, sorun değil, ancak YouTube'da durum böyle değil. Bu forumlar aynı şekilde mevcut değil.
Bu son yorumcular ve trollerin çocuk içeriğine korkunç videolar yerleştirdiği #ElsaGate gibi son YouTube Çocuk skandalları açısından. Ortalama bir YouTube kullanıcısının iyi niyetine dayanmayan, onlara dikkat çekmenin bir yolu var mı?
YouTube yavaş, çok yavaş, doğru yöne gitti. Orada değiller, ancak insanların YouTube'da haber arayacağını anlıyorlar, bu yüzden hangi kanalların geleceğini seçmek bence mantıklı.
Kendi çalışmamda, YouTube'un temelde politik içeriği pop müzikle aynı şekilde ele alması beni şaşırtıyor. Son haftalarda, bir fark olduğunu yavaş yavaş anladılar.
Örneğin, aşı karşıtı hareket, artık belirli videolara izin vermeyeceklerini söylediler. Bunun önemli olduğunu düşünüyorum. Siyasi bir bağlamda, 'sadece insanları izliyor' fikri istediğiniz şey değil. Müzik, oyun veya diğer eğlence biçimleri için istediğiniz şey budur, ancak bilgi söz konusu olduğunda.
Bu mantığın devam ettiği, hangi motivasyonla olursa olsun insanların platformda yer almasını hedefleyen video ve kanal önerileri için sorunlu olduğunu düşünüyorum.
Peki, varsa, YouTube'un son yorum skandallarıyla başa çıkmak için hangi çözümleri önerirsiniz?
Okuduğum kadarıyla, topluluk çoğunlukla yorumlar aracılığıyla var oldu, bu da daha sonra YouTube önerileri üzerinde büyük bir etkiye sahipti, bu nedenle bu videolar açıkça oldukça hastalıklı bir şekilde bağlantılıydı. Sanırım bu biraz sorunlu kısım gibi. Bir platform olarak nasıl farkındasınız? Devam etmemesi gereken bir şeyler olduğunun farkında mısın? Ve tabii ki, bu şeyleri çözmek belirli, aktif ve bilinçli kullanıcılara düşmemelidir, ama neyse ki var.
Soru şu: 'Algoritmalar bu bağlamda nasıl çalışır ve buna izin verir?' Benim algım, yorum yapan kullanıcılar ile video yükleyen kullanıcılar arasında bir fark olduğu yönünde. Bağlantıyı kesmek daha kolay olabilir diye düşünüyorum; ama bence en iyi seçenek, şüpheli içeriği denetlemek için insanlara yoğun bir şekilde yatırım yapmak ve sadece ne olduğunu anlamaya çalışmanın çok farkında olmak olacaktır. algoritmalar açısından şüphelidir.
Sizce, potansiyel olarak tehlikeli toplulukları birbirine bağlayabilecek bu algoritmalar üzerinde çalışması gerekmeyen bir YouTube sürümü var mı? Yoksa platformun kendisine özgü mü?
Platforma özel olduğunu düşünmüyorum. Bunun iş modeline özgü olduğunu düşünüyorum. Reddit'e benzeyen, örneğin belirli içeriklere veya belirli konulara odaklanan ve bu konuda videolar yayınlayabileceğiniz bir video topluluğu düşünebilirsiniz.
İşte sorun bu. YouTube, insanları platformda tutan algoritmayı terk ederse, bu bir kâr sorunudur. YouTube para kazanmaya devam etmek istiyor.
Bence bu adil. Şu anda platformların nasıl çalıştığına ve örneğin bazı içeriklere neden diğerlerinden daha olumlu davranıldığına dair yaptığımız tartışmaların çoğu ve neden, yanlış bilgi veya komplo teorileri başarılı olabilir, iş modeliyle ilgilidir ve tıklamalarla her şeyin ödüllendirildiği fikri. Bunun etrafında inşa edilmemiş platformlara sahip olmak için fikirler var. Ama bunlar o kadar para kazandırmaz.
