यूट्यूब किड्स अपनी साइट पर बच्चों की सामग्री के रूप में परेशान करने वाले वीडियो की एक विस्तृत श्रृंखला के लिए गर्म पानी में है। हाल ही में, कंपनी ने घोषणा की कि वह एक नई सामग्री नीति पर काम कर रही है जो उपयोगकर्ताओं को वीडियो को ध्वजांकित करें जो साइट के माध्यम से वीडियो को खिसकाने के लिए लोकप्रिय कीवर्ड का उपयोग करते हैं। हालांकि इससे यूट्यूब किड्स में अनुपयुक्त चीजों के लिए कठिन हो जाएगा, असली मुद्दा एल्गोरिथम है।
NS नई नीति इस तरह के स्रोतों से कई रिपोर्टों के प्रकाश में आता है: न्यूयॉर्क टाइम्स तथा मध्यम जिसने परेशान करने वाले और YouTube Kids के इर्द-गिर्द घूम रहे परेशान करने वाले वीडियो के आम चलन को उजागर कर दिया है। ये वीडियो प्यारे बच्चों के पात्रों को दिखाते हैं और क्लिक करने योग्य, बच्चों के अनुकूल सामग्री की तरह लगते हैं। लेकिन वे वास्तव में बेतहाशा अनुचित और खतरनाक हैं। वीडियो में पेप्पा पिग के ब्लीच पीने या एल्सा को दफनाने वाले द जोकर जैसी परेशान करने वाली सामग्री है जमा हुआ जीवित। के अनुसार न्यूयॉर्क टाइम्स, इंडियाना में एक माँ ने अपने 3 साल के बेटे को पात्रों के साथ एक वीडियो देखते हुए देखा हस्त गश्ती. वीडियो में, कई पात्र मर जाते हैं; एक छत से चला गया।
तो, ये वीडियो कौन बना रहा है और क्यों? यह एक कठिन प्रश्न है। मीडियम पर अपनी संपूर्ण पोस्ट में "समथिंग इज़ रॉन्ग ऑन द इंटरनेट" लेखक जेम्स ब्रिडल परेशान करने वाली प्रवृत्ति में प्रवेश किया और लाखों और लाखों वीडियो बच्चों के लिए विपणन किए गए और लाभ के लिए उत्पन्न हुए। यह कोई झटका नहीं है: एक चैनल को जितने अधिक व्यूज मिलते हैं, चैनल के पीछे के लोगों को उतना ही अधिक पैसा मिलता है। यह सरल गणित है। लेकिन जबकि अन्य रिपोर्ट जैसे कि एक द्वारा प्रकाशित न्यूयॉर्कबार हिंसक सामग्री के मुद्दे को मॉडरेशन के मुद्दे के रूप में देखते हैं, ब्रिडल इसे एक मूलभूत दोष के रूप में देखता है जिस तरह से इंटरनेट और एल्गोरिदम काम करते हैं.
लगाम के लिए, रास्ता सिस्टम संरचित है समस्या है, और जिस तरह से सिस्टम को संरचित किया गया है, यही कारण है कि ये विक्षिप्त वीडियो, जो टन और टन लाभ कमाते हैं, एक दर्शक प्राप्त करते हैं। माता-पिता (या किसी भी Youtube उपयोगकर्ता) को सामग्री को फ़्लैग करने के लिए स्वयं ज़िम्मेदार नहीं होना चाहिए। वे समस्या नहीं हैं। एल्गोरिथ्म है।
