सप्ताहांत में, यूट्यूब कार्यकर्ता मैट वॉटसन ने रेडिट के पहले पन्ने पर एक वीडियो के साथ मारा परेशान उन्होंने दुनिया के दूसरे सबसे बड़े सर्च इंजन, Google के वीडियो होस्टिंग प्लेटफॉर्म पर खोज की। वाटसन प्रदर्शित किया कि कैसे वह युवा लड़कियों के विचारोत्तेजक वीडियो की ओर सामान्य, उपयुक्त YouTube सामग्री के माध्यम से क्लिक कर सकता है। हालांकि इनमें से कई वीडियो, जिनमें प्रीटेन्स को बिकनी पहने और अपने बेडरूम में वैंपिंग करते हुए दिखाया गया है, स्पष्ट रूप से यौन नहीं थे, लेकिन उपयोगकर्ताओं द्वारा बड़े पैमाने पर टिप्पणी की गई थी। पीडोफिलिक इरादा। कुछ टिप्पणियों में विशिष्ट क्षणों के लिए टाइमस्टैम्प दिखाया गया था जब युवा लड़कियां समझौता करने की स्थिति में थीं। कुछ टिप्पणियों में निजी, असूचीबद्ध वीडियो के लिंक होते हैं। इन YouTube क्लिप को Grammarly और Google जैसी कंपनियों के विज्ञापनों के माध्यम से मुद्रीकृत किया गया था।
कुछ ही समय बाद वाटसन का वीडियो, जिसने उसे घटना पर आतंक व्यक्त करते हुए दिखाया, रेडिट रैंकिंग पर चढ़े, मीडिया संगठनों और विज्ञापनदाताओं ने प्रतिक्रिया दी। कगार सूचना दी गई महाकाव्य खेल
यह कुछ था, लेकिन जैसा फोर्ब्स, मैशेबल, बिजनेस इनसाइडर, तथा दी न्यू यौर्क टाइम्स सभी ने बताया, यह एक स्पष्ट एल्गोरिथम, मानव या मशीन सीखने की समस्या का समाधान नहीं था।
दिलचस्प बात यह है कि वाटसन द्वारा देखे गए कई वीडियो में टिप्पणियों को अक्षम कर दिया गया था, जिससे पता चलता है कि YouTube सामग्री प्रबंधक टिप्पणियों की कड़ी पर ध्यान दिया है और पीडोफाइल के लिए अपने पर काम करना कठिन बनाने की कोशिश कर रहे हैं स्थल। लेकिन उन सभी प्रयासों की पुष्टि हुई जो अनसुलझी समस्या के बारे में जागरूकता थी।
वास्तव में, यह स्पष्ट है कि समस्या कम से कम 2017 की है। उसी महीने में "एल्सागेट"विवाद फूट पड़ा, लोगों ने बच्चों के लिए बनाए गए छोटे बच्चों के वीडियो पर अजीब, अप्रत्यक्ष रूप से यौन टिप्पणियों के बारे में अलार्म बजाना शुरू कर दिया था। प्रमुख विज्ञापनदाता पसंद करते हैं एटी एंड टी साइट पर विज्ञापनों के लिए खर्च करना बंद कर दिया जब बीबीसी ने रिपोर्ट किया कि बच्चों के मुद्रीकृत वीडियो पर अनुचित टिप्पणियों में अक्सर समय टिकट शामिल होते हैं गैर-सूचीबद्ध वीडियो के लिए सूचक पदों और लिंक के दूसरे-लंबे क्षण - और विज्ञापनदाताओं ने तब तक खर्च करना शुरू नहीं किया जब तक कि समस्या "ठीक" नहीं हो गई। पर 21 फरवरी, एटी एंड टी, जिसने जनवरी में फिर से मंच पर विज्ञापन देना शुरू किया था, ने कहा कि वे मंच पर विज्ञापनों पर खर्च करना बंद कर देंगे। हैस्ब्रो, नेस्ले और डिज़नी सभी ने सूट का पालन किया है।
Elsagate एक पीडोफिलिया रिंग के समान नहीं है, लेकिन समस्याएं जुड़ी हुई हैं। सामग्री फ़ार्म ने कीवर्ड का लाभ उठाया और चैनल जुड़ाव के आधार पर स्वचालित रूप से विज्ञापन दिए और घटिया एआई फ़िल्टरिंग, और लोकप्रिय बच्चों के बिना लाइसेंस वाले पात्रों का उपयोग करने वाले कार्टून बनाए फ्रेंचाइजी। इनमें से बहुत से "सामग्री खेतों" - यानी, इन वीडियो को बनाने वाली कंपनियों का मुख्यालय हो ची मिन्ह सिटी जैसी जगहों पर है, वियतनाम. वे शैक्षिक या बच्चों के अनुकूल नहीं थे, लेकिन YouTube बच्चों पर मुद्रीकृत वीडियो के रूप में फैल गए।
यूट्यूब अपने मुद्रीकरण दिशानिर्देशों को बदल दिया 2017 के दोहरे घोटालों के बाद। आज, वीडियो बनाने वालों के पास कम से कम 1,000 ग्राहक होने चाहिए और उनके वीडियो 4,000 घंटे तक देखे जा सकते हैं। ये नियम एल्सागेट के बाद ही लागू किए गए थे और अब कंपनी का दावा है कि मुद्रीकृत सभी वीडियो की वास्तविक मानव द्वारा समीक्षा की जाएगी, न कि वास्तविक लोगों द्वारा। एआई, परोसे जाने वाले अनुचित विज्ञापन पर अंकुश लगाने के लिए (सोचें: एक Google विज्ञापन में लॉलीपॉप खाने वाली एक लड़की के वीडियो को प्रीरोल करना, जिसमें 1 मिलियन से अधिक हो चुके हैं दृश्य)।
इसलिए बहुत सारे बच्चों के वीडियो वीडियो के नीचे टिप्पणियां अक्षम कर दी गई हैं। YouTube पर हर मिनट अपलोड किए गए 400 घंटे के फ़ुटेज की समीक्षा करने वाले YouTube के 10,000 मानव समीक्षक भी देखने के प्रभारी हैं उक्त वीडियो के साथ जुड़ाव और अनुपयुक्त टिप्पणियों को अक्षम करने, असूचीबद्ध वीडियो के लिंक, या विचारोत्तेजक में बच्चों के टाइम-स्टैम्प पर पदों।
मैंने यह पता लगाने के बाद एक नया YouTube खाता बनाया कि मेरे एल्गोरिदम इतने उलझे हुए थे कि अनुपयुक्त सामग्री खोजना मुश्किल था, और खोज की वही चीज़ वॉटसन ने खोजी - "बिकिनी ढोना।" 12 क्लिक के भीतर मैं बच्चों की कुश्ती वीडियो और लड़कियों के रात के समय के अजीब खरगोश के छेद में था दिनचर्या मुझे एक 30+ मिनट का वीडियो मिला और मुझे यह मिला:
21:25 को, वीडियो में दिख रही लड़की कैमरे से दूर चली गई और एक पल के लिए, उसका क्रॉच दिखाई दे रहा था।
मुझे 18 साल से कम उम्र की युवा लड़कियों के मॉडलिंग वीडियो भी मिले। टिप्पणीकारों ने नोट किया कि मॉडल कितने सुंदर थे और वे अपने अंडरवियर में कितने अच्छे लग रहे थे, इस तथ्य के बावजूद कि ये बच्चे हैं। मैं वीडियो साझा नहीं करूंगा क्योंकि वे अनुपयुक्त हैं; लेकिन तथ्य यह है कि इन टिप्पणियों की न केवल लंबी निगरानी की जानी चाहिए, वे शायद वेबसाइट पर बिल्कुल भी नहीं होनी चाहिए। उन टिप्पणियों या अंडरवियर की मॉडलिंग करने वाले नाबालिगों के वीडियो के खिलाफ कोई कार्रवाई नहीं की गई है।
और एक अन्य लड़की ने अपने रात के समय की दिनचर्या का एक वीडियो पोस्ट-शॉवर पोस्ट किया। वह लड़की, जिसके YouTube पेज का नाम “माकेन्ज़ी का फ़ोर्टनाइट अनुभव” और जो 13 वर्ष से अधिक की प्रतीत नहीं होती है, वीडियो में गलती से अपना तौलिया इस तरह से हिलाती है कि उसके नग्न धड़ का किनारा 2:47 मिनट के निशान पर दिखाई दे रहा है।
जाहिर है इस वीडियो को कभी भी अपलोड नहीं करना चाहिए था। इसमें लड़की स्पष्ट रूप से पूर्व-यौवन है और एक तौलिया पहने हुए है, जो उसे रात के समय की दिनचर्या समझाती है। इस वीडियो को करीब 51,000 बार देखा जा चुका है। उसके बाकी वीडियो को आठ से 150 बार देखा जा चुका है। तो, ऐसा क्यों हो रहा है? क्या वह जानती है कि 51,000 लोगों ने इस वीडियो को क्यों देखा और उसके किसी भी Fortnite वीडियो या मज़ेदार शिल्प वीडियो को नहीं देखा? क्या वह समझती है कि वहाँ ऐसे लोग हैं जो इसे नहीं देख रहे हैं क्योंकि वे वास्तव में उसकी रात की दिनचर्या की परवाह नहीं करते हैं, लेकिन एक छोटी लड़की को तौलिया में देखना चाहते हैं? शायद। शायद नहीं। वह एक बच्ची है। किसी को उसके इंटरनेट उपयोग की अधिक बारीकी से निगरानी करनी चाहिए, लेकिन यह कठिन भी है। और वहीं यूट्यूब आना चाहिए, लेकिन नहीं है। यह अनुचित सामग्री है, भले ही यह अत्यधिक यौन न हो क्योंकि जिस तरह से इसका सेवन किया जा सकता है। यह तब तक सामान नहीं है जब तक कि आप उस तरह के व्यक्ति न हों जो इसे विशेष रूप से शीर्षक देता है।
हालांकि इन वीडियो को विज्ञापनों के लिए मुद्रीकृत नहीं किया गया था, लेकिन स्पष्ट रूप से मानव या एआई द्वारा उनकी निगरानी नहीं की जा रही थी - कम से कम प्रभावी रूप से नहीं। कुछ वीडियो YouTube पर बिल्कुल नहीं होने चाहिए, लेकिन उनके लाखों व्यूज होने चाहिए। यदि टिप्पणी और सामग्री मॉडरेशन उतना ही अप्रभावी है जितना दिखाई देता है, तो बच्चे मंच पर यौन रुचि का विषय बने रहेंगे, जो शिकारियों के लिए एक उपकरण बना रहेगा।
जैसे-जैसे YouTube एक ऐसा स्थान बनता जा रहा है जहां अधिक से अधिक बच्चे वीडियो का उपभोग करते हैं और साथ ही एक ऐसी जगह जहां वे अपनी कृतियों का प्रदर्शन करते हैं, जो इसके प्रभारी हैं मंच को इस बारे में निर्णय लेने की आवश्यकता है कि क्या प्रशंसनीय इनकार के हित में या सुरक्षा के हित में मॉडरेशन का अनुसरण किया जाना चाहिए बच्चे। यदि कंपनी बाद के निष्कर्ष पर आती है - और आशा करते हैं कि यह करता है - उन्हें अपने स्टाफिंग और उनके सॉफ़्टवेयर दोनों पर पुनर्विचार करना होगा। अगर वे ऐसा नहीं करते हैं, तो उन्हें इस बात पर फिर से विचार करना चाहिए कि वे इंटरनेट पर क्या भूमिका निभाना चाहते हैं।
