फरवरी में, YouTuber मैट वॉटसन एक वीडियो पोस्ट किया जो उस आसानी को उजागर करता है जिसके साथ वह एक एल्गोरिथम रूप से उत्पन्न में प्रवेश करने में सक्षम था खरगोश के छेद और पीडोफाइल के टिप्पणी करने वाले समुदायों का पता लगाएं जो अन्यथा सामान्य वीडियो का शोषण कर रहे हैं बच्चे। कभी-कभी, इन्हीं टिप्पणीकारों ने असूचीबद्ध वीडियो के लिंक पोस्ट किए या व्हाट्सएप संपर्क जानकारी पोस्ट की कि क्या था, संभवतः, पीडोफिलिक-फ्रेंडली ग्रुप मैसेजिंग, लेकिन अक्सर उक्त में समझौता करने की स्थिति में बच्चों के टाइम स्टैम्प पोस्ट किए जाते हैं वीडियो।
वाटसन के निष्कर्षों ने फिर से YouTube के मॉडरेशन और जवाबदेही के इर्द-गिर्द बातचीत को हवा दी। उन्हें मिले कई वीडियो विज्ञापनों के साथ प्रोग्रामेटिक रूप से मुद्रीकृत किए गए थे, जिसका अर्थ है कि YouTube सामग्री से पैसे कमा रहा था हालांकि, भले ही वह खुद को परेशान न कर रहा हो, लेकिन क्लिकों और विचारों में उन लोगों द्वारा शोषण किया जा रहा था, जो गलत थे मकसद। अधिकांश भाग के लिए वीडियो स्वयं समस्या नहीं थे। बहुत से बच्चे सामान्य बच्चों की चीज़ें कर रहे थे: अपने भाई-बहनों के साथ कुश्ती करना, अपना खिलौना दिखाना संग्रह, लेकिन टिप्पणियाँ और जिस तरह से वे एक-दूसरे से जुड़े थे, वे संदिग्ध थे और अंततः, परेशान करने वाला
YouTube द्वारा पहली बार इन कमेंटिंग रिंगों को स्वीकार किए जाने के ठीक एक साल बाद और उसके बाद आने वाला यह घोटाला यूट्यूब किड्स' #ElsaGate स्कैंडल, जिसमें लोगों को बच्चों और उनकी सुरक्षा को ध्यान में रखते हुए बनाए गए प्लेटफॉर्म पर परेशान करने वाले वीडियो मिले, ने YouTube को एक बहस में उलझा दिया, जहां कई लोगों ने पूछा: क्या YouTube ने कुछ भी बदल दिया है? और यदि हां, तो समस्या क्यों बढ़ रही थी? क्या इसे ठीक किया जा सकता है?
YouTube ने लाखों वीडियो पर टिप्पणियों को अक्षम करके जवाब दिया, जिन्हें शिकारियों द्वारा लक्षित किया जा रहा था और यह इंगित करते हुए कि उनके पास 10,000-कर्मचारी गहरी टीम है मानव टिप्पणी और सामग्री मॉडरेटर और एक मशीन लर्निंग सिस्टम जिसका काम वीडियो की छानबीन करना और किसी भी आपत्तिजनक चीज़ को फ़्लैग करना है। लेकिन क्या यह काफी है? क्या YouTube के लिए चिंतित माता-पिता के साथ सुधार करने का कोई तरीका है? या कंपनी का एल्गोरिदम बहुत दूर चला गया है?
यह पता लगाने के लिए कि प्लेटफॉर्म को ठीक करने के लिए क्या, यदि कुछ किया जा सकता है, पितासदृशइंटरनेट एंड सोसाइटी के बर्कमैन क्लेन सेंटर में एक सहयोगी जोनास कीसर से बात की, अलेक्जेंडर वॉन हंबोल्ट इंस्टीट्यूट फॉर इंटरनेट एंड सोसाइटी में एसोसिएट रिसर्चर और डीएफजी रिसर्च फेलो। Keizer YouTube एल्गोरिदम और हानिकारक समुदायों के प्रसार में एक विशेषज्ञ है। हमने उनसे YouTube के एल्गोरिथम के बारे में बात की, ये समस्याएं कैसे पैदा होती हैं, और YouTube बेहतर करने के लिए क्या कर सकता है।
आपका शोध Youtube पर धुर दक्षिणपंथी ट्रोल अभियानों पर केंद्रित है और इस तरह के समुदाय कैसे फैलते हैं। क्या उन समुदायों और इन नए पाए गए पीडोफिलिक समुदायों के बीच टिप्पणी अनुभागों में लिंक साझा करने के बीच समानताएं हैं?
मैं वह तुलना नहीं करूंगा। बहुत दूर के साथ, हमारे पास एक समुदाय बनाने और अन्य चैनलों से जुड़ने के लिए अधिक स्पष्ट और स्पष्ट प्रयास हैं। वे उन विषयों के अपने रुझानों का पालन करते हैं जो उन्हें लगता है कि महत्वपूर्ण हैं और यह एक चैनल पर नहीं बल्कि कई पर होता है। यह उनके अपने कार्यों के माध्यम से बहुत जानबूझकर किया गया है। धुर दक्षिणपंथी प्रमुख एक दूसरे के शो में जाते हैं और एक दूसरे को प्रमुख वैधता प्रदान करते हैं।
साथ ही, अपनी गतिविधि और उपयोगकर्ता गतिविधि के माध्यम से, वे YouTube के एल्गोरिथम को भी इस तरह से प्रभावित करते हैं कि, YouTube, राजनीतिक वीडियो और राजनीतिक चैनल, चाहे आप किसी भी विचारधारा को देखें, अक्सर दूर-दराज़ की ओर ले जाता है चैनल।
इसलिए, पीडोफिलिक समुदाय बहुत अधिक प्रतीत होते हैं कि चैनल और वीडियो आवश्यक रूप से समुदाय नहीं थे वहाँ, बल्कि ऑनलाइन टिप्पणियाँ, जो मैंने पढ़ी हैं, ने इसे अजीब, अदृश्य, बहुत परेशान करने वाला बनाया है घटना।
जो लोग अनजान हैं, उनके लिए YouTube का एल्गोरिथम कैसे काम करता है?
यूट्यूब कलन विधि इस विचार के इर्द-गिर्द घूमता है कि यह उपयोगकर्ताओं को जोड़े रखेगा। उस संदर्भ में, इसका स्पष्ट रूप से मतलब है कि वीडियो देखना, या टिप्पणी करना, या पसंद करना, या साझा करना। मंच पर बने रहना सबसे महत्वपूर्ण लक्ष्य है। प्लेटफॉर्म पर बने रहने के लिए, आपको अपने होम पेज पर, वीडियो पेजों पर और चैनलों पर ही सिफारिशें मिलेंगी। ये सभी इस विचार के इर्द-गिर्द बनाए गए हैं कि उपयोगकर्ताओं को प्लेटफॉर्म पर बने रहना चाहिए। सवाल यह है कि, YouTube ऐसा एल्गोरिथम कैसे बनाता है जो ऐसा करता है?
कई अलग-अलग डेटा बिंदु हैं जो उस एल्गोरिदम में जाते हैं। उदाहरण के लिए: वर्तमान में प्लेटफॉर्म पर क्या चलन में है? समान रुचियों वाले अन्य लोगों ने क्या देखा है? कौन से वीडियो सबसे ज्यादा क्लिक हो रहे हैं? उपयोगकर्ता टिप्पणियों में समान लोग कहां ओवरलैप कर रहे हैं? उस तरह की चीजें। मुख्य विचार यह है कि एल्गोरिदम सीखता है कि उपयोगकर्ताओं को मंच पर क्या आकर्षित करता है और रखता है।
YouTube पर सामग्री और टिप्पणी मॉडरेशन के संदर्भ में, उस मॉडरेशन को कैसे सेट किया जाता है? क्या आपको लगता है कि यह इंटरनेट पर मौजूद खतरों के लिए पर्याप्त प्रतिक्रिया है?
केवल कुछ हद तक। जिस तरह से अधिकांश बड़े सोशल मीडिया प्लेटफॉर्म करते हैं, उसमें मॉडरेशन के साथ समस्या यह है कि यह कंटेंट की रिपोर्टिंग करने वाले लोगों के इर्द-गिर्द बना हुआ है। इसलिए, मूल रूप से, यदि कोई इसकी रिपोर्ट नहीं करता है और यह स्पष्ट रूप से उन नियमों के विरुद्ध नहीं है जिन्हें मशीन लर्निंग के माध्यम से पहचाना जा सकता है - जैसे शाप शब्द, या ऐसा कुछ जिसे एल्गोरिथम से फ़िल्टर किया जा सकता है - अन्य टिप्पणियों की पहचान करना स्पष्ट रूप से बहुत कठिन है तो एक मानव को इसे देखने की जरूरत है. लेकिन अगर कोई सामग्री की रिपोर्ट नहीं करता है, तो YouTube नहीं जानता कि यह मौजूद है, सिर्फ इसलिए कि मंच पर बहुत अधिक सामग्री है। यह उपयोगकर्ताओं के महत्व पर प्रकाश डालता है। इस पर बहस होती है कि यह अच्छी या बुरी बात है या नहीं, उपयोगकर्ताओं को इस स्थिति में रखा जाता है कि उन्हें YouTube पर यह उजागर करने के लिए श्रम करना पड़ता है कि उनके लिए क्या आपत्तिजनक है।
वीडियो के स्तर पर, [मॉडरेशन के] अन्य रूपों को अब लागू किया गया है, इसलिए सामग्री की डाउनरैंकिंग है जिसमें शीर्ष समाचार शामिल हो सकते हैं। यदि आप समाचार आइटम खोजते हैं, तो आपको वह मिलेगा जो YouTube अधिक विश्वसनीय स्रोत मानता है। उन्होंने कुछ साजिश वीडियो के आसपास सूचना बॉक्स के साथ प्रयोग किया है। ये सभी, एक तरह से या किसी अन्य, सामग्री मॉडरेशन के रूप हैं।
जिस तरह से YouTube समस्याग्रस्त या आपत्तिजनक सामग्री की रिपोर्ट करने के लिए अच्छे लोगों पर निर्भर करता है, वह उसी तरह लगता है कि रेडिट भी बड़े पैमाने पर सामुदायिक मध्यस्थों द्वारा पॉलिश किया जाता है, हालांकि रेडिट को यह समस्या नहीं लगती है पैमाना।
तुलना समझ में आती है, लेकिन यह बहुत अलग है। प्रत्येक सबरेडिट एक समुदाय है जो मूल रूप से कहता है कि किस प्रकार की सामग्री की अनुमति है। विज्ञान SubReddit के संदर्भ में, उदाहरण के लिए, आप देख सकते हैं कि जब मॉडरेटर यह सुनिश्चित कर रहे हैं कि नियमों का पालन किया जा रहा है, जबकि अन्य सबरेडिट्स बहुत लाईसेज़-फेयर हैं। सबरेडिट्स पर पोस्ट की संख्या की तुलना YouTube पर किसी भी समय अपलोड किए जा रहे वीडियो की संख्या से नहीं की जा सकती। इनमें से कुछ फ़ोरम स्वयं-पुलिसिंग में रुचि रखते हैं। श्रम मूल रूप से उपयोगकर्ताओं को आउटसोर्स किया जाता है और धारणा यह है कि जब तक लोग उस श्रम को करने के लिए पर्याप्त रूप से प्रेरित होते हैं, यह ठीक है, लेकिन YouTube पर ऐसा नहीं है। ये फ़ोरम उसी तरह मौजूद नहीं हैं।
इन हालिया टिप्पणीकारों और हाल ही में YouTube किड्स स्कैंडल जैसे #ElsaGate के संदर्भ में, जहां ट्रोल बच्चों की सामग्री में भयानक वीडियो सिलाई कर रहे थे। क्या उन पर ध्यान आकर्षित करने का कोई तरीका है जो केवल औसत YouTube उपयोगकर्ता की अच्छी इच्छा पर निर्भर नहीं है?
YouTube धीरे-धीरे, बहुत धीरे-धीरे, सही दिशा में चला गया है। वे वहां नहीं हैं, लेकिन वे समझ रहे हैं कि लोग YouTube पर समाचारों की खोज करेंगे, इसलिए मेरे विचार से यह तय करना कि कौन से चैनल आएंगे, समझ में आता है।
मेरे अपने काम में, यह मेरे लिए चौंकाने वाला है कि YouTube मूल रूप से राजनीतिक सामग्री के साथ वैसा ही व्यवहार करता है जैसा वह पॉप संगीत करता है। हाल के हफ्तों में, वे धीरे-धीरे समझ गए हैं कि अंतर है।
उदाहरण के लिए, के साथ विरोधी वैक्सिंग आंदोलन, उन्होंने कहा कि वे आवश्यक रूप से अब कुछ वीडियो की अनुमति नहीं देंगे। मुझे लगता है कि यह महत्वपूर्ण है। राजनीतिक संदर्भ में, 'सिर्फ देख रहे लोग' का विचार वह नहीं है जो आप चाहते हैं। संगीत, गेमिंग या मनोरंजन के अन्य रूपों के लिए आप यही चाहते हैं, लेकिन जब जानकारी की बात आती है।
मुझे लगता है कि वीडियो और चैनल अनुशंसाओं के लिए, जहां यह तर्क जारी है, इसका उद्देश्य लोगों को मंच पर रखना है, चाहे वह किसी भी प्रेरणा के लिए हो, समस्याग्रस्त है।
तो, YouTube के हालिया टिप्पणी घोटालों से निपटने के लिए क्या समाधान, यदि कोई हो, क्या आप सुझाव देते हैं?
मैंने जो पढ़ा है, वह समुदाय ज्यादातर टिप्पणियों के माध्यम से अस्तित्व में था, जिसका तब YouTube अनुशंसाओं पर इतना बड़ा प्रभाव पड़ा था, इसलिए उन वीडियो को जोड़ा गया था, जाहिर तौर पर एक बीमार तरीके से। मुझे लगता है कि यह समस्याग्रस्त हिस्से की तरह है। एक मंच के रूप में आप कैसे जागरूक होते हैं? क्या आप जानते हैं कि कुछ ऐसा हो रहा है जो आगे नहीं बढ़ना चाहिए? और, क्योंकि स्पष्ट रूप से इन चीजों का पता लगाने के लिए कुछ, सक्रिय और जागरूक उपयोगकर्ताओं के लिए नीचे नहीं होना चाहिए, लेकिन शुक्र है, वहाँ हैं।
सवाल यह है: 'एल्गोरिदम उस संदर्भ में कैसे काम करते हैं और उसके लिए अनुमति देते हैं?' मेरी धारणा यह है कि टिप्पणी करने वाले उपयोगकर्ताओं और वीडियो अपलोड करने वाले लोगों के बीच अंतर है। मुझे लगता है कि डिस्कनेक्ट करना आसान हो सकता है; लेकिन मुझे लगता है कि सबसे अच्छा विकल्प यह होगा कि इंसानों में भारी मात्रा में निवेश किया जाए जो कि संदिग्ध सामग्री है, और यह पता लगाने की कोशिश करने के बारे में बहुत जागरूक है कि क्या एल्गोरिदम के संबंध में संदिग्ध के रूप में गठित।
क्या आपके दिमाग में YouTube का कोई ऐसा संस्करण मौजूद है, जिसे इन एल्गोरिदम पर चलने की ज़रूरत नहीं है, जो संभावित रूप से खतरनाक समुदायों को एक दूसरे से जोड़ सकते हैं? या यह मंच के लिए ही आंतरिक है?
मुझे नहीं लगता कि यह मंच के लिए आंतरिक है। मुझे लगता है कि यह व्यापार मॉडल के लिए आंतरिक है। आप एक वीडियो समुदाय के बारे में बहुत अच्छी तरह सोच सकते हैं जो शायद Reddit के समान है, उदाहरण के लिए, जो कुछ सामग्री या कुछ विषयों पर केंद्रित है, और जहां आप उस संबंध में वीडियो पोस्ट कर सकते हैं।
यही समस्या है। यदि YouTube उस एल्गोरिथम को छोड़ देता है जो लोगों को मंच पर रखता है, तो यह एक लाभ की समस्या है। YouTube पैसा कमाना चाहता है।
मुझे लगता है कि यह उचित है। प्लेटफ़ॉर्म कैसे काम करता है और क्यों, उदाहरण के लिए, कुछ सामग्री को दूसरों की तुलना में अधिक अनुकूल तरीके से व्यवहार किया जाता है, इस बारे में वर्तमान में बहुत सारी चर्चाएँ हो रही हैं। क्यों, गलत सूचना या षड्यंत्र के सिद्धांत फलने-फूलने में सक्षम हैं, व्यापार मॉडल के साथ क्या करना है, और यह विचार कि क्लिक के साथ सब कुछ पुरस्कृत है। ऐसे प्लेटफॉर्म बनाने के विचार हैं जो उसके आसपास नहीं बने हैं। लेकिन वे उतना पैसा नहीं कमाएंगे।
