في فبراير، يوتيوب مات واتسون نشر مقطع فيديو يفضح السهولة التي تمكن من خلالها من الدخول في عملية توليد خوارزمية حفرة الأرانب والعثور على مجتمعات التعليق من المتحرشين بالأطفال الذين يستغلون مقاطع الفيديو العادية الأطفال. في بعض الأحيان ، نشر هؤلاء المعلقون روابط لمقاطع فيديو غير مدرجة أو نشروا معلومات اتصال WhatsApp لما كان ، من المفترض أن تكون مراسلة جماعية صديقة للأطفال ، ولكن غالبًا ما تنشر طوابع زمنية للأطفال في المواقف التي تم التنازل عنها في أشرطة فيديو.
أدت النتائج التي توصل إليها واطسون مرة أخرى إلى تأجيج النقاش حول الاعتدال والمساءلة في YouTube. تم استثمار العديد من مقاطع الفيديو التي وجدها برمجيًا من خلال الإعلانات ، مما يعني أن YouTube كان يجني الأموال من المحتوى هذا ، على الرغم من أنه ربما لم يكن يزعج نفسه ، فقد تم استغلاله في النقرات ووجهات النظر من قبل أولئك الذين لديهم خفية الدوافع. لم تكن مقاطع الفيديو نفسها هي المشكلة ، في الغالب. كان الكثير من الأطفال يقومون بأشياء عادية للأطفال: المصارعة مع أشقائهم ، والتباهي بلعبتهم المجموعات ، لكن التعليقات والطرق التي تم ربطها ببعضها البعض كانت مشبوهة ، وفي النهاية ، مزعج.
الفضيحة ، التي جاءت بعد عام واحد فقط من اعتراف YouTube بحلقات التعليق هذه وبعدها يوتيوب كيدز فضيحة #ElsaGate ، حيث وجد الناس مقاطع فيديو مزعجة على منصة تم إنشاؤها مع وضع الأطفال وسلامتهم في الاعتبار ، أشركت موقع YouTube في نقاش تساءل فيه الكثيرون: هل غيّر YouTube أي شيء على الإطلاق؟ وإذا كان الأمر كذلك ، فلماذا تكاثرت المشكلة؟ هل يمكن إصلاحه؟
استجاب YouTube من خلال تعطيل التعليقات على ملايين مقاطع الفيديو التي كان يتم استهدافها من قبل المحتالين والإشارة إلى أن لديهم فريقًا عميقًا قوامه 10000 موظف من تعليقات بشرية ومشرفين على المحتوى ونظام التعلم الآلي الذي تتمثل وظيفته في التدقيق في مقاطع الفيديو والإبلاغ عن أي شيء مسيء. لكن هل هذا كاف؟ هل هناك أي طريقة يمكن لـ YouTube من خلالها تسوية مشكلة الآباء القلقين؟ أم أن خوارزمية الشركة ذهبت بعيداً؟
لمعرفة ما يمكن فعله لإصلاح النظام الأساسي ، أبويتحدث إلى Jonas Keizer ، أحد المنتسبين في مركز Berkman Klein للإنترنت والمجتمع ، وباحث مشارك في معهد Alexander von Humboldt للإنترنت والمجتمع ، وزميل أبحاث DFG. Keizer هو خبير في خوارزميات YouTube وانتشار المجتمعات الضارة. تحدثنا إليه حول خوارزمية YouTube ، وكيفية إنشاء هذه المشكلات ، وما يمكن أن يفعله YouTube بشكل أفضل.
يركز بحثك على حملات التصيد لليمين المتطرف على Youtube وكيف تنتشر هذه المجتمعات. هل هناك أوجه تشابه بين هذه المجتمعات وتلك المجتمعات التي تم العثور عليها حديثًا عن مشتهي الأطفال تشارك الروابط في أقسام التعليقات؟
لن أجري تلك المقارنة. مع أقصى اليمين، لدينا محاولات أكثر وضوحًا ووضوحًا لتشكيل مجتمع والتواصل مع القنوات الأخرى. إنهم يتابعون اتجاهاتهم الخاصة في الموضوعات التي يعتقدون أنها مهمة وهذا لا يحدث على قناة واحدة بل على عدة قنوات. يتم ذلك بشكل متعمد للغاية من خلال أفعالهم. يذهب الرؤساء المتكلمون اليمينيون المتطرفون إلى عروض بعضهم البعض ويمنحون بعضهم البعض شرعية بارزة.
في الوقت نفسه ، من خلال نشاطهم ونشاط المستخدم ، فإنهم يؤثرون أيضًا على خوارزمية YouTube بطريقة تعمل غالبًا ما يؤدي YouTube ومقاطع الفيديو السياسية والقنوات السياسية ، بغض النظر عن الأيديولوجية التي تنظر إليها ، إلى اليمين المتطرف القنوات.
لذا ، يبدو أن مجتمعات الأطفال الذين يمارسون الجنس مع الأطفال أكثر بكثير من أن القنوات ومقاطع الفيديو لم تكن بالضرورة هي المجتمع هناك ، ولكن التعليقات عبر الإنترنت ، والتي ، مما قرأته ، خلقت هذا غريب وغير مرئي ومزعج للغاية ظاهرة.
بالنسبة لأولئك الذين ليسوا على دراية ، كيف تعمل خوارزمية YouTube؟
يوتيوب الخوارزمية يدور حول فكرة أنه سيحافظ على تفاعل المستخدمين. في هذا السياق ، من الواضح أن هذا يعني مشاهدة مقاطع الفيديو أو التعليق أو الإعجاب أو المشاركة. البقاء على المنصة هو أهم هدف. للبقاء على المنصة ، ستحصل على توصيات على صفحتك الرئيسية ، وعلى صفحات الفيديو ، وعلى القنوات نفسها. كل هذه الأمور مبنية على فكرة أن المستخدمين يجب أن يظلوا على المنصة. السؤال هو ، بالطبع ، كيف ينشئ YouTube خوارزمية تقوم بذلك؟
هناك العديد من نقاط البيانات المختلفة التي تدخل في تلك الخوارزمية. على سبيل المثال: ما الذي يتجه حاليًا على المنصة؟ ما الذي نظر إليه الأشخاص الآخرون الذين لديهم نفس الاهتمامات؟ ما هي مقاطع الفيديو التي يتم النقر عليها أكثر من غيرها؟ أين يتداخل الأشخاص المتشابهون في تعليقات المستخدم؟ هذه الأنواع من الأشياء. الفكرة الرئيسية هي جعل الخوارزمية تتعلم ما يجذب المستخدمين ويبقيهم على المنصة.
فيما يتعلق بالمحتوى وتعديل التعليقات على YouTube ، كيف يتم إعداد هذا الإشراف؟ هل تعتقد أنها استجابة كافية للتهديدات على الإنترنت؟
فقط إلى حد ما. مشكلة الاعتدال في الطريقة التي تقوم بها معظم منصات الوسائط الاجتماعية الكبيرة هي أنها مبنية على الأشخاص الذين يقومون بالإبلاغ عن المحتوى. لذلك ، في الأساس ، إذا لم يبلغ أحد عن ذلك ولم يكن ذلك مخالفًا بوضوح للقواعد التي يمكن تحديدها من خلال التعلم الآلي - مثل كلمات بذيئة ، أو شيء من هذا القبيل يمكن تصفيته من خلال الخوارزميات - من الواضح أنه من الصعب تحديد التعليقات الأخرى لذلك أ يحتاج الإنسان إلى النظر إليه. ولكن إذا لم يبلغ أحد عن المحتوى ، فلن يعرف موقع YouTube أنه موجود ، لمجرد وجود الكثير من المحتوى على النظام الأساسي. يسلط الضوء على أهمية المستخدمين. تمت مناقشة هذا الأمر ، سواء أكان هذا أمرًا جيدًا أم سيئًا أم لا ، حيث يتم وضع المستخدمين في الموقف الذي يتعين عليهم وضعه في العمل لتسليط الضوء على YouTube على ما يسيء إليهم.
على مستوى الفيديو ، تم تنفيذ أشكال أخرى [من الاعتدال] الآن ، لذلك هناك خفض في ترتيب المحتوى يمكن أن يتضمن أهم الأخبار. إذا كنت تبحث عن عناصر إخبارية ، فستحصل أولاً على ما يعتبره YouTube مصادر أكثر موثوقية. لقد جربوا مربعات المعلومات حول مقاطع فيديو مؤامرة معينة. هذه كلها ، بطريقة أو بأخرى ، أشكال من تعديل المحتوى.
الطريقة التي يعتمد بها YouTube على السامريين الجيدين للإبلاغ عن الأشياء التي قد تكون إشكالية أو مسيئة تبدو مشابهة للطريقة أن Reddit يخضع أيضًا للمراقبة إلى حد كبير من قبل وسطاء المجتمع ، على الرغم من أن Reddit لا يبدو أن لديه هذه المشكلة في نفس الوقت مقياس.
المقارنة منطقية ، لكنها مختلفة جدًا. كل subreddit عبارة عن مجتمع يحدد بشكل أساسي شكل المحتوى المسموح به. في سياق علم SubReddit ، على سبيل المثال ، يمكنك أن ترى متى يتأكد الوسطاء من اتباع القواعد ، في حين أن subreddits الأخرى هي سياسة عدم التدخل. لا يمكن مقارنة عدد المشاركات على subreddits بأعداد مقاطع الفيديو التي يتم تحميلها في أي ساعة على YouTube. بعض هذه المنتديات لها مصلحة في ضبط النفس. يتم الاستعانة بمصادر خارجية للعمالة بشكل أساسي من قبل المستخدمين ، والافتراض هو أنه طالما كان هناك أشخاص لديهم الحافز الكافي للقيام بهذا العمل ، فلا بأس بذلك ، ولكن هذا ليس هو الحال على YouTube. هذه المنتديات لا توجد بنفس الطريقة.
فيما يتعلق بهؤلاء المعلقين الجدد وفضائح YouTube Kids الأخيرة مثل #ElsaGate ، حيث كان المتصيدون يصنعون مقاطع فيديو مروعة في محتوى للأطفال. هل هناك طريقة لجذب الانتباه إليهم لا تعتمد فقط على حسن نية مستخدم YouTube العادي؟
لقد سار موقع YouTube ببطء ، وببطء شديد ، في الاتجاه الصحيح. إنهم غير موجودين ، لكنهم يدركون أن الأشخاص سيبحثون على YouTube عن الأخبار ، لذا فإن تنسيق القنوات التي ستظهر أمرًا منطقيًا في رأيي.
في عملي الخاص ، من المدهش بالنسبة لي أن YouTube يتعامل بشكل أساسي مع المحتوى السياسي كما يتعامل مع موسيقى البوب. في الأسابيع الأخيرة ، فهموا ببطء أن هناك فرقًا.
على سبيل المثال ، مع حركة ضد vaxxing، قالوا إنهم لن يسمحوا بالضرورة بمقاطع فيديو معينة بعد الآن. أعتقد أن هذا مهم. في السياق السياسي ، فكرة "مشاهدة الناس فقط" ليست ما تريده. هذا ما تريده للموسيقى أو للألعاب أو أي شكل آخر من أشكال الترفيه ، ولكن عندما يتعلق الأمر بالمعلومات.
أعتقد أنه بالنسبة لتوصيات الفيديو والقنوات ، حيث يستمر هذا المنطق ، فإن ذلك يهدف إلى وجود أشخاص على المنصة ، بغض النظر عن الدافع ، يمثل مشكلة.
لذا ، ما الحلول ، إن وجدت ، التي تقترحها للتعامل مع فضائح التعليقات الأخيرة على YouTube؟
من خلال ما قرأته ، كان المجتمع موجودًا في الغالب من خلال التعليقات ، والتي كان لها بعد ذلك تأثير كبير على توصيات YouTube ، لذلك تم ربط مقاطع الفيديو هذه ، بشكل واضح إلى حد ما. أعتقد أن هذا يشبه إلى حد ما الجزء الإشكالي. كيف تكون ، كمنصة ، على علم؟ هل تعلم أن هناك شيئًا ما يحدث ولا ينبغي أن يستمر؟ ولأنه من الواضح أنه لا ينبغي أن يكون الأمر متروكًا لمستخدمين معينين ونشطين ومدركين لمعرفة هذه الأشياء ، ولكن لحسن الحظ ، هناك.
السؤال هو: "كيف تعمل الخوارزميات في هذا السياق وتسمح بذلك؟" تصوري هو أن هناك فرقًا بين المستخدمين الذين علقوا والأشخاص الذين حمّلوا مقاطع الفيديو. أعتقد أنه قد يكون من الأسهل قطع الاتصال ؛ ولكني أعتقد أن الخيار الأفضل هو الاستثمار بكثافة في البشر للإشراف على المحتوى المريب ، وأن تكون مدركًا تمامًا لمحاولة اكتشاف ما يشكل مشبوهة فيما يتعلق بالخوارزميات.
هل يوجد إصدار من YouTube ، في رأيك ، لا يجب أن يعمل على هذه الخوارزميات التي يمكن أن تربط المجتمعات التي يُحتمل أن تكون خطرة ببعضها البعض؟ أم أنها جوهرية للمنصة نفسها؟
لا أعتقد أنه أمر جوهري للمنصة. أعتقد أنه جزء لا يتجزأ من نموذج الأعمال. يمكنك التفكير جيدًا في مجتمع فيديو قد يكون مشابهًا لـ Reddit ، على سبيل المثال ، يركز على محتوى معين أو مواضيع معينة ، وحيث يمكنك نشر مقاطع فيديو بهذا الصدد.
تلك هي المشكلة. إذا تخلى YouTube عن الخوارزمية التي تبقي الأشخاص على المنصة ، فهذه مشكلة ربح. يريد YouTube الاستمرار في جني الأموال.
أعتقد أن هذا عادل. الكثير من المناقشات التي نجريها حاليًا حول كيفية عمل الأنظمة الأساسية ولماذا ، على سبيل المثال ، يتم التعامل مع بعض المحتوى بشكل أفضل من غيره و لماذا ، المعلومات المضللة أو نظريات المؤامرة قادرة على الازدهار ، لها علاقة بنموذج العمل ، وفكرة أن كل شيء بنقرات يكافأ. هناك أفكار لامتلاك منصات غير مبنية على ذلك. لكن هؤلاء لن يجنوا نفس القدر من المال.
