Თებერვალში, YouTuber Matt Watson გამოაქვეყნა ვიდეო, რომელშიც გამოაშკარავებდა სიმარტივეს, რომლითაც მან შეძლო ალგორითმულად გამომუშავებულში შესვლა კურდღლის ხვრელი და იპოვნეთ პედოფილების კომენტირების საზოგადოებები, რომლებიც იყენებენ სხვაგვარად ნორმალურ ვიდეოებს ბავშვები. ზოგჯერ, იგივე კომენტატორები აქვეყნებდნენ ბმულებს გამოუქვეყნებელ ვიდეოებზე ან აქვეყნებდნენ WhatsApp-ის საკონტაქტო ინფორმაციას, რაც იყო, სავარაუდოდ, პედოფილებისთვის მეგობრული ჯგუფური შეტყობინებების გაგზავნა, მაგრამ ხშირად აქვეყნებდა ბავშვების დროის ნიშანს, რომლებიც კომპრომატიულ პოზიციებს ასრულებდნენ. ვიდეოები.
უოტსონის დასკვნებმა კვლავ გააჩაღა საუბარი YouTube-ის მოდერაციისა და პასუხისმგებლობის შესახებ. ბევრი ვიდეო, რომელიც მან აღმოაჩინა, პროგრამულად მონეტიზებული იყო რეკლამებით, რაც იმას ნიშნავს, რომ YouTube ფულს გამოიმუშავებდა კონტენტიდან ეს, თუმცა შესაძლოა არ იყო შემაშფოთებელი თავისთავად, გამოიყენებოდა დაწკაპუნებებითა და ნახვებით მათ მიერ, ვისაც ჰქონდა საიდუმლო მოტივები. თავად ვიდეოები არ იყო პრობლემა, უმეტესწილად. ბევრი ბავშვი იყო, რომლებიც ჩვეულებრივ ბავშვებს აკეთებდნენ: ჭიდაობდნენ და-ძმებს, აჩვენებდნენ თავიანთ სათამაშოს კოლექციები, მაგრამ კომენტარები და მათი ერთმანეთთან დაკავშირების გზები საეჭვო იყო და, საბოლოოდ, შემაშფოთებელი.
სკანდალი, რომელიც მოხდა მხოლოდ ერთი წლის შემდეგ, რაც YouTube-მა პირველად აღიარა ეს კომენტირების რგოლები და შემდეგ YouTube საბავშვო #ElsaGate-ის სკანდალმა, რომლის დროსაც ხალხმა იპოვა შემაშფოთებელი ვიდეოები პლატფორმაზე ბავშვებისა და მათი უსაფრთხოების გათვალისწინებით, ჩაერთო YouTube დებატებში, სადაც ბევრმა ჰკითხა: შეცვალა თუ არა YouTube რამეს საერთოდ? და თუ ასეა, რატომ მრავლდებოდა პრობლემა? შეიძლება გამოსწორდეს?
YouTube-მა უპასუხა იმით, რომ გააუქმა კომენტარები მილიონობით ვიდეოზე, რომლებიც მტაცებლების სამიზნე იყო და მიუთითა, რომ მათ ჰყავთ 10000 თანამშრომელი ღრმა გუნდი. ადამიანის კომენტარები და შინაარსის მოდერატორები და მანქანათმცოდნეობის სისტემა, რომლის ამოცანაა ვიდეოების გარჩევა და რაიმე შეურაცხმყოფელი დროშის მონიშვნა. მაგრამ საკმარისია? არის თუ არა რაიმე გზა YouTube-ისთვის, რომ გამოსწორდეს შეშფოთებულ მშობლებთან? ან კომპანიის ალგორითმი ძალიან შორს არის წასული?
იმის გასარკვევად, თუ რა შეიძლება გაკეთდეს პლატფორმის გასასწორებლად, მამობრივიესაუბრა იონას კეიზერს, ბერკმან კლაინის ინტერნეტისა და საზოგადოების შვილობილი ცენტრის წევრს, ალექსანდრე ფონ ჰუმბოლდტის ინტერნეტისა და საზოგადოების ინსტიტუტის ასოცირებულ მკვლევარს და DFG მკვლევარს. Keizer არის ექსპერტი YouTube ალგორითმებისა და მავნე თემების გავრცელების სფეროში. ჩვენ მას ვესაუბრეთ YouTube-ის ალგორითმის შესახებ, როგორ იქმნება ეს პრობლემები და რისი გაკეთება შეუძლია YouTube-ს უკეთესობისკენ.
თქვენი კვლევა ფოკუსირებულია ულტრამემარჯვენე ტროლების კამპანიებზე Youtube-ზე და როგორ ვრცელდება ასეთი საზოგადოებები. არის თუ არა მსგავსება ამ თემებსა და ამ ახლად აღმოჩენილ პედოფილურ თემებს შორის, რომლებიც აზიარებენ ბმულებს კომენტარების განყოფილებებში?
მე არ გავაკეთებდი ამ შედარებას. უკიდურეს მემარჯვენეებთანჩვენ გვაქვს უფრო თვალსაჩინო და აშკარა მცდელობები საზოგადოების ჩამოყალიბებისა და სხვა არხებთან დასაკავშირებლად. ისინი მიჰყვებიან თემების საკუთარ ტენდენციებს, რომლებიც მათი აზრით მნიშვნელოვანია და ეს ხდება არა ერთ არხზე, არამედ რამდენიმე არხზე. ეს კეთდება ძალიან შეგნებულად მათი ქმედებებით. შორს მემარჯვენე მოლაპარაკე თავები დადიან ერთმანეთის შოუში და ანიჭებენ ერთმანეთს თვალსაჩინო ლეგიტიმაციას.
ამავდროულად, მათი აქტივობისა და მომხმარებლის აქტივობის მეშვეობით ისინი ასევე ახდენენ YouTube-ის ალგორითმზე ზემოქმედებას ისე, რომ YouTube, პოლიტიკური ვიდეოები და პოლიტიკური არხები, რა იდეოლოგიასაც არ უნდა შეხედოთ, ხშირად მიგვიყვანს ულტრამემარჯვენეობამდე არხები.
ასე რომ, პედოფილური საზოგადოებები, როგორც ჩანს, გაცილებით მეტია, ვიდრე არხები და ვიდეოები სულაც არ იყო საზოგადოება აქ, არამედ ონლაინ კომენტარები, რომლებიც, რაც წავიკითხე, ქმნიდა ამ უცნაურ, უხილავ, ძალიან შემაშფოთებელს ფენომენი.
მათთვის, ვინც არ იცის, როგორ მუშაობს YouTube-ის ალგორითმი?
YouTube-ის ალგორითმი ტრიალებს იმ იდეის გარშემო, რომ ის შეინარჩუნებს მომხმარებლებს ჩართულობას. ამ კონტექსტში, ეს აშკარად ნიშნავს ვიდეოების ყურებას, კომენტარს, მოწონებას ან გაზიარებას. პლატფორმაზე დარჩენა ყველაზე მნიშვნელოვანი მიზანია. პლატფორმაზე დარჩენისთვის, თქვენ მიიღებთ რეკომენდაციებს თქვენს მთავარ გვერდზე, ვიდეო გვერდებზე და თავად არხებზე. ეს ყველაფერი აგებულია იმ იდეის გარშემო, რომ მომხმარებლები უნდა დარჩნენ პლატფორმაზე. საკითხავია, რა თქმა უნდა, როგორ ქმნის YouTube ალგორითმს, რომელიც ამას აკეთებს?
არსებობს მრავალი განსხვავებული მონაცემთა წერტილი, რომელიც შედის ამ ალგორითმში. მაგალითად: რა არის ამჟამად ტენდენცია პლატფორმაზე? რას უყურებდნენ იგივე ინტერესების მქონე სხვა ადამიანებმა? რომელ ვიდეოებზე ხდება ყველაზე ხშირად დაწკაპუნება? სად არის მსგავსი ადამიანების გადაფარვა მომხმარებლის კომენტარებში? ასეთი რაღაცეები. მთავარი იდეა ისაა, რომ ალგორითმმა ისწავლოს რა იზიდავს და ინახავს მომხმარებლებს პლატფორმაზე.
YouTube-ზე კონტენტისა და კომენტარების მოდერაციის თვალსაზრისით, როგორ არის დაყენებული ეს მოდერაცია? როგორ ფიქრობთ, ეს არის საკმარისი პასუხი ინტერნეტში არსებულ საფრთხეებზე?
მხოლოდ გარკვეულწილად. ზომიერების პრობლემა, როგორც ამას აკეთებს ყველაზე დიდი სოციალური მედიის პლატფორმები, არის ის, რომ ის აგებულია კონტენტზე მოხსენებული ადამიანების გარშემო. ასე რომ, ძირითადად, თუ არავინ შეატყობინებს ამას და ეს აშკარად არ ეწინააღმდეგება წესებს, რომლებიც იდენტიფიცირებულია მანქანური სწავლის საშუალებით - მაგ. წყევლის სიტყვები, ან მსგავსი რამ, რაც შეიძლება ალგორითმულად გაფილტრულიყო - სხვა კომენტარები აშკარად უფრო რთული ამოსაცნობია ასე რომ ა ადამიანმა უნდა შეხედოს მას. მაგრამ თუ არავინ იტყობინება შინაარსი, YouTube-მა არ იცის, რომ ის არსებობს, მხოლოდ იმიტომ, რომ პლატფორმაზე ამდენი კონტენტია. ის ხაზს უსვამს მომხმარებლების მნიშვნელობას. საუბარია იმაზე, არის თუ არა ეს კარგი თუ ცუდი, რომ მომხმარებლებს აყენებენ იმ მდგომარეობაში, რომ მათ უნდა გააკეთონ შრომა იმისათვის, რომ ხაზი გაუსვან YouTube-ს, რაც მათთვის შეურაცხმყოფელია.
ვიდეოს დონეზე, ახლა დანერგილია [ზომიერების] სხვა ფორმები, ამიტომ არის კონტენტის დაქვეითება, რომელიც შეიძლება მოიცავდეს საუკეთესო სიახლეებს. თუ ახალ ამბებს ეძებთ, პირველ რიგში მიიღებთ იმას, რასაც YouTube უფრო სანდო წყაროდ მიიჩნევს. მათ ჩაატარეს ექსპერიმენტები ინფორმაციის ყუთებით გარკვეული შეთქმულების ვიდეოების გარშემო. ეს ყველაფერი, ასე თუ ისე, შინაარსის ზომიერების ფორმებია.
ის, რომ YouTube ეყრდნობა კარგ სამარიელებს, რათა აცნობონ ისეთ საკითხებს, რომლებიც შეიძლება იყოს პრობლემური ან შეურაცხმყოფელი, მსგავსია რომ Reddit ასევე დიდწილად აკონტროლებს საზოგადოების მოდერატორებს, თუმცა Reddit-ს არ აქვს იგივე პრობლემა მასშტაბი.
შედარება აზრიანია, მაგრამ ეს ძალიან განსხვავებულია. თითოეული subreddit არის საზოგადოება, რომელიც ძირითადად ამბობს, თუ რა ფორმის შინაარსია დაშვებული. მაგალითად, SubReddit-ის მეცნიერების კონტექსტში, თქვენ შეგიძლიათ ნახოთ, როდესაც მოდერატორები დარწმუნდებიან, რომ წესები დაცულია, მაშინ როდესაც სხვა subreddits ძალიან ლაისე-ფეირია. subreddit-ებზე პოსტების რაოდენობა ვერ შეედრება YouTube-ზე ნებისმიერ საათში ატვირთული ვიდეოების რაოდენობას. ამ ფორუმებიდან ზოგიერთს აქვს ინტერესი თვითპოლიციით. შრომა ძირითადად ექვემდებარება მომხმარებლებს და ვარაუდობენ, რომ სანამ არის ხალხი მოტივირებული ამ სამუშაოს შესასრულებლად, ეს კარგია, მაგრამ ეს ასე არ არის YouTube-ზე. ეს ფორუმები არ არსებობს ერთნაირად.
რაც შეეხება ამ ბოლოდროინდელ კომენტატორებს და YouTube Kids-ის ბოლო სკანდალებს, როგორიცაა #ElsaGate, სადაც ტროლები საშინელ ვიდეოებს ათავსებდნენ საბავშვო კონტენტში. არის თუ არა მათზე ყურადღების მიქცევის საშუალება, რომელიც უბრალოდ არ ეყრდნობა საშუალო YouTube მომხმარებლის კეთილ ნებას?
YouTube ნელა, ძალიან ნელა, სწორი მიმართულებით წავიდა. ისინი იქ არ არიან, მაგრამ ესმით, რომ ხალხი იუთუბზე მოძებნის სიახლეებს, ასე რომ, ჩემი აზრით, რა არხების არჩევა აზრი აქვს.
ჩემს ნამუშევრებში, ჩემთვის გასაოცარია, რომ YouTube ძირითადად ისე ექცევა პოლიტიკურ კონტენტს, როგორც პოპ მუსიკას. ბოლო კვირებში მათ ნელ-ნელა გაიგეს, რომ განსხვავებაა.
მაგალითად, ერთად ვაქსინგის საწინააღმდეგო მოძრაობა, მათ თქვეს, რომ აუცილებლად აღარ დაუშვებდნენ გარკვეულ ვიდეოებს. ვფიქრობ, ეს მნიშვნელოვანია. პოლიტიკურ კონტექსტში, იდეა „უბრალოდ ხალხი უყურებს“ არ არის ის, რაც შენ გინდა. ეს არის ის, რაც გსურთ მუსიკისთვის, თამაშებისთვის ან გართობის სხვა ფორმებისთვის, მაგრამ როცა საქმე ეხება ინფორმაციას.
მე ვფიქრობ, რომ ვიდეო და არხის რეკომენდაციებისთვის, სადაც ეს ლოგიკა გრძელდება, ის მიზნად ისახავს პლატფორმაზე ხალხის ყოლას, არ აქვს მნიშვნელობა რომელი მოტივაციისთვის, პრობლემატურია.
მაშ, რა გადაწყვეტილებებს მირჩევთ, თუ არსებობს, YouTube-ის ბოლოდროინდელი კომენტარების სკანდალებთან გამკლავებისთვის?
რაც წავიკითხე, საზოგადოება ძირითადად არსებობდა კომენტარების საშუალებით, რამაც შემდეგ დიდი გავლენა მოახდინა YouTube-ის რეკომენდაციებზე, ამიტომ ეს ვიდეოები იყო ბმული, აშკარად საკმაოდ ავადმყოფური გზით. ვფიქრობ, ეს რაღაც პრობლემურ ნაწილს ჰგავს. როგორ აცნობიერებთ თქვენ, როგორც პლატფორმას? იცით თუ არა, რომ რაღაც ხდება, რაც არ უნდა გაგრძელდეს? და იმის გამო, რომ ცხადია, ეს არ უნდა იყოს გარკვეული, აქტიური და ინფორმირებული მომხმარებლების მიერ ამ საკითხების გარკვევა, მაგრამ საბედნიეროდ, არსებობს.
კითხვა ასეთია: „როგორ მუშაობს ალგორითმები ამ კონტექსტში და ამის საშუალებას იძლევა?“ ჩემი აღქმაა, რომ არსებობს განსხვავება იმ მომხმარებლებს შორის, რომლებმაც კომენტარი გააკეთეს და იმ ადამიანებს შორის, რომლებმაც ატვირთეს ვიდეო. მე ვფიქრობ, რომ შეიძლება უფრო ადვილი იყოს გათიშვა; მაგრამ მე ვფიქრობ, რომ საუკეთესო ვარიანტი იქნება დიდი ინვესტიცია ადამიანებში ზომიერი კონტენტით, რომელიც საეჭვოა, და უბრალოდ კარგად ვიცოდეთ, რომ გაერკვია რა საეჭვოა ალგორითმებთან მიმართებაში.
არსებობს თუ არა YouTube-ის ვერსია, რომელიც, თქვენი აზრით, არ უნდა იმუშაოს ამ ალგორითმებზე, რომლებსაც შეუძლიათ პოტენციურად სახიფათო თემები ერთმანეთთან დააკავშირონ? ან არის ეს თავად პლატფორმისთვის?
მე არ ვფიქრობ, რომ ეს პლატფორმისთვის არის შინაგანი. მე ვფიქრობ, რომ ეს არის ბიზნეს მოდელის განუყოფელი ნაწილი. თქვენ კარგად შეგიძლიათ იფიქროთ ვიდეო საზოგადოებაზე, რომელიც შეიძლება იყოს Reddit-ის მსგავსი, მაგალითად, რომელიც ფოკუსირებულია გარკვეულ კონტენტზე ან გარკვეულ თემებზე და სადაც შეგიძლიათ ამ კუთხით ვიდეოების გამოქვეყნება.
Ეს პრობლემაა. თუ YouTube მიატოვებს ალგორითმს, რომელიც ადამიანებს პლატფორმაზე აკავებს, მაშინ ეს მოგების პრობლემაა. YouTube-ს სურს გააგრძელოს ფულის გამომუშავება.
მე ვფიქრობ, რომ ეს სამართლიანია. ჩვენ გვაქვს ბევრი დისკუსია ამჟამად იმის შესახებ, თუ როგორ მუშაობს პლატფორმები და რატომ, მაგალითად, ზოგიერთ კონტენტს უფრო დადებითად ექცევა, ვიდრე სხვებს და რატომ, დეზინფორმაცია ან შეთქმულების თეორიები შეიძლება აყვავდეს, ეს დაკავშირებულია ბიზნეს მოდელთან და იდეასთან, რომ ყველაფერი დაწკაპუნებით დაჯილდოვდება. არსებობს იდეები, რომ გვქონდეს პლატფორმები, რომლებიც არ არის აგებული ამის გარშემო. მაგრამ ისინი ამდენ ფულს არ გამოიმუშავებენ.
