Შაბათ - კვირას, YouTube აქტივისტი მეტ უოტსონი Reddit-ის პირველ გვერდზე ვიდეოთი მოხვდა ა შემაშფოთებელი ფენომენი მან აღმოაჩინა Google-ის ვიდეო ჰოსტინგის პლატფორმაზე, მსოფლიოში სიდიდით მეორე საძიებო სისტემაში. უოტსონი აჩვენა, თუ როგორ შეეძლო YouTube-ის ნორმალური, შესაბამისი კონტენტის დაჭერა ახალგაზრდა გოგონების დამაფიქრებელ ვიდეოებზე. მიუხედავად იმისა, რომ ამ ვიდეოებიდან ბევრი, რომელშიც წარმოდგენილია თინეიჯერები, რომლებსაც ბიკინი აცვიათ და თავიანთ საძინებლებში ვამპირობდნენ, არ იყო აშკარად სექსუალური, უმეტესობაზე კომენტარი გააკეთა მომხმარებლებმა ერთი შეხედვით. პედოფილური განზრახვა. ზოგიერთ კომენტარში გამოსახულია დროის შტამპები კონკრეტული მომენტებისთვის, როდესაც ახალგაზრდა გოგონები კომპრომატიულ პოზიციებზე იმყოფებოდნენ. ზოგიერთ კომენტარში მოცემულია პირადი, გამოუქვეყნებელი ვიდეოების ბმულები. ამ YouTube კლიპების მონეტიზაცია მოხდა ისეთი კომპანიების რეკლამებით, როგორიცაა Grammarly და თავად Google.
ცოტა ხნის შემდეგ უოტსონის ვიდეოაჩვენა, რომ იგი გამოხატავდა საშინელებას ამ ფენომენის მიმართ, ავიდა Reddit-ის რეიტინგში,
ეს იყო რაღაც, მაგრამ როგორც Forbes, Mashable, Business Insider, და Ნიუ იორკ თაიმსი ყველამ აღნიშნა, რომ ეს არ იყო გამოსავალი აშკარა ალგორითმული, ადამიანის ან მანქანათმცოდნეობის პრობლემისგან.
საინტერესოა, რომ უოტსონის ნანახი ბევრ ვიდეოს ჰქონდა გამორთული კომენტარები, რაც მიგვითითებს YouTube-ის კონტენტის მენეჯერებზე შეამჩნია კომენტარების მთელი რიგი და ცდილობდნენ გაურთულონ პედოფილებს მათზე ოპერაცია საიტი. მაგრამ ყველა ეს მცდელობა დადასტურებული იყო გადაუჭრელი პრობლემის გაცნობიერება.
სინამდვილეში, აშკარაა, რომ პრობლემა თარიღდება მინიმუმ 2017 წლით. იმავე თვეში, როდესაც "ელსაგატედაპირისპირება ააფეთქეს, ხალხმა დაიწყო განგაშის რეკვა უცნაურ, ფარულად სექსუალურ კომენტარებზე პატარა ბავშვებისთვის შექმნილ ვიდეოებზე. მთავარ რეკლამის განმთავსებლებს მოსწონთ AT&T შეწყვიტა რეკლამისთვის ხარჯვა საიტზე, როდესაც BBC-მ განაცხადა, რომ ბავშვების მონეტიზებულ ვიდეოებზე არასათანადო კომენტარები ხშირად შეიცავს დროის ნიშანს დამაფიქრებელი პოზიციების წამიერი მომენტები და გამოუქვეყნებელი ვიდეოების ბმულები — და რეკლამის განმთავსებლებმა არ განაახლეს ხარჯვა მანამ, სანამ საკითხი არ „მოიწესრიგდა“. ჩართულია 21 თებერვალი, AT&T, რომელმაც ახლახან დაიწყო რეკლამა პლატფორმაზე იანვარში, განაცხადა, რომ შეწყვეტენ პლატფორმაზე რეკლამების ხარჯვას. ჰასბრო, ნესტლე და დისნეი ყველამ მიბაძა.
Elsagate არ არის იგივე, რაც პედოფილიის ბეჭედი, მაგრამ პრობლემები ერთმანეთთან არის დაკავშირებული. კონტენტ ფერმებმა ისარგებლეს საკვანძო სიტყვებით და ავტომატურად განათავსეს რეკლამები არხის ჩართულობის საფუძველზე და ცუდი ხელოვნური ინტელექტის ფილტრაცია და შექმნეს მულტფილმები, რომლებშიც გამოყენებული იყო პოპულარული ბავშვების არალიცენზირებული პერსონაჟები ფრანჩაიზები. ბევრი მათგანი "შინაარსის ფერმები" - ანუ, კომპანიები, რომლებმაც შექმნეს ეს ვიდეოები - სათაო ოფისები არიან ისეთ ადგილებში, როგორიცაა ჰო ჩიმინი, ვიეტნამი. ისინი არ იყო საგანმანათლებლო ან ბავშვებისთვის შესაფერისი, მაგრამ გავრცელდა YouTube kids-ზე, როგორც მონეტიზებული ვიდეოები.
YouTube შეცვალეს მონეტიზაციის ინსტრუქციები 2017 წლის ორმაგი სკანდალების შემდეგ. დღეს, ვიდეოს შემქმნელებს უნდა ჰყავდეთ მინიმუმ 1000 გამომწერი და მათი ვიდეოები ნახონ 4000 საათის განმავლობაში. ეს რეგულაციები ამოქმედდა მხოლოდ Elsagate-ის შემდეგ და ახლა კომპანია აცხადებს, რომ ყველა ვიდეო, რომელიც მონეტიზებულია, განიხილება რეალური ადამიანების მიერ და არა ხელოვნური ხელოვნური ინტელექტი, რათა შეზღუდოს არასათანადო რეკლამა (დაფიქრდით: Google-ის რეკლამა, რომელიც წინასწარ ასახავს ვიდეოს, რომელშიც გოგონა ჭამს ლოლიპოპს, რომელსაც 1 მილიონზე მეტი აქვს დათვალიერება).
ამიტომ ამდენი ბავშვების ვიდეოები კომენტარები გამორთულია ვიდეოების ქვეშ. YouTube-ის 10000 ადამიანი მიმომხილველი, რომლებსაც ევალებათ ყოველ წუთში YouTube-ზე ატვირთული 400 საათის კადრების გადახედვა, ასევე პასუხისმგებელნი არიან ნახონ. აღნიშნულ ვიდეოებთან ჩართულობისა და შეუსაბამო კომენტარების, გამოუქვეყნებელი ვიდეოების ბმულების ან ბავშვების დროითი ნიშების გამორთვა დამაფიქრებელში პოზიციები.
მე შევქმენი ახალი YouTube ანგარიში მას შემდეგ, რაც აღმოვაჩინე, რომ ჩემი ალგორითმები იმდენად გამყარებული იყო, რომ შეუსაბამო შინაარსის პოვნა რთული იყო და მოვძებნე იგივე, რაც უოტსონმა ეძება - „ბიკინის ზიდვა“. 12 დაწკაპუნებით მე აღმოვჩნდი უცნაურ კურდღლის ხვრელში ბავშვების ჭიდაობის ვიდეოებსა და გოგოების ღამის საათებში რუტინები. მე წავაწყდი ერთ 30+ წუთიან ვიდეოს და აღმოვაჩინე ეს:
21:25 საათზე ვიდეოში გადაღებული გოგონა კამერას მოშორდა და წამის ელვარე ჩანდა მისი ჯოხი.
მე ასევე წავაწყდი უამრავ სამოდელო ვიდეოს ახალგაზრდა გოგონების აშკარად 18 წლამდე. კომენტატორებმა აღნიშნეს, თუ რა ლამაზები იყვნენ მოდელები და რამდენად შესანიშნავად გამოიყურებოდნენ ისინი საცვლებში, მიუხედავად იმისა, რომ ეს ბავშვები არიან. მე არ გავაზიარებ ვიდეოებს, რადგან ისინი შეუსაბამოა; მაგრამ საქმე იმაშია, რომ არა მხოლოდ ამ კომენტარების ხანგრძლივი მონიტორინგი, ისინი შესაძლოა საერთოდ არ იყოს ვებგვერდზე. არანაირი ქმედება არ განხორციელებულა ამ კომენტარების ან თავად ვიდეოს წინააღმდეგ, სადაც არასრულწლოვნები საცვლების მოდელირებას ასახავს.
და კიდევ ერთმა გოგონამ გამოაქვეყნა ვიდეო მისი ღამის რუტინის, შხაპის შემდეგ. გოგონა, რომლის იუთუბის გვერდი ჰქვია "მაკენზის Fortnite გამოცდილება”და რომელიც, როგორც ჩანს, არაუმეტეს 13 წლისაა, შემთხვევით პირსახოცს ისე აძვრება ვიდეოში, რომელიც 2:47 წუთის ნიშნულზე შიშველი ტანის გვერდით ჩანს.
ცხადია, ეს ვიდეო არასდროს არ უნდა ატვირთულიყო. მასში შემავალი გოგონა აშკარად მომწიფებული იყო და პირსახოცი აცვია და ღამის რუტინას ხსნის. ამ ვიდეოს დაახლოებით 51000 ნახვა აქვს. მის დანარჩენ ვიდეოებს რვა-დან 150-მდე ნახვა აქვს. მაშ, რატომ ხდება ეს? იცის თუ არა მან რატომ ნახა 51000-მა ადამიანმა ეს ვიდეო და არც ერთი მისი Fortnite ვიდეო ან სახალისო ხელნაკეთობების ვიდეო? ესმის თუ არა მას, რომ არსებობენ ადამიანები, რომლებიც ამას არ უყურებენ, რადგან მათ ნამდვილად არ აინტერესებთ მისი ღამის რუტინა, მაგრამ სურთ ნახონ პატარა გოგონა პირსახოცში? Შესაძლოა. შეიძლება არა. ის ბავშვია. ვინმემ უფრო ყურადღებით უნდა აკონტროლოს მისი ინტერნეტის გამოყენება, მაგრამ ეს ასევე რთულია. და აი სად YouTube უნდა შემოვიდეს, მაგრამ არა. ეს არის შეუსაბამო კონტენტი მაშინაც კი, თუ ის აშკარად სექსუალური არ არის მისი მოხმარების სავარაუდო მეთოდის გამო. ეს არ არის დამამშვიდებელი რამ, თუ თქვენ არ ხართ ისეთი ადამიანი, რომელიც კონკრეტულად თვლის, რომ ეს ტიტულია.
მიუხედავად იმისა, რომ ეს ვიდეოები არ იყო მონეტიზებული რეკლამისთვის, მათ ასევე აშკარად არ აკვირდებოდნენ ადამიანები ან ხელოვნური ინტელექტი - ყოველ შემთხვევაში, არა ეფექტური. ზოგიერთი ვიდეო საერთოდ არ უნდა იყოს YouTube-ზე, მაგრამ ჰქონდეს მილიონობით ნახვა. თუ კომენტარები და შინაარსის მოდერაცია ისეთივე არაეფექტურია, როგორც ერთი შეხედვით ჩანს, ბავშვები კვლავ იქნებიან სექსუალური ინტერესის საგანი პლატფორმაზე, რომელიც კვლავ იქნება მტაცებლების იარაღი.
როდესაც YouTube ხდება ადგილი, სადაც უფრო და უფრო მეტი ბავშვი მოიხმარს ვიდეოს და ასევე ადგილი, სადაც ისინი აჩვენებენ თავიანთ შემოქმედებას, პასუხისმგებელი პირები პლატფორმამ უნდა მიიღოს გადაწყვეტილება იმის შესახებ, უნდა მოხდეს თუ არა ზომიერება სარწმუნო უარყოფის ინტერესებიდან გამომდინარე, თუ დაცვის ინტერესებიდან გამომდინარე ბავშვები. თუ კომპანია ბოლო დასკვნამდე მივა - და იმედი ვიქონიოთ, რომ ასე იქნება - მათ მოუწევთ გადახედონ როგორც პერსონალს, ასევე პროგრამულ უზრუნველყოფას. თუ ისინი ამას არ გააკეთებენ, უნდა გადახედონ რა როლის შესრულება სურთ ინტერნეტში.
