Τη διάρκεια του Σαββατοκύριακου, YouTube Ο ακτιβιστής Matt Watson χτύπησε το πρωτοσέλιδο του Reddit με ένα βίντεο για τον α ενοχλητικό φαινόμενο που ανακάλυψε στην πλατφόρμα φιλοξενίας βίντεο της Google, τη δεύτερη μεγαλύτερη μηχανή αναζήτησης στον κόσμο. Watson έδειξε πώς μπορούσε να κάνει κλικ στο κανονικό, κατάλληλο περιεχόμενο του YouTube σε υποβλητικά βίντεο νεαρών κοριτσιών. Αν και πολλά από αυτά τα βίντεο, στα οποία παρουσιάζουν προνήπια να φορούν μπικίνι και να κάνουν βάμμα στα υπνοδωμάτιά τους, δεν ήταν ρητά σεξουαλικά, το μεγαλύτερο μέρος είχε σχολιαστεί από χρήστες με φαινομενικά παιδόφιλος πρόθεση. Ορισμένα σχόλια περιείχαν χρονικές σημάνσεις για συγκεκριμένες στιγμές που τα νεαρά κορίτσια βρίσκονταν σε συμβιβαστική θέση. Ορισμένα σχόλια διαθέτουν συνδέσμους προς ιδιωτικά, μη καταχωρισμένα βίντεο. Αυτά τα κλιπ YouTube αποκόμισαν έσοδα μέσω διαφημίσεων για εταιρείες όπως η Grammarly και η ίδια η Google.
Λίγο μετά Το βίντεο του Watson, που τον έδειξε να εκφράζει φρίκη για το φαινόμενο,
Αυτό ήταν κάτι, αλλά όπως Forbes, Mashable, Business Insider, και Οι Νιου Γιορκ Ταιμς Όλα επισημάνθηκαν, δεν ήταν μια λύση σε ένα προφανές πρόβλημα αλγοριθμικής, ανθρώπινης ή μηχανικής μάθησης.
Είναι ενδιαφέρον ότι πολλά βίντεο που προέβαλε ο Watson είχαν απενεργοποιήσει τα σχόλια, γεγονός που υποδηλώνει ότι οι διαχειριστές περιεχομένου του YouTube έχουν παρατηρήσει τη σειρά των σχολίων και προσπαθούν να κάνουν πιο δύσκολο για τους παιδόφιλους να χειρουργήσουν ιστοσελίδα. Αλλά όλες αυτές οι προσπάθειες επιβεβαιώθηκαν ήταν η επίγνωση του άλυτου προβλήματος.
Στην πραγματικότητα, είναι σαφές ότι το πρόβλημα χρονολογείται τουλάχιστον από το 2017. Τον ίδιο μήνα που το «ElsagateΗ διαμάχη ξέσπασε, οι άνθρωποι είχαν αρχίσει να χτυπούν τον κώδωνα του κινδύνου για περίεργα, σιωπηρά σεξουαλικά σχόλια σε βίντεο μικρών παιδιών, φτιαγμένα για παιδιά. Αρέσει στους μεγάλους διαφημιστές AT&T σταμάτησε να δαπανά για διαφημίσεις στον ιστότοπο όταν το BBC ανέφερε ότι τα ακατάλληλα σχόλια σε βίντεο με παιδιά που δημιουργούν έσοδα συχνά περιλάμβαναν χρονικές σημάνσεις για δευτερεύουσες στιγμές με υποδηλωτικές θέσεις και συνδέσμους προς μη καταχωρισμένα βίντεο — και οι διαφημιζόμενοι δεν συνέχισαν να δαπανούν έως ότου «επιδιορθωθεί» το πρόβλημα. Επί 21 Φεβρουαρίου, AT&T, που μόλις είχε αρχίσει να διαφημίζεται ξανά στην πλατφόρμα τον Ιανουάριο, δήλωσε ότι θα σταματήσει να δαπανά για διαφημίσεις στην πλατφόρμα. Οι Hasbro, Nestle και Disney ακολούθησαν το παράδειγμά τους.
Το Elsagate δεν είναι το ίδιο με ένα κύκλωμα παιδεραστίας, αλλά τα προβλήματα συνδέονται. Τα αγροκτήματα περιεχομένου εκμεταλλεύτηκαν τις λέξεις-κλειδιά και τοποθέτησαν αυτόματα διαφημίσεις με βάση την αφοσίωση του καναλιού και κακόβουλο φιλτράρισμα τεχνητής νοημοσύνης και δημιούργησαν κινούμενα σχέδια που χρησιμοποιούσαν χαρακτήρες δημοφιλών παιδιών χωρίς άδεια franchises. Πολλα απο αυτα «Φάρμες περιεχομένου» — δηλαδή, οι εταιρείες που δημιούργησαν αυτά τα βίντεο — έχουν την έδρα τους σε μέρη όπως το Χο Τσι Μινχ, Βιετνάμ. Δεν ήταν εκπαιδευτικά ή φιλικά προς τα παιδιά, αλλά πολλαπλασιάστηκαν στα παιδιά του YouTube ως βίντεο για δημιουργία εσόδων.
YouTube άλλαξαν τις οδηγίες δημιουργίας εσόδων μετά τα διπλά σκάνδαλα του 2017. Σήμερα, οι δημιουργοί βίντεο πρέπει να έχουν τουλάχιστον 1.000 συνδρομητές και να έχουν προβληθεί τα βίντεό τους για 4.000 ώρες. Αυτοί οι κανονισμοί τέθηκαν σε ισχύ μόνο μετά το Elsagate και τώρα η εταιρεία ισχυρίζεται ότι όλα τα βίντεο που δημιουργούν έσοδα θα ελέγχονται από πραγματικούς ανθρώπους, όχι τεχνητή νοημοσύνη, προκειμένου να περιοριστεί η προβολή ακατάλληλων διαφημίσεων (σκεφτείτε: μια διαφήμιση Google που προβάλλει ένα βίντεο με ένα κορίτσι που τρώει ένα γλειφιτζούρι που είχε πάνω από 1 εκατομμύριο προβολές).
Γι' αυτό τόσα πολλά βίντεο με παιδιά έχουν απενεργοποιήσει τα σχόλια κάτω από τα βίντεο. Οι 10.000 άνθρωποι αναθεωρητές του YouTube, επιφορτισμένοι με τον έλεγχο των 400 ωρών βίντεο που ανεβαίνουν στο YouTube κάθε λεπτό, είναι επίσης υπεύθυνοι για την εξέταση σχετικά με την αλληλεπίδραση με τα εν λόγω βίντεο και την απενεργοποίηση ακατάλληλων σχολίων, συνδέσμων προς μη καταχωρισμένα βίντεο ή χρονικές σημάνσεις των παιδιών σε υπονοούμενα θέσεις.
Έκανα νέο λογαριασμό YouTube αφού διαπίστωσα ότι οι αλγόριθμοί μου ήταν τόσο εδραιωμένοι που ήταν δύσκολο να βρω ακατάλληλο περιεχόμενο και έψαξα το ίδιο πράγμα που έψαξε και ο Γουάτσον - "μπικίνι έλξη". Μέσα σε 12 κλικ βρέθηκα σε μια περίεργη τρύπα από κουνέλι με βίντεο με παιδική πάλη και νυχτερινά κορίτσια ρουτίνες. Έπεσα πάνω σε ένα βίντεο 30+ λεπτών και βρήκα αυτό:
Στις 21:25, η κοπέλα στο βίντεο απομακρύνθηκε από την κάμερα και για ένα φλας του δευτερολέπτου φαινόταν ο καβάλος της.
Συνάντησα επίσης μια σειρά από βίντεο μόντελινγκ νεαρών κοριτσιών σαφώς κάτω των 18 ετών. Οι σχολιαστές παρατήρησαν πόσο όμορφα ήταν τα μοντέλα και πόσο υπέροχα έδειχναν με τα εσώρουχά τους, παρά το γεγονός ότι πρόκειται για παιδιά. Δεν θα κοινοποιήσω τα βίντεο επειδή είναι ακατάλληλα. αλλά το γεγονός είναι ότι όχι μόνο αυτά τα σχόλια πρέπει να παρακολουθούνται εκτενώς, αλλά ίσως να μην υπάρχουν καθόλου στον ιστότοπο. Δεν έχει ληφθεί καμία ενέργεια εναντίον αυτών των σχολίων ή του ίδιου του βίντεο με ανηλίκους να κάνουν μόντελινγκ εσωρούχων.
Και ένα άλλο κορίτσι δημοσίευσε ένα βίντεο από τη νυχτερινή της ρουτίνα, μετά το ντους. Το κορίτσι, του οποίου η σελίδα στο YouTube ονομάζεται "Η εμπειρία του Makenzie's Fortnite» και που φαίνεται να μην είναι πάνω από 13 χρονών, μετακινεί κατά λάθος την πετσέτα της με τρόπο στο βίντεο που δείχνει η πλευρά του γυμνού κορμού της στο 2:47 λεπτό.
Προφανώς, αυτό το βίντεο δεν έπρεπε να έχει ανέβει ποτέ. Το κορίτσι σε αυτό είναι σαφώς προ-εφηβικό και φοράει μια πετσέτα, εξηγώντας τη νυχτερινή ρουτίνα της. Αυτό το βίντεο έχει περίπου 51.000 προβολές. Τα υπόλοιπα βίντεό της έχουν από οκτώ έως 150 προβολές. Λοιπόν, γιατί συμβαίνει αυτό; Γνωρίζει γιατί 51.000 άτομα έχουν δει αυτό το βίντεο και κανένα από τα βίντεο Fortnite ή τα διασκεδαστικά βίντεό της για χειροτεχνίες; Καταλαβαίνει ότι υπάρχουν άνθρωποι εκεί έξω που δεν το βλέπουν αυτό επειδή δεν τους ενδιαφέρει πραγματικά η νυχτερινή ρουτίνα της, αλλά θέλουν να δουν ένα κοριτσάκι με μια πετσέτα; Μπορεί. Μάλλον όχι. είναι παιδί. Κάποιος θα πρέπει να παρακολουθεί πιο στενά τη χρήση του Διαδικτύου, αλλά αυτό είναι επίσης δύσκολο. Και εκεί είναι που Το YouTube πρέπει να μπει, αλλά δεν έχει. Αυτό είναι ακατάλληλο περιεχόμενο ακόμα κι αν δεν είναι φανερά σεξουαλικό λόγω του τρόπου με τον οποίο είναι πιθανό να καταναλωθεί. Αυτό δεν είναι κάτι τολμηρό, εκτός κι αν είστε το είδος του ατόμου που το βρίσκει συγκεκριμένα μελαγχολικό.
Αν και αυτά τα βίντεο δεν είχαν έσοδα για διαφημίσεις, είναι επίσης ξεκάθαρο ότι δεν παρακολουθούνταν από ανθρώπους ή τεχνητή νοημοσύνη — τουλάχιστον όχι αποτελεσματικά. Μερικά από τα βίντεο δεν πρέπει να υπάρχουν καθόλου στο YouTube, αλλά έχουν εκατομμύρια προβολές. Εάν η εποπτεία σχολίων και περιεχομένου είναι τόσο αναποτελεσματική όσο φαίνεται, τα παιδιά θα συνεχίσουν να αποτελούν αντικείμενο σεξουαλικού ενδιαφέροντος στην πλατφόρμα, η οποία θα συνεχίσει να είναι ένα εργαλείο για τα αρπακτικά.
Καθώς το YouTube γίνεται ένα μέρος όπου όλο και περισσότερα παιδιά καταναλώνουν βίντεο καθώς και ένα μέρος όπου παρουσιάζουν τις δημιουργίες τους, οι υπεύθυνοι Η πλατφόρμα πρέπει να αποφασίσει εάν θα πρέπει να επιδιώκεται η μετριοπάθεια προς όφελος της εύλογης άρνησης ή προς το συμφέρον της προστασίας παιδιά. Εάν η εταιρεία καταλήξει στο τελευταίο συμπέρασμα - και ας ελπίσουμε ότι θα συμβεί - θα πρέπει να επανεξετάσουν τόσο το προσωπικό όσο και το λογισμικό τους. Εάν δεν το κάνουν αυτό, θα πρέπει να επανεξετάσουν τον ρόλο που θέλουν να παίξουν στο διαδίκτυο.
