Τον Φεβρουάριο, Ο YouTuber Matt Watson δημοσίευσε ένα βίντεο που αποκαλύπτει την ευκολία με την οποία μπόρεσε να εισέλθει σε ένα αλγοριθμικά δημιουργημένο τρύπα κουνελιών και βρείτε κοινότητες σχολιασμού παιδεραστών που εκμεταλλεύονται τα κατά τα άλλα κανονικά βίντεο παιδιά. Μερικές φορές, αυτοί οι ίδιοι σχολιαστές δημοσίευσαν συνδέσμους προς μη καταχωρισμένα βίντεο ή δημοσίευσαν στοιχεία επικοινωνίας στο WhatsApp για το τι ήταν, πιθανώς, φιλικά προς τους παιδοφιλικούς ομαδικά μηνύματα, αλλά συχνά αναρτούσαν χρονικές σημάνσεις παιδιών σε συμβιβαστική θέση στο εν λόγω Βίντεο.
Τα ευρήματα του Watson φούντωσαν για άλλη μια φορά τη συζήτηση σχετικά με την εποπτεία και την υπευθυνότητα του YouTube. Πολλά από τα βίντεο που βρήκε είχαν έσοδα μέσω προγραμματισμού με διαφημίσεις, πράγμα που σημαίνει ότι το YouTube έβγαζε χρήματα από το περιεχόμενο που, αν και μπορεί να μην ήταν ενοχλητικό, το εκμεταλλεύονταν σε κλικ και προβολές από εκείνους που είχαν απώλειες κίνητρα. Τα ίδια τα βίντεο δεν ήταν το πρόβλημα, ως επί το πλείστον. Πολλά ήταν από παιδιά που έκαναν κανονικά παιδικά πράγματα: πάλευαν με τα αδέρφια τους, έδειχναν το παιχνίδι τους συλλογές, αλλά τα σχόλια και οι τρόποι σύνδεσης μεταξύ τους ήταν ύποπτοι και, τελικά, ενοχλητικό.
Το σκάνδαλο, που έρχεται μόλις ένα χρόνο αφότου το YouTube αναγνώρισε για πρώτη φορά αυτά τα δαχτυλίδια σχολιασμού και μετά YouTube παιδιά» Το σκάνδαλο #ElsaGate, στο οποίο οι άνθρωποι βρήκαν ανησυχητικά βίντεο σε μια πλατφόρμα που φτιάχτηκαν με γνώμονα τα παιδιά και την ασφάλειά τους, ενέπλεξε το YouTube σε μια συζήτηση όπου πολλοί ρώτησαν: Έχει αλλάξει κάτι το YouTube; Και αν ναι, γιατί το πρόβλημα πολλαπλασιαζόταν; Θα μπορούσε να διορθωθεί;
Το YouTube απάντησε απενεργοποιώντας τα σχόλια σε εκατομμύρια βίντεο που στόχευαν αρπακτικά και επισημαίνοντας ότι έχουν μια βαθιά ομάδα 10.000 υπαλλήλων ανθρώπινα σχόλια και συντονιστές περιεχομένου και ένα σύστημα μηχανικής εκμάθησης του οποίου η δουλειά είναι να περιηγείται σε βίντεο και να επισημαίνει οτιδήποτε προσβλητικό. Είναι όμως αρκετό; Υπάρχει κάποιος τρόπος για να επανορθώσει το YouTube με τους ανήσυχους γονείς; Ή μήπως ο αλγόριθμος της εταιρείας έχει ξεφύγει πολύ;
Για να καταλάβετε τι, αν κάτι, μπορεί να γίνει για να διορθωθεί η πλατφόρμα, Πατρικόςμίλησε με τον Jonas Keiser, Συνεργάτη στο Berkman Klein Center for Internet & Society, Associate Researcher στο Alexander von Humboldt Institute for Internet & Society και DFG Research Fellow. Ο Keizer είναι ειδικός στους αλγόριθμους του YouTube και στον πολλαπλασιασμό των επιβλαβών κοινοτήτων. Του μιλήσαμε για τον αλγόριθμο του YouTube, πώς δημιουργούνται αυτά τα προβλήματα και τι μπορεί να κάνει το YouTube για να τα πάει καλύτερα.
Η έρευνά σας επικεντρώνεται σε εκστρατείες των ακροδεξιών τρολ στο Youtube και στον τρόπο εξάπλωσης αυτών των κοινοτήτων. Υπάρχουν ομοιότητες μεταξύ αυτών των κοινοτήτων και αυτών των παιδοφιλικών κοινοτήτων που μόλις εντοπίστηκαν που μοιράζονται συνδέσμους στις ενότητες σχολίων;
Δεν θα έκανα αυτή τη σύγκριση. Με την ακροδεξιά, έχουμε περισσότερες πολύ ορατές και εμφανείς προσπάθειες να σχηματίσουμε μια κοινότητα και να συνδεθούμε με άλλα κανάλια. Ακολουθούν τις δικές τους τάσεις των θεμάτων που πιστεύουν ότι είναι σημαντικά και αυτό δεν συμβαίνει σε ένα κανάλι αλλά σε πολλά. Γίνεται πολύ σκόπιμα μέσω των δικών τους ενεργειών. Οι ακροδεξιοί μιλούντες πηγαίνουν ο ένας στα σόου του άλλου και δίνουν ο ένας στον άλλο εξέχουσα νομιμότητα.
Ταυτόχρονα, μέσω της δραστηριότητάς τους και της δραστηριότητας των χρηστών, επηρεάζουν επίσης τον αλγόριθμο του YouTube με τρόπο που Το YouTube, τα πολιτικά βίντεο και τα πολιτικά κανάλια, ανεξάρτητα από την ιδεολογία που βλέπετε, συχνά οδηγούν στην ακροδεξιά κανάλια.
Έτσι, οι παιδοφιλικές κοινότητες φαίνεται να είναι πολύ περισσότερο από ότι τα κανάλια και τα βίντεο δεν ήταν απαραίτητα η κοινότητα εκεί, αλλά μάλλον τα διαδικτυακά σχόλια, τα οποία, από ό, τι έχω διαβάσει, δημιούργησαν αυτό το περίεργο, αόρατο, πολύ ανησυχητικό φαινόμενο.
Για όσους δεν γνωρίζουν, πώς λειτουργεί ο αλγόριθμος του YouTube;
του YouTube αλγόριθμος περιστρέφεται γύρω από την ιδέα ότι θα κρατήσει τους χρήστες αφοσιωμένους. Σε αυτό το πλαίσιο, αυτό προφανώς σημαίνει προβολή των βίντεο, ή σχολιασμό, ή like ή κοινή χρήση. Η παραμονή στην πλατφόρμα είναι ο πιο σημαντικός στόχος. Για να παραμείνετε στην πλατφόρμα, θα λάβετε προτάσεις στην αρχική σας σελίδα, στις σελίδες βίντεο και στα ίδια τα κανάλια. Όλα αυτά βασίζονται στην ιδέα ότι οι χρήστες πρέπει να παραμείνουν στην πλατφόρμα. Το ερώτημα είναι, φυσικά, πώς το YouTube δημιουργεί έναν αλγόριθμο που το κάνει αυτό;
Υπάρχουν πολλά διαφορετικά σημεία δεδομένων που μπαίνουν σε αυτόν τον αλγόριθμο. Για παράδειγμα: τι είναι αυτή τη στιγμή η τάση στην πλατφόρμα; Τι έχουν κοιτάξει άλλα άτομα με τα ίδια ενδιαφέροντα; Σε ποια βίντεο γίνονται τα περισσότερα κλικ; Πού επικαλύπτονται παρόμοια άτομα στα σχόλια των χρηστών; Τέτοια πράγματα. Η κύρια ιδέα είναι να μάθει ο αλγόριθμος τι προσελκύει και κρατά τους χρήστες στην πλατφόρμα.
Από την άποψη του περιεχομένου και της εποπτείας σχολίων στο YouTube, πώς ρυθμίζεται αυτή η εποπτεία; Πιστεύετε ότι είναι μια επαρκής απάντηση στις απειλές στο Διαδίκτυο;
Μόνο σε κάποιο βαθμό. Το πρόβλημα με τη μετριοπάθεια στον τρόπο που το κάνουν οι περισσότερες μεγάλες πλατφόρμες μέσων κοινωνικής δικτύωσης είναι ότι βασίζεται σε άτομα που αναφέρουν περιεχόμενο. Έτσι, βασικά, εάν κανείς δεν το αναφέρει και δεν είναι ξεκάθαρα αντίθετο με τους κανόνες που είναι αναγνωρίσιμοι μέσω της μηχανικής μάθησης — όπως λέξεις κατάρα ή κάτι παρόμοιο που θα μπορούσε να φιλτραριστεί αλγοριθμικά - άλλα σχόλια είναι προφανώς πολύ πιο δύσκολο να εντοπιστούν έτσι, ένα ο άνθρωπος πρέπει να το δει. Αλλά αν κανείς δεν αναφέρει το περιεχόμενο, το YouTube δεν γνωρίζει ότι υπάρχει, μόνο και μόνο επειδή υπάρχει τόσο πολύ περιεχόμενο στην πλατφόρμα. Υπογραμμίζει τη σημασία των χρηστών. Αυτό συζητείται, είτε αυτό είναι καλό είτε κακό, ότι οι χρήστες τοποθετούνται στη θέση που πρέπει να καταβάλουν προσπάθεια για να τονίσουν στο YouTube ό, τι είναι προσβλητικό για αυτούς.
Σε επίπεδο βίντεο, έχουν εφαρμοστεί και άλλες μορφές [εποπτείας] τώρα, επομένως υπάρχει υποβάθμιση του περιεχομένου που θα μπορούσε να περιλαμβάνει κορυφαίες ειδήσεις. Αν αναζητήσετε ειδήσεις, θα λάβετε πρώτα ποιες που το YouTube θεωρεί πιο αξιόπιστες πηγές. Έχουν πειραματιστεί με τα πλαίσια πληροφοριών γύρω από ορισμένα βίντεο συνωμοσίας. Όλα αυτά είναι, με τον ένα ή τον άλλο τρόπο, μορφές συγκράτησης περιεχομένου.
Ο τρόπος με τον οποίο το YouTube βασίζεται σε καλούς Σαμαρείτες για να αναφέρει πράγματα που μπορεί να είναι προβληματικά ή προσβλητικά μοιάζει με τον τρόπο ότι το Reddit εποπτεύεται επίσης σε μεγάλο βαθμό από συντονιστές της κοινότητας, αν και το Reddit δεν φαίνεται να έχει αυτό το πρόβλημα ταυτόχρονα κλίμακα.
Η σύγκριση είναι λογική, αλλά είναι πολύ διαφορετική. Κάθε subreddit είναι μια κοινότητα που βασικά λέει ποια μορφή περιεχομένου επιτρέπεται. Στο πλαίσιο της επιστήμης SubReddit, για παράδειγμα, μπορείτε να δείτε πότε οι συντονιστές βεβαιώνονται ότι τηρούνται οι κανόνες, ενώ άλλα subreddit είναι πολύ laissez-faire. Ο αριθμός των αναρτήσεων στα subreddits δεν μπορεί να συγκριθεί με τον αριθμό των βίντεο που ανεβαίνουν ανά πάσα στιγμή στο YouTube. Μερικά από αυτά τα φόρουμ ενδιαφέρονται για την αυτο-αστυνόμευση. Η εργασία βασικά ανατίθεται σε εξωτερικούς συνεργάτες στους χρήστες και η υπόθεση είναι ότι εφόσον υπάρχουν άτομα με αρκετά κίνητρα για να κάνουν αυτήν την εργασία, είναι εντάξει, αλλά αυτό δεν συμβαίνει στο YouTube. Αυτά τα φόρουμ δεν υπάρχουν με τον ίδιο τρόπο.
Όσον αφορά αυτούς τους πρόσφατους σχολιαστές και τα πρόσφατα σκάνδαλα YouTube Kids, όπως το #ElsaGate, όπου τα τρολ έσυραν τρομερά βίντεο στο παιδικό περιεχόμενο. Υπάρχει τρόπος να τους προσελκύσετε την προσοχή που να μην βασίζεται απλώς στην καλή θέληση του μέσου χρήστη του YouTube;
Το YouTube σιγά-σιγά, πολύ αργά, έχει πάρει τη σωστή κατεύθυνση. Δεν είναι εκεί, αλλά καταλαβαίνουν ότι οι άνθρωποι θα αναζητούν ειδήσεις στο YouTube, οπότε η επιμέλεια των καναλιών που θα εμφανιστούν έχει νόημα κατά τη γνώμη μου.
Στη δική μου δουλειά, μου προκαλεί έκπληξη το γεγονός ότι το YouTube βασικά αντιμετωπίζει το πολιτικό περιεχόμενο με τον ίδιο τρόπο που αντιμετωπίζει την ποπ μουσική. Τις τελευταίες εβδομάδες, κατάλαβαν σιγά σιγά ότι υπάρχει διαφορά.
Για παράδειγμα, με το κίνημα κατά της εμβολιασμού, είπαν ότι δεν θα επέτρεπαν απαραίτητα πλέον ορισμένα βίντεο. Νομίζω ότι αυτό είναι σημαντικό. Σε ένα πολιτικό πλαίσιο, η ιδέα του «απλώς οι άνθρωποι παρακολουθούν» δεν είναι αυτό που θέλετε. Αυτό είναι αυτό που θέλετε για τη μουσική, για παιχνίδια ή άλλες μορφές ψυχαγωγίας, αλλά όταν πρόκειται για πληροφορίες.
Νομίζω ότι για τις προτάσεις βίντεο και καναλιών, όπου αυτή η λογική συνεχίζεται, που στοχεύει στο να υπάρχουν άτομα στην πλατφόρμα, ανεξάρτητα από το κίνητρο, είναι προβληματική.
Λοιπόν, ποιες λύσεις, αν υπάρχουν, προτείνετε για την αντιμετώπιση των πρόσφατων σκανδάλων σχολιασμού του YouTube;
Από ό, τι έχω διαβάσει, η κοινότητα υπήρχε κυρίως μέσω των σχολίων, τα οποία στη συνέχεια είχαν τόσο μεγάλη επίδραση στις συστάσεις του YouTube, επομένως αυτά τα βίντεο συνδέθηκαν, προφανώς με έναν μάλλον άρρωστο τρόπο. Νομίζω ότι αυτό είναι κάπως σαν το προβληματικό κομμάτι. Πώς γνωρίζετε, ως πλατφόρμα; Γνωρίζετε ότι συμβαίνει κάτι που δεν πρέπει να συνεχιστεί; Και, επειδή προφανώς δεν θα έπρεπε να εναπόκειται σε ορισμένους, ενεργούς και ενήμερους χρήστες να καταλάβουν αυτά τα πράγματα, αλλά ευτυχώς υπάρχουν.
Το ερώτημα είναι: «Πώς λειτουργούν οι αλγόριθμοι σε αυτό το πλαίσιο και το επιτρέπουν;» Η αντίληψή μου είναι ότι υπάρχει διαφορά μεταξύ των χρηστών που σχολίασαν και των ατόμων που ανέβασαν βίντεο. Νομίζω ότι μπορεί να είναι πιο εύκολο να αποσυνδεθεί. αλλά πιστεύω ότι η καλύτερη επιλογή θα ήταν να επενδύσεις πολλά σε ανθρώπους έως να μετριάσεις περιεχόμενο που είναι ύποπτο, και απλώς να γνωρίζεις ότι προσπαθούμε να καταλάβουμε τι αποτελεί ύποπτο όσον αφορά τους αλγόριθμους.
Υπάρχει κάποια έκδοση του YouTube που υπάρχει, στο μυαλό σας, που δεν χρειάζεται να εκτελείται σε αυτούς τους αλγόριθμους που θα μπορούσαν να συνδέσουν δυνητικά επικίνδυνες κοινότητες μεταξύ τους; Ή είναι εγγενές στην ίδια την πλατφόρμα;
Δεν νομίζω ότι είναι εγγενές στην πλατφόρμα. Νομίζω ότι είναι εγγενές στο επιχειρηματικό μοντέλο. Θα μπορούσατε κάλλιστα να σκεφτείτε μια κοινότητα βίντεο που μπορεί να είναι παρόμοια με το Reddit, για παράδειγμα, που εστιάζει σε συγκεκριμένο περιεχόμενο ή συγκεκριμένα θέματα και όπου μπορείτε να δημοσιεύσετε βίντεο από αυτή την άποψη.
Αυτό είναι το πρόβλημα. Εάν το YouTube εγκαταλείψει τον αλγόριθμο που κρατά τους ανθρώπους στην πλατφόρμα, τότε αυτό είναι ένα πρόβλημα κέρδους. Το YouTube θέλει να συνεχίσει να κερδίζει χρήματα.
Νομίζω ότι αυτό είναι δίκαιο. Πολλές από τις συζητήσεις που κάνουμε αυτήν τη στιγμή σχετικά με το πώς λειτουργούν οι πλατφόρμες και γιατί, για παράδειγμα, κάποιο περιεχόμενο αντιμετωπίζεται πιο ευνοϊκά από άλλα και γιατί, η παραπληροφόρηση ή οι θεωρίες συνωμοσίας μπορούν να ευδοκιμήσουν, έχει να κάνει με το επιχειρηματικό μοντέλο και την ιδέα ότι τα πάντα με κλικ ανταμείβονται. Υπάρχουν ιδέες για να έχετε πλατφόρμες που δεν χτίζονται γύρω από αυτό. Αλλά αυτά δεν θα έβγαζαν τόσα χρήματα.
