Τα σχολεία σε όλη τη χώρα δυσκολεύονται πώς να προστατεύουν τους μαθητές τους, αλλά ένα λύκειο σε Μασαχουσέτη ελπίζει ότι η τεχνητή νοημοσύνη θα βοηθήσει στην πρόληψη μελλοντικής βίας. Το Τεχνικό Λύκειο Shawsheen Valley αποφάσισε να συνεργαστεί με Κοινωνικός Φρουρός, μια εταιρεία ανάλυσης δεδομένων που ισχυρίζεται ότι είναι σε θέση να ανιχνεύσει δυνητικά βίαιη συμπεριφορά στη διαδικτυακή δραστηριότητα των μαθητών πριν συμβεί κάτι βίαιο ή επικίνδυνο. Ιδανικά, το πρόγραμμα θα μπορεί να εντοπίζει μαθητές σε κίνδυνο, παρόμοια με την τεχνολογία που χρησιμοποιεί η Αστυνομία για να βοηθήσει στην παρακολούθηση δυνητικά επικίνδυνων μαθητών.
Σύμφωνα με τον ιδρυτή και διευθύνοντα σύμβουλο της Social Sentinel, Gary Margolis, το πρόγραμμα AI έχει μια βιβλιοθήκη με 450.000 δείκτες βίας — συμπεριλαμβανομένων τραγουδιών για κατάθλιψη, μνησικακία και απομόνωση. Η εταιρεία συνεργάστηκε επίσης με γλωσσολόγους και ψυχολόγους για να βεβαιωθεί ότι το πρόγραμμα θα μπορούσε να αναγνωρίσει οποιαδήποτε συμπεριφορά μέσων κοινωνικής δικτύωσης ή διαδικτυακή συμπεριφορά που μπορεί να υποδηλώνει ότι ένας μαθητής σχεδιάζει να κάνει κακό στον εαυτό του ή οι υπολοιποι.
«Γυρίσαμε πίσω, για παράδειγμα, και εξετάσαμε τη γλώσσα που χρησιμοποιούσαν οι σχολικοί σκοπευτές, ως παράδειγμα, στο παρελθόν στο διάφορα μανιφέστα - τι έχουν δημοσιευτεί ή που έχουν μοιραστεί στα μέσα κοινωνικής δικτύωσης», είπε ο Μαργκόλης στο δημόσιο ραδιόφωνο της Βοστώνης WBUR. «Και θέλουμε να κατανοήσουμε ομοιότητες και μοτίβα. Και μπορούμε να διδάξουμε στους υπολογιστές, ως ένα βαθμό, πώς να αναγνωρίζουν κάποιες από αυτές τις αποχρώσεις».
Αλλά ενώ ο Μαργκόλης είναι σίγουρος για τις ικανότητες του προγράμματος, πολλοί ειδικοί επικρίνουν ένα πρόγραμμα που παρακολουθεί τη διαδικτυακή δραστηριότητα του μαθητή προκειμένου να προσπαθήσει να αναγνωρίσει τη «βίαιη» συμπεριφορά προτού η βία λάβει χώρα θέση. Πέρα από τις προφανείς προκλήσεις του ορθού καθορισμού του τι ακριβώς μπορεί να μετρηθεί ως δείκτης βίας, πολλές βλέπουν όλο αυτό το θέμα ως επεμβατικό και ως ανεπαρκή δικαιολογία για να αναγκάσουν τους μαθητές να παραιτηθούν από το δικαίωμά τους στην ιδιωτική ζωή.
«Αυτή είναι μια επέκταση της ικανότητας των σχολείων να αστυνομεύουν τι κάνουν οι μαθητές μέσα στο σχολείο ή στην πανεπιστημιούπολη. συμπεριφορά εκτός σχολείου», είπε η Kade Crockford, διευθύντρια του Προγράμματος Technology for Liberty στο ACLU της Μασαχουσέτης. WBUR. «Σε πολλές περιπτώσεις σε ολόκληρη τη χώρα, τα σχολεία χρησιμοποιούν εργαλεία παρακολούθησης μέσων κοινωνικής δικτύωσης με τρόπους που έχουν βλάψει, συγκεκριμένα, τους έγχρωμους μαθητές. Επομένως, σίγουρα έχουμε ανησυχίες σχετικά με τεχνολογίες όπως αυτή που χρησιμοποιούνται για την επέκταση αυτού που ονομάζουμε αγωγό από σχολείο σε φυλακή».
