Le scuole di tutto il paese stanno lottando con come proteggere i propri studenti, ma un liceo in Massachusetts spera che l'IA aiuti a prevenire la violenza futura. La Shawsheen Valley Technical High School ha deciso di collaborare con Sentinella sociale, una società di analisi dei dati che afferma di essere in grado di rilevare comportamenti potenzialmente violenti nell'attività online degli studenti prima che succeda effettivamente qualcosa di violento o pericoloso. Idealmente, il programma sarà in grado di identificare gli studenti a rischio, in modo simile alla tecnologia utilizzata dalla polizia per monitorare gli studenti potenzialmente pericolosi.
Secondo il fondatore e CEO di Social Sentinel, Gary Margolis, il programma AI ha una libreria di 450.000 indicatori di violenza - inclusi canti di depressione, risentimento e isolamento. L'azienda ha anche lavorato con linguisti e psicologi per assicurarsi che il programma fosse in grado di riconoscere qualsiasi social media o comportamento online che potrebbe indicare che uno studente sta pianificando di farsi del male o altri.
“Siamo tornati indietro, ad esempio, e abbiamo esaminato il linguaggio che i tiratori scolastici, ad esempio, hanno usato in passato in vari manifesti – cosa è stato pubblicato o che hanno condiviso sui social media”, ha detto Margolis alla radio pubblica di Boston WBUR. “E vogliamo capire somiglianze e schemi. E possiamo insegnare ai computer, in una certa misura, come identificare alcune di quelle sfumature".
Ma mentre Margolis è fiduciosa sulle capacità del programma, molti esperti sono critici nei confronti di un programma che monitora l'attività online degli studenti per cercare di riconoscere il comportamento "violento" prima che la violenza avvenga effettivamente luogo. Al di là delle ovvie sfide di definire correttamente cosa può essere considerato esattamente come un indicatore di violenza, molti vedere tutta questa cosa come una scusa invasiva e inadeguata per costringere gli studenti a rinunciare al loro diritto alla privacy.
"Si tratta di un'espansione della capacità delle scuole di controllare ciò che gli studenti stanno facendo all'interno della scuola o nel campus per loro condotta al di fuori della scuola", ha detto Kade Crockford, direttore del Technology for Liberty Program presso l'ACLU del Massachusetts WBUR. “In molti casi in tutto il paese, le scuole hanno utilizzato strumenti di sorveglianza dei social media in modi che hanno danneggiato, in particolare, gli studenti di colore. Quindi siamo certamente preoccupati per le tecnologie come questa utilizzate per espandere ciò che chiamiamo la conduttura dalla scuola alla prigione”.
