Escolas de todo o país estão lutando com como manter seus alunos seguros, mas uma escola secundária em Massachusetts espera que a IA ajude a prevenir a violência no futuro. Shawsheen Valley Technical High School decidiu fazer parceria com Sentinela Social, uma empresa de análise de dados que afirma ser capaz de detectar comportamento potencialmente violento na atividade online dos alunos antes que algo violento ou perigoso realmente aconteça. Idealmente, o programa será capaz de identificar alunos em risco, semelhante à tecnologia usada pela Polícia para ajudar a monitorar alunos potencialmente perigosos.
De acordo com o fundador e CEO do Social Sentinel, Gary Margolis, o programa de IA tem uma biblioteca de 450.000 indicadores violentos - incluindo cantos de depressão, ressentimento e isolamento. A empresa também trabalhou com linguistas e psicólogos para garantir que o programa fosse capaz de reconhecer qualquer mídia social ou comportamento online que possa indicar um aluno planejando fazer mal a si mesmo ou outros.
“Voltamos, por exemplo, e vimos a linguagem que os atiradores de escolas, por exemplo, usaram no passado em vários manifestos - o que foi publicado ou que eles compartilharam nas redes sociais ”, disse Margolis à rádio pública de Boston WBUR. “E queremos entender semelhanças e padrões. E podemos ensinar os computadores, até certo ponto, como identificar algumas dessas nuances. ”
Mas enquanto Margolis está confiante sobre as habilidades do programa, muitos especialistas são críticos de um programa que monitora a atividade online do aluno, a fim de tentar reconhecer o comportamento "violento" antes que a violência realmente aconteça Lugar, colocar. Além dos desafios óbvios de definir adequadamente o que exatamente pode ser considerado um indicador de violência, muitos veja tudo isso como uma desculpa invasiva e inadequada para forçar os alunos a renunciarem ao seu direito à privacidade.
“Esta é uma expansão da capacidade das escolas de policiar o que os alunos estão fazendo dentro da escola ou no campus para seus conduta fora da escola ”, disse Kade Crockford, diretor do Programa de Tecnologia para a Liberdade na ACLU de Massachusetts WBUR. “Em muitos casos em todo o país, as escolas têm usado ferramentas de vigilância de mídia social de maneiras que prejudicam, especificamente, alunos negros. Portanto, certamente temos preocupações com o uso de tecnologias como essa para expandir o que chamamos de pipeline de escola para prisão. ”
