Las escuelas de todo el país están luchando con cómo mantener seguros a sus estudiantes, pero una escuela secundaria en Massachusetts espera que la IA ayude a prevenir la violencia en el futuro. Shawsheen Valley Technical High School ha decidido asociarse con Centinela social, una empresa de análisis de datos que afirma ser capaz de detectar comportamientos potencialmente violentos en la actividad en línea de los estudiantes antes de que ocurra algo violento o peligroso. Idealmente, el programa podrá identificar a los estudiantes en riesgo, similar a la tecnología utilizada por la policía para ayudar a monitorear a los estudiantes potencialmente peligrosos.
Según el fundador y director ejecutivo de Social Sentinel, Gary Margolis, el programa de IA ha una biblioteca de 450.000 indicadores violentos - incluyendo cánticos de depresión, resentimiento y aislamiento. La empresa también trabajó con lingüistas y psicólogos para asegurarse de que el programa pudiera reconocer cualquier comportamiento en las redes sociales o en línea que pueda indicar que un estudiante planea hacerse daño a sí mismo o otros.
“Regresamos, por ejemplo, y analizamos el lenguaje que los tiradores escolares, como un ejemplo, han usado en el pasado en varios manifiestos: lo que se ha publicado o lo que han compartido en las redes sociales ", dijo Margolis a la radio pública de Boston. WBUR. “Y queremos comprender similitudes y patrones. Y podemos enseñar a las computadoras, hasta cierto punto, cómo identificar algunos de esos matices ".
Pero aunque Margolis confía en las capacidades del programa, muchos expertos son críticos con un programa que monitorea la actividad en línea del estudiante para tratar de reconocer el comportamiento "violento" antes de que la violencia realmente se lleve lugar. Más allá de los desafíos obvios de definir adecuadamente qué puede contarse exactamente como un indicador de violencia, muchos ven todo esto como invasivo y una excusa inadecuada para obligar a los estudiantes a renunciar a su derecho a la privacidad.
"Esta es una expansión de la capacidad de las escuelas para vigilar lo que hacen los estudiantes dentro de la escuela o en el campus a sus conducta fuera de la escuela ”, dijo Kade Crockford, directora del Programa Tecnología para la Libertad de la ACLU de Massachusetts. WBUR. “En muchos casos en todo el país, las escuelas han estado utilizando herramientas de vigilancia de las redes sociales de formas que han perjudicado, específicamente, a los estudiantes de color. Por lo tanto, ciertamente nos preocupa que tecnologías como esta se utilicen para expandir lo que llamamos la tubería de la escuela a la prisión ".
