Les écoles de tout le pays sont aux prises avec comment assurer la sécurité de leurs élèves, mais un lycée à Massachusetts espère que l'IA aidera à prévenir de futures violences. Shawsheen Valley Technical High School a décidé de s'associer à Sentinelle sociale, une société d'analyse de données qui prétend être capable de détecter les comportements potentiellement violents dans l'activité en ligne des élèves avant que quelque chose de violent ou de dangereux ne se produise réellement. Idéalement, le programme sera en mesure d'identifier les élèves à risque, à l'instar de la technologie utilisée par la police pour aider à surveiller les élèves potentiellement dangereux.
Selon le fondateur et PDG de Social Sentinel, Gary Margolis, le programme d'IA a une bibliothèque de 450 000 indicateurs de violence - y compris des chants de dépression, de ressentiment et d'isolement. L'entreprise a également travaillé avec des linguistes et des psychologues pour s'assurer que le programme serait en mesure de reconnaître tout comportement sur les réseaux sociaux ou en ligne qui pourrait indiquer qu'un élève envisage de se faire du mal ou autres.
« Nous sommes revenus, par exemple, et avons examiné le langage que les tireurs scolaires, par exemple, ont utilisé dans le passé dans divers manifestes – ce qui a été publié ou qu'ils ont partagé sur les réseaux sociaux », a déclaré Margolis à la radio publique de Boston WBUR. « Et nous voulons comprendre les similitudes et les modèles. Et nous pouvons enseigner aux ordinateurs, dans une certaine mesure, comment identifier certaines de ces nuances. »
Mais alors que Margolis est confiant dans les capacités du programme, de nombreux experts critiquent un programme qui surveille l'activité en ligne des élèves afin d'essayer de reconnaître les comportements « violents » avant que la violence ne prenne réellement endroit. Au-delà des défis évidents de définir correctement ce qui peut être considéré comme un indicateur de violence, de nombreux voir tout cela comme une excuse intrusive et inadéquate pour forcer les étudiants à renoncer à leur droit à la vie privée.
« Il s'agit d'une extension de la capacité des écoles à contrôler ce que les élèves font à l'intérieur de l'école ou sur le campus à leur conduite en dehors de l'école », a déclaré Kade Crockford, directeur du programme Technology for Liberty à l'ACLU du Massachusetts. WBUR. «Dans de nombreux cas à travers le pays, les écoles ont utilisé des outils de surveillance des médias sociaux d'une manière qui a nui, en particulier, aux élèves de couleur. Nous avons donc certainement des inquiétudes quant à l'utilisation de technologies comme celle-ci pour étendre ce que nous appelons le pipeline de l'école à la prison. »
