Школы по всей стране борются с как обезопасить своих учеников, но средняя школа в Массачусетс надеется, что ИИ поможет предотвратить насилие в будущем. Техническая школа Shawsheen Valley Technical High School решила сотрудничать с Social Sentinel, компания по анализу данных, которая утверждает, что способна обнаруживать потенциально агрессивное поведение учащихся в Интернете до того, как на самом деле произойдет что-либо насильственное или опасное. В идеале программа сможет выявлять учащихся из группы риска, аналогично технологии, используемой полицией для наблюдения за потенциально опасными учащимися.
По словам основателя и генерального директора Social Sentinel Гэри Марголиса, программа искусственного интеллекта библиотека из 450 000 индикаторов насилия - включая признаки депрессии, обиды и изоляции. Компания также работала с лингвистами и психологами, чтобы программа могла распознавать любое поведение в социальных сетях или в Интернете, которое может указывать на то, что студент планирует причинить себе вред или другие.
«Мы вернулись, например, и посмотрели на язык, который школьные стрелки, например, использовали в прошлом в различные манифесты - то, что было опубликовано или чем они поделились в социальных сетях », - сказал Марголис Бостонскому общественному радио. WBUR. «И мы хотим понять сходства и закономерности. И мы можем до некоторой степени научить компьютеры распознавать некоторые из этих нюансов ».
Но хотя Марголис уверен в возможностях программы, многие эксперты критически относятся к программе, которая отслеживает онлайн-активность учащихся, чтобы попытаться распознать «насильственное» поведение до того, как насилие действительно повлечет за собой место. Помимо очевидных проблем с правильным определением того, что именно можно считать индикатором насилия, многие рассматривайте все это как агрессивное и неадекватное оправдание, чтобы заставить студентов отказаться от своего права на неприкосновенность частной жизни.
«Это расширение возможностей школ контролировать то, что учащиеся делают внутри школы или на территории кампуса. поведение вне школы », - сказала Кейд Крокфорд, директор программы Technology for Liberty Program в ACLU, Массачусетс. WBUR. «Во многих случаях по всей стране школы использовали инструменты наблюдения в социальных сетях таким образом, что наносили вред, в частности, цветным учащимся. Так что у нас определенно есть опасения по поводу использования подобных технологий для расширения того, что мы называем конвейером от школы до тюрьмы ».
