Szkoły w całym kraju borykają się z problemami jak zapewnić swoim uczniom bezpieczeństwo, ale liceum w Massachusetts ma nadzieję, że sztuczna inteligencja pomoże zapobiegać przyszłej przemocy. Szkoła Techniczna Shawsheen Valley zdecydowała się na współpracę z Strażnik społeczny, firma zajmująca się analizą danych, która twierdzi, że jest w stanie wykryć potencjalnie agresywne zachowania w aktywności online uczniów, zanim zdarzy się coś brutalnego lub niebezpiecznego. Idealnie, program będzie w stanie zidentyfikować zagrożonych uczniów, podobnie jak technologia wykorzystywana przez policję do monitorowania potencjalnie niebezpiecznych uczniów.
Według założyciela i dyrektora generalnego Social Sentinel, Gary'ego Margolisa, program AI ma biblioteka 450 000 wskaźników przemocy — w tym oznaki depresji, urazy i izolacji. Firma współpracowała również z lingwistami i psychologami, aby upewnić się, że program będzie w stanie rozpoznać wszelkie zachowania w mediach społecznościowych lub w Internecie, które mogą wskazywać, że uczeń planuje wyrządzić sobie krzywdę lub inni.
„Wróciliśmy na przykład i przyjrzeliśmy się językowi, którego używali w przeszłości szkolni strzelcy różne manifesty – co zostało opublikowane lub które zostały udostępnione w mediach społecznościowych” – powiedział Margolis w bostońskim radiu publicznym WBUR. „I chcemy zrozumieć podobieństwa i wzorce. I do pewnego stopnia możemy nauczyć komputery, jak rozpoznać niektóre z tych niuansów”.
Ale chociaż Margolis jest przekonany o możliwościach programu, wielu ekspertów jest krytycznych wobec programu, który: monitoruje aktywność online uczniów, aby spróbować rozpoznać „przemocowe” zachowanie, zanim przemoc faktycznie się pojawi miejsce. Poza oczywistymi wyzwaniami związanymi z właściwym zdefiniowaniem, co dokładnie można zaliczyć jako wskaźnik przemocy, wielu postrzegać to wszystko jako inwazyjną i nieadekwatną wymówkę, by zmusić uczniów do zrzeczenia się ich prawa do prywatności.
„Jest to rozszerzenie zdolności szkół do kontrolowania tego, co uczniowie robią w szkole lub na kampusie, aby ich zachowania pozaszkolne”, powiedział Kade Crockford, dyrektor programu Technology for Liberty w ACLU w stanie Massachusetts WBUR. „W wielu przypadkach w całym kraju szkoły korzystały z narzędzi nadzoru mediów społecznościowych w sposób, który zaszkodził w szczególności uczniom kolorowym. Z pewnością mamy więc obawy, że takie technologie zostaną wykorzystane do rozszerzenia tego, co nazywamy rurociągiem ze szkoły do więzienia”.
