Sekolah-sekolah di seluruh negeri sedang berjuang dengan bagaimana menjaga siswanya tetap aman, tapi SMA di Massachusetts berharap AI akan membantu mencegah kekerasan di masa depan. Sekolah Menengah Teknik Shawsheen Valley telah memutuskan untuk bermitra dengan Penjaga Sosial, sebuah perusahaan analisis data yang mengklaim dapat mendeteksi potensi perilaku kekerasan dalam aktivitas online siswa sebelum sesuatu yang kejam atau berbahaya benar-benar terjadi. Idealnya, program ini dapat mengidentifikasi siswa yang berisiko, mirip dengan teknologi yang digunakan oleh Polisi untuk membantu memantau siswa yang berpotensi berbahaya.
Menurut pendiri dan CEO Social Sentinel, Gary Margolis, program AI memiliki perpustakaan dengan 450.000 indikator kekerasan — termasuk nyanyian depresi, kebencian, dan isolasi. Perusahaan juga bekerja dengan ahli bahasa dan psikolog untuk memastikan program akan dapat mengenali media sosial atau perilaku online apa pun yang mungkin mengindikasikan seorang siswa berencana untuk menyakiti diri mereka sendiri atau yang lain.
“Kami kembali, misalnya, dan melihat bahasa yang digunakan penembak sekolah, sebagai salah satu contoh, di masa lalu. berbagai manifesto — apa yang telah dipublikasikan atau yang telah mereka bagikan di media sosial,” kata Margolis kepada radio publik Boston WBUR. “Dan kami ingin memahami persamaan dan polanya. Dan kami dapat mengajarkan komputer, sampai batas tertentu, bagaimana mengidentifikasi beberapa nuansa itu.”
Tetapi sementara Margolis yakin dengan kemampuan program tersebut, banyak pakar yang kritis terhadap program yang memantau aktivitas online siswa untuk mencoba dan mengenali perilaku "kekerasan" sebelum kekerasan benar-benar terjadi tempat. Di luar tantangan nyata untuk mendefinisikan dengan tepat apa yang sebenarnya dapat dihitung sebagai indikator kekerasan, banyak melihat semua ini sebagai invasif dan alasan yang tidak memadai untuk memaksa siswa menyerahkan hak privasi mereka.
“Ini adalah perluasan kemampuan sekolah untuk mengawasi apa yang dilakukan siswa di dalam sekolah atau di kampus terhadap mereka perilaku di luar sekolah,” kata Kade Crockford, direktur Program Teknologi untuk Liberty di ACLU Massachusetts WBUR. “Dalam banyak kasus di seluruh negeri, sekolah telah menggunakan alat pengawasan media sosial dengan cara yang merugikan, khususnya, siswa kulit berwarna. Jadi kami tentu memiliki kekhawatiran tentang teknologi seperti ini yang digunakan untuk memperluas apa yang kami sebut sebagai jalur pipa sekolah-ke-penjara.”
