Школи по всій країні борються з цим як убезпечити своїх учнів, але середня школа в Массачусетс сподівається, що ШІ допоможе запобігти насильству в майбутньому. Технічна середня школа Shawsheen Valley вирішила співпрацювати з Social Sentinel, компанія з аналізу даних, яка стверджує, що здатна виявляти потенційно насильницьку поведінку в онлайн-діяльності студентів до того, як щось насильницьке або небезпечне станеться насправді. В ідеалі програма зможе виявляти студентів із групи ризику, подібно до технології, яка використовується поліцією для контролю за потенційно небезпечними студентами.
За словами засновника та генерального директора Social Sentinel Гері Марголіса, програма AI має бібліотека з 450 000 індикаторів насильства — у тому числі співає про депресію, образу та ізоляції. Компанія також співпрацювала з лінгвістами та психологами, щоб переконатися, що програма зможе розпізнати будь-яка поведінка в соціальних мережах або в Інтернеті, яка може вказувати на те, що студент планує завдати собі шкоди або інші.
«Ми повернулися, наприклад, і подивилися на мову, якою шкільні стрільці, як один із прикладів, використовували в минулому в різні маніфести — те, що було опубліковано або чим вони поділилися в соціальних мережах», — сказала Марголіс Громадському радіо Бостону. WBUR. «І ми хочемо зрозуміти схожість і закономірності. І ми можемо навчити комп’ютери, певною мірою, як розпізнати деякі з цих нюансів».
Але хоча Марголіс впевнений у можливостях програми, багато експертів критично ставляться до програми, яка відстежує онлайн-активність студентів, щоб спробувати розпізнати «насильницьку» поведінку, перш ніж насильство справді почнеться місце. Крім очевидних проблем правильного визначення того, що саме можна вважати показником насильства, багато розглядати всю цю справу як агресивну і неадекватну причину, щоб змусити студентів відмовитися від свого права на приватність.
«Це розширення можливостей шкіл контролювати те, що учні роблять у школі чи на кампусі, до своїх Поведінка поза школою», – сказала Кейд Крокфорд, директор програми «Технологія свободи» в ACLU Массачусетса. WBUR. «У багатьох випадках по всій країні школи використовували інструменти спостереження в соціальних мережах таким чином, що завдали шкоди, зокрема, кольоровим учням. Тож у нас, безсумнівно, є занепокоєння щодо таких технологій, які використовуються для розширення того, що ми називаємо трубопроводом від школи до в’язниці».
