Škole u cijeloj zemlji muku muče kako zaštititi svoje učenike, ali srednju školu u Massachusetts nada se da će AI pomoći u sprječavanju budućeg nasilja. Srednja tehnička škola Shawsheen Valley odlučila je surađivati Social Sentinel, tvrtka za analizu podataka koja tvrdi da je sposobna otkriti potencijalno nasilno ponašanje u mrežnim aktivnostima učenika prije nego što se išta nasilno ili opasno zaista dogodi. U idealnom slučaju, program će moći identificirati rizične učenike, slično tehnologiji koju koristi policija za praćenje potencijalno opasnih učenika.
Prema osnivaču i izvršnom direktoru Social Sentinela, Garyju Margolisu, AI program ima knjižnica od 450 000 nasilnih indikatora — uključujući pjesme depresije, ogorčenosti i izolacije. Tvrtka je također radila s lingvistima i psiholozima kako bi bila sigurna da će program moći prepoznati bilo koje ponašanje na društvenim mrežama ili na mreži koje bi moglo ukazivati na to da učenik planira naštetiti sebi ili drugi.
“Vratili smo se, na primjer, i pogledali jezik koji su školski strijelci, kao jedan primjer, koristili u prošlosti u razni manifesti - ono što je objavljeno ili što su podijelili na društvenim mrežama", rekla je Margolis za javni radio Boston WBUR. “I želimo razumjeti sličnosti i obrasce. I možemo naučiti računala, u određenoj mjeri, kako prepoznati neke od tih nijansi.”
No, dok je Margolis uvjeren u sposobnosti programa, mnogi stručnjaci kritični su prema programu koji prati učeničke aktivnosti na mreži kako bi pokušao prepoznati "nasilno" ponašanje prije nego što nasilje zaista nastupi mjesto. Osim očitih izazova ispravnog definiranja što se točno može smatrati pokazateljem nasilja, mnogi vidjeti cijelu ovu stvar kao invazivnu i neadekvatan izgovor za prisiljavanje učenika da se odreknu svog prava na privatnost.
“Ovo je proširenje sposobnosti škola da kontroliraju ono što učenici rade u školi ili na kampusu na svoje ponašanje izvan škole”, rekla je Kade Crockford, direktorica programa Technology for Liberty na ACLU-u u Massachusettsu WBUR. “U mnogim slučajevima diljem zemlje škole su koristile alate za nadzor društvenih medija na načine koji su štetili, točnije, obojenim učenicima. Stoga smo sigurno zabrinuti zbog ovakvih tehnologija koje se koriste za proširenje onoga što nazivamo plinovodom od škole do zatvora.”
