Šole po vsej državi imajo težave kako zaščititi svoje učence, ampak srednja šola v Massachusetts upa, da bo umetna inteligenca pomagala preprečiti prihodnje nasilje. Tehnična srednja šola Shawsheen Valley se je odločila za sodelovanje Socialni stražar, podjetje za analizo podatkov, ki trdi, da lahko zazna potencialno nasilno vedenje v spletni dejavnosti študentov, preden se kaj nasilnega ali nevarnega dejansko zgodi. V idealnem primeru bo program lahko identificiral ogrožene študente, podobno kot tehnologija, ki jo uporablja policija za pomoč pri spremljanju potencialno nevarnih študentov.
Po besedah ustanovitelja in izvršnega direktorja Social Sentinel Garyja Margolisa ima program AI knjižnica 450.000 nasilnih indikatorjev — vključno s pesmimi depresije, zamere in osamljenosti. Podjetje je sodelovalo tudi z jezikoslovci in psihologi, da bi zagotovilo, da bo program lahko prepoznal kakršno koli vedenje na družbenih omrežjih ali na spletu, ki bi lahko kazalo na študenta, ki namerava škodovati sebi oz drugi.
"Vrli smo se na primer in pogledali jezik, ki so ga šolski strelci kot primer uporabljali v preteklosti v različni manifesti – kaj je bilo objavljeno ali kar so delili na družbenih omrežjih,« je Margolis povedala za javni radio Boston WBUR. »In želimo razumeti podobnosti in vzorce. In računalnike lahko do neke mere naučimo, kako prepoznati nekatere od teh odtenkov."
Čeprav je Margolis prepričan v sposobnosti programa, so številni strokovnjaki kritični do programa, ki spremlja spletno dejavnost študenta, da bi poskušal prepoznati »nasilno« vedenje, preden nasilje dejansko nastopi mesto. Poleg očitnih izzivov pravilne opredelitve, kaj točno se lahko šteje za indikator nasilja, veliko vidijo celotno to stvar kot invazivno in neustrezen izgovor, da bi študente prisilili, da se odrečejo svoji pravici do zasebnosti.
"To je razširitev sposobnosti šol, da nadzorujejo, kaj učenci počnejo v šoli ali na kampusu, na svoje vedenje zunaj šole,« je povedala Kade Crockford, direktorica programa Technology for Liberty na ACLU v Massachusettsu. WBUR. »Šole v mnogih primerih po vsej državi uporabljajo orodja za nadzor družbenih medijev na načine, ki so škodovali zlasti barvnim študentom. Zato nas vsekakor skrbi, da se takšne tehnologije uporabljajo za razširitev tega, kar imenujemo cevovod od šole do zapora."
