Skolas visā valstī cīnās ar kā nodrošināt savu skolēnu drošību, bet vidusskola in Masačūsetsa cer, ka mākslīgais intelekts palīdzēs novērst vardarbību nākotnē. Shawsheen Valley tehniskā vidusskola ir nolēmusi sadarboties ar Sociālais sargs, datu analīzes uzņēmums, kas apgalvo, ka spēj atklāt potenciāli vardarbīgu uzvedību skolēnu tiešsaistes darbībās, pirms kaut kas vardarbīgs vai bīstams patiesībā notiek. Ideālā gadījumā programma spēs identificēt riska grupas skolēnus, līdzīgi kā policija izmanto tehnoloģiju, kas palīdz uzraudzīt potenciāli bīstamus skolēnus.
Saskaņā ar Social Sentinel dibinātāja un izpilddirektora Gerija Margolisa teikto, AI programmai ir 450 000 vardarbīgu indikatoru bibliotēka — tostarp dziesmas par depresiju, aizvainojumu un izolāciju. Uzņēmums arī sadarbojās ar valodniekiem un psihologiem, lai pārliecinātos, ka programma spēs atpazīt jebkuru sociālo mediju vai tiešsaistes uzvedību, kas varētu liecināt par to, ka skolēns plāno nodarīt sev kaitējumu vai citi.
“Mēs atgriezāmies, piemēram, un apskatījām valodu, ko skolas šāvēji, piemēram, ir lietojuši pagātnē dažādi manifesti — tas, kas ir publicēts vai ko viņi ir kopīgojuši sociālajos medijos,” Bostonas sabiedriskajam radio sacīja Margolis WBUR. "Un mēs vēlamies izprast līdzības un modeļus. Un mēs zināmā mērā varam iemācīt datoriem, kā noteikt dažas no šīm niansēm.
Bet, lai gan Margolis ir pārliecināts par programmas spējām, daudzi eksperti ir kritiski pret programmu, kas uzrauga studenta aktivitātes tiešsaistē, lai mēģinātu atpazīt "vardarbīgu" uzvedību, pirms vardarbība faktiski notiek vieta. Papildus acīmredzamajām grūtībām pareizi definēt, ko tieši var uzskatīt par vardarbības rādītāju, daudzi uzskata visu šo lietu par invazīvu un neadekvātu attaisnojumu, lai piespiestu studentus atteikties no savām tiesībām uz privātumu.
“Tā ir paplašināta skolu spēja kontrolēt to, ko skolēni dara skolā vai universitātes pilsētiņā. uzvedība ārpus skolas," sacīja Masačūsetsas ACLU Programmas Tehnoloģiju brīvībai direktore Kade Krokforda. WBUR. "Daudzos gadījumos visā valstī skolas ir izmantojušas sociālo mediju uzraudzības rīkus tādos veidos, kas ir nodarījuši kaitējumu, jo īpaši krāsainiem skolēniem. Tāpēc mums noteikti ir bažas par to, ka šādas tehnoloģijas tiek izmantotas, lai paplašinātu to, ko mēs saucam par cauruļvadu no skolas uz cietumu.
