Koulut kaikkialla maassa kamppailevat kuinka pitää oppilaansa turvassa, mutta lukiossa Massachusetts toivoo, että tekoäly auttaa estämään tulevaa väkivaltaa. Shawsheen Valley Technical High School on päättänyt tehdä yhteistyötä Social Sentinel, data-analytiikkayritys, joka väittää pystyvänsä havaitsemaan mahdollisesti väkivaltaisen käytöksen opiskelijoiden verkkotoiminnassa ennen kuin mitään väkivaltaista tai vaarallista todella tapahtuu. Ihannetapauksessa ohjelma pystyy tunnistamaan riskiryhmään kuuluvat opiskelijat, kuten poliisin käyttämä tekniikka auttaa valvomaan mahdollisesti vaarallisia opiskelijoita.
Social Sentinelin perustajan ja toimitusjohtajan Gary Margolisin mukaan tekoälyohjelmalla on 450 000 väkivaltaindikaattorin kirjasto - mukaan lukien masennuksesta, kaunasta ja eristäytymisestä kertovat laulut. Yritys työskenteli myös lingvistien ja psykologien kanssa varmistaakseen, että ohjelma pystyy tunnistamaan mikä tahansa sosiaalinen media tai online-käyttäytyminen, joka voi viitata siihen, että opiskelija suunnittelee vahingoittavan itseään tai muut.
"Palaimme esimerkiksi taaksepäin ja tarkastelimme kieltä, jota kouluampujat ovat käyttäneet yhtenä esimerkkinä aiemmin erilaisia manifesteja – mitä on julkaistu tai mitä he ovat jakaneet sosiaalisessa mediassa”, Margolis kertoi Bostonin radiolle WBUR. "Ja haluamme ymmärtää yhtäläisyyksiä ja malleja. Ja voimme opettaa tietokoneita jossain määrin tunnistamaan osan tästä vivahteesta."
Mutta vaikka Margolis luottaa ohjelman kykyihin, monet asiantuntijat suhtautuvat kriittisesti sellaiseen ohjelmaan tarkkailee oppilaiden verkkotoimintaa yrittääkseen tunnistaa "väkivaltaisen" käytöksen ennen kuin väkivalta todella kestää paikka. Niiden ilmeisten haasteiden lisäksi, jotka liittyvät sen määrittämiseen, mitä tarkalleen voidaan pitää väkivallan indikaattorina, monet nähdä koko asian invasiivisena ja riittämättömänä tekosyynä pakottaa opiskelijat luopumaan oikeudestaan yksityisyyteen.
"Tämä laajentaa koulujen kykyä valvoa sitä, mitä opiskelijat tekevät koulussa tai kampuksella. koulun ulkopuolinen käyttäytyminen", Massachusettsin ACLU: n Technology for Liberty -ohjelman johtaja Kade Crockford kertoi. WBUR. ”Moniin tapauksiin eri puolilla maata koulut ovat käyttäneet sosiaalisen median valvontatyökaluja tavoilla, jotka ovat vahingoittaneet erityisesti värikkäitä oppilaita. Joten olemme varmasti huolissamme tämänkaltaisten teknologioiden käytöstä laajentamaan sitä, mitä kutsumme koulusta vankilaan."
