Su problemomis susiduria visos šalies mokyklos kaip apsaugoti savo mokinius, bet vidurinė mokykla Masačusetsas tikisi, kad dirbtinis intelektas padės išvengti smurto ateityje. Shawsheen Valley techninė vidurinė mokykla nusprendė bendradarbiauti su Socialinis sargybinis, duomenų analizės įmonė, kuri tvirtina, kad gali aptikti potencialiai smurtinį elgesį studentų veikloje internete prieš tai, kai iš tikrųjų įvyksta kas nors smurtinio ar pavojingo. Idealiu atveju programa galės identifikuoti rizikos grupės mokinius, panašiai kaip policijos naudojamos technologijos, padedančios stebėti potencialiai pavojingus mokinius.
Pasak Social Sentinel įkūrėjo ir generalinio direktoriaus Gary Margolis, AI programa turi 450 000 smurtinių rodiklių biblioteka - įskaitant dainas apie depresiją, pasipiktinimą ir izoliaciją. Bendrovė taip pat dirbo su kalbininkais ir psichologais, siekdama užtikrinti, kad programa galėtų atpažinti bet koks elgesys socialiniuose tinkluose ar internete, galintis reikšti, kad mokinys planuoja sau pakenkti arba kiti.
„Pavyzdžiui, mes grįžome ir pažvelgėme į kalbą, kurią mokyklos šauliai, pavyzdžiui, vartojo praeityje įvairių manifestų – kas buvo paskelbta arba kuo jie pasidalino socialinėje žiniasklaidoje“, – Bostono visuomeniniam radijui sakė Margolis WBUR. „Ir mes norime suprasti panašumus ir modelius. Ir mes galime išmokyti kompiuterius tam tikru mastu atpažinti kai kuriuos iš šių niuansų.
Tačiau nors Margolis yra įsitikinęs programos galimybėmis, daugelis ekspertų kritiškai vertina programą stebi mokinių veiklą internete, kad atpažintų „smurtinį“ elgesį prieš tai, kai smurtas iš tikrųjų pasireiškia vieta. Be akivaizdžių iššūkių tinkamai apibrėžti, kas tiksliai gali būti laikoma smurto rodikliu, daugelis mano, kad visa tai yra invazinis ir netinkamas pasiteisinimas priversti studentus atsisakyti savo teisės į privatumą.
„Tai padidina mokyklų galimybes kontroliuoti, ką mokiniai daro mokykloje ar miestelyje. elgesys už mokyklos ribų“, – sakė Masačusetso ACLU „Technology for Liberty“ programos direktorė Kade Crockford. WBUR. „Daugeliu atvejų visoje šalyje mokyklos naudojo socialinės žiniasklaidos stebėjimo priemones taip, kad pakenkdavo, ypač spalvotiems mokiniams. Taigi mes tikrai nerimaujame, kad tokios technologijos būtų naudojamos plėsti tai, ką mes vadiname vamzdynu nuo mokyklos iki kalėjimo.
