Koolid üle kogu riigi on hädas kuidas oma õpilasi turvaliselt hoida, kuid keskkool aastal Massachusetts loodab, et tehisintellekt aitab tulevikus vägivalda ära hoida. Shawsheen Valley Technical High School on otsustanud partneriks teha Sotsiaalne Sentinel, andmeanalüütikaettevõte, mis väidab, et suudab tuvastada õpilaste veebitegevuses potentsiaalselt vägivaldse käitumise enne, kui midagi vägivaldset või ohtlikku tegelikult juhtub. Ideaalis suudab programm tuvastada riskirühma kuuluvaid õpilasi, sarnaselt politsei kasutatava tehnoloogiaga, mis aitab jälgida potentsiaalselt ohtlikke õpilasi.
Social Sentineli asutaja ja tegevjuhi Gary Margolise sõnul on AI-programm seda teinud 450 000 vägivaldse indikaatori raamatukogu - sealhulgas depressiooni, solvumise ja eraldatuse laulud. Ettevõte tegi koostööd ka keeleteadlaste ja psühholoogidega, et tagada programmi tuvastamine mis tahes sotsiaalmeedia või veebikäitumine, mis võib viidata õpilasele, kes kavatseb endale kahju teha või teised.
"Läksime tagasi ja vaatasime näiteks keelt, mida koolitulistajad on ühe näitena varem kasutanud. erinevaid manifeste – mida on avaldatud või mida nad on sotsiaalmeedias jaganud,” ütles Margolis Bostoni raadiole WBUR. "Ja me tahame mõista sarnasusi ja mustreid. Ja me saame õpetada arvutitele teatud määral seda nüanssi tuvastama.
Kuid kuigi Margolis on programmi võimetes kindel, on paljud eksperdid programmi suhtes kriitilised jälgib õpilase tegevust veebis, et proovida ära tunda "vägivaldset" käitumist enne, kui vägivald tegelikult aset leiab koht. Lisaks ilmsetele väljakutsetele õigesti määratleda, mida täpselt saab lugeda vägivalla näitajaks, on paljud näha kogu seda asja invasiivsena ja ebapiisava ettekäändena, et sundida õpilasi loobuma oma õigusest privaatsusele.
"See laiendab koolide võimet jälgida, mida õpilased koolis või ülikoolilinnakus teevad. kooliväline käitumine," ütles Massachusettsi ACLU vabaduse tehnoloogia programmi direktor Kade Crockford. WBUR. „Paljudel juhtudel üle riigi on koolid kasutanud sotsiaalmeedia jälgimisvahendeid viisil, mis on kahjustanud eelkõige värvilisi õpilasi. Seega on meil kindlasti muret selliste tehnoloogiate kasutamise pärast, mida me nimetame koolist vanglasse torujuhtme laiendamiseks.
