Az iskolák országszerte küzdenek ezzel hogyan tartsák biztonságban tanulóikat, hanem egy középiskola ben Massachusetts reméli, hogy a mesterséges intelligencia segít megelőzni a jövőbeni erőszakot. A Shawsheen Valley Technical High School úgy döntött, hogy együttműködik vele Social Sentinel, egy adatelemző cég, amely azt állítja, hogy képes észlelni a potenciálisan erőszakos viselkedést a diákok online tevékenységében, mielőtt bármi erőszakos vagy veszélyes történne. Ideális esetben a program képes lesz azonosítani a veszélyeztetett tanulókat, hasonlóan a rendőrség által a potenciálisan veszélyes tanulók megfigyelésére használt technológiához.
A Social Sentinel alapítója és vezérigazgatója, Gary Margolis szerint az AI-program igen 450 000 erőszakos indikátort tartalmazó könyvtár - beleértve a depresszióról, a neheztelésről és az elszigeteltségről szóló énekeket. A cég nyelvészekkel és pszichológusokkal is együttműködött annak érdekében, hogy a program képes legyen felismerni bármilyen közösségi média vagy online viselkedés, amely arra utalhat, hogy egy diák kárt akar tenni önmagában vagy mások.
„Például visszamentünk, és megnéztük, hogy az iskolai lövöldözők milyen nyelvezetet használtak a múltban. különféle kiáltványok – mit tettek közzé, vagy amit megosztottak a közösségi médiában” – mondta Margolis a bostoni közszolgálati rádiónak WBUR. „És szeretnénk megérteni a hasonlóságokat és mintákat. És bizonyos mértékig megtaníthatjuk a számítógépeket arra, hogyan azonosítsák ezeket az árnyalatokat.”
De bár Margolis bízik a program képességeiben, sok szakértő kritikus a programokkal kapcsolatban figyeli a tanulók online tevékenységét, hogy megpróbálja felismerni az „erőszakos” viselkedést, mielőtt az erőszak ténylegesen bekövetkezne hely. Azon nyilvánvaló kihívásokon túl, hogy pontosan meghatározzuk, mi tekinthető az erőszak indikátorának, sok ezt az egészet invazívnak és nem megfelelő ürügynek tekinti arra, hogy a tanulókat a magánélethez való joguk feladására kényszerítse.
„Ez az iskolák azon képességének kiterjesztése, hogy ellenőrizzék, mit csinálnak a diákok az iskolában vagy az egyetemen. iskolán kívüli magatartás” – mondta Kade Crockford, a Massachusetts-i ACLU Technology for Liberty Program igazgatója. WBUR. „Számos esetben országszerte az iskolák olyan módon használták a közösségi média megfigyelő eszközeit, amelyek különösen a színes bőrű tanulókat károsították meg. Tehát minden bizonnyal aggodalmunk van amiatt, hogy az ehhez hasonló technológiákat az iskolától a börtönig tartó csővezeték kiterjesztésére használják fel.”
