Școlile din toată țara se luptă cu cum să-și păstreze elevii în siguranță, dar un liceu în Massachusetts speră că AI va ajuta la prevenirea violențelor viitoare. Liceul Tehnic Shawsheen Valley a decis să se asocieze cu Santinela socială, o companie de analiză a datelor care susține că este capabilă să detecteze un comportament potențial violent în activitatea online a studenților înainte ca ceva violent sau periculos să se întâmple cu adevărat. În mod ideal, programul va putea identifica studenții expuși riscului, similar cu tehnologia folosită de Poliție pentru a ajuta la monitorizarea studenților potențial periculoși.
Potrivit fondatorului și CEO-ului Social Sentinel, Gary Margolis, programul AI are o bibliotecă de 450.000 de indicatori violenti — inclusiv cântă de depresie, resentimente și izolare. De asemenea, compania a lucrat cu lingviști și psihologi pentru a se asigura că programul va fi capabil să recunoască orice media socială sau comportament online care ar putea indica că un student intenționează să-și facă rău sau alții.
„Ne-am întors, de exemplu, și ne-am uitat la limbajul pe care trăgătorii din școală, ca exemplu, l-au folosit în trecut în diverse manifeste - ce a fost publicat sau pe care le-au împărtășit pe rețelele sociale”, a declarat Margolis la radioul public din Boston WBUR. „Și vrem să înțelegem asemănările și modelele. Și putem învăța computerele, într-o anumită măsură, cum să identifice unele dintre aceste nuanțe.”
Dar, în timp ce Margolis este încrezător în abilitățile programului, mulți experți critică un program care monitorizează activitatea online a elevilor pentru a încerca să recunoască comportamentul „violent” înainte ca violența să ia efectiv loc. Dincolo de provocările evidente de a defini corect ceea ce poate fi considerat exact ca un indicator al violenței, mulți vedeți tot acest lucru ca fiind invaziv și o scuză inadecvată pentru a forța studenții să renunțe la dreptul lor la intimitate.
„Aceasta este o extindere a capacității școlilor de a controla ceea ce fac elevii în interiorul școlii sau în campus. comportament în afara școlii”, a declarat Kade Crockford, directorul Programului Tehnologie pentru Libertate la ACLU din Massachusetts. WBUR. „În multe cazuri din întreaga țară, școlile au folosit instrumente de supraveghere a rețelelor sociale în moduri care au afectat, în special, elevii de culoare. Așa că, cu siguranță, avem îngrijorări cu privire la utilizarea unor tehnologii ca aceasta pentru a extinde ceea ce numim conducta de la școală la închisoare.”
