Училищата в цялата страна се борят как да пазят своите ученици в безопасност, но гимназия в Масачузетс се надява, че ИИ ще помогне за предотвратяване на бъдещо насилие. Техническа гимназия Shawsheen Valley е решила да си партнира Social Sentinel, компания за анализ на данни, която твърди, че е в състояние да открие потенциално насилствено поведение в онлайн дейността на учениците, преди да се случи нещо насилствено или опасно. В идеалния случай програмата ще може да идентифицира рискови ученици, подобно на технологията, използвана от полицията, за да помогне за наблюдение на потенциално опасни ученици.
Според основателя и главния изпълнителен директор на Social Sentinel Гари Марголис програмата за изкуствен интелект има библиотека от 450 000 индикатора за насилие — включително пее за депресия, негодувание и изолация. Компанията също така работи с лингвисти и психолози, за да се увери, че програмата ще може да разпознава всякакви социални медии или онлайн поведение, което може да показва, че ученик планира да причини вреда на себе си или други.
„Върнахме се, например, и разгледахме езика, който училищните стрелци, като пример, са използвали в миналото в различни манифести - какво е публикувано или което са споделени в социалните медии", каза Марголис пред общественото радио в Бостън WBUR. „И ние искаме да разберем приликите и моделите. И можем до известна степен да научим компютрите как да идентифицират някои от този нюанс.
Но докато Марголис е уверен в способностите на програмата, много експерти са критични към програма, която наблюдава онлайн активността на ученика, за да се опита да разпознае „насилственото“ поведение, преди насилието действително да се случи място. Отвъд очевидните предизвикателства за правилното дефиниране на това какво точно може да се счита за индикатор за насилие, много разглеждайте цялото това нещо като инвазивно и неадекватно извинение, за да принудите студентите да се откажат от правото си на личен живот.
„Това е разширяване на способността на училищата да контролират това, което учениците правят в училище или в кампуса до техните поведение извън училище“, каза Кейд Крокфорд, директор на Програмата за технологии за свобода в ACLU в Масачузетс WBUR. „В много случаи в цялата страна училищата са използвали инструменти за наблюдение в социалните медии по начини, които са навредили, по-специално на цветнокожите ученици. Така че със сигурност имаме опасения относно технологии като тази, използвани за разширяване на това, което наричаме тръбопровод от училище до затвор.
