Školy po celé zemi se s tím potýkají jak zajistit bezpečí svých studentů, ale střední škola v Massachusetts doufá, že umělá inteligence pomůže zabránit budoucímu násilí. Technická střední škola Shawsheen Valley se rozhodla pro partnerství Sociální hlídka, společnost zabývající se analýzou dat, která tvrdí, že je schopna odhalit potenciálně násilné chování v online aktivitě studentů dříve, než se skutečně stane něco násilného nebo nebezpečného. V ideálním případě bude program schopen identifikovat rizikové studenty, podobně jako technologie, kterou používá policie k monitorování potenciálně nebezpečných studentů.
Podle zakladatele a generálního ředitele Social Sentinel, Garyho Margolise, program AI má knihovnu 450 000 indikátorů násilí — včetně zpěvů deprese, zášti a izolace. Společnost také spolupracovala s lingvisty a psychology, aby se ujistila, že program bude schopen rozpoznat jakékoli chování na sociálních sítích nebo na internetu, které by mohlo naznačovat, že student si plánuje ublížit nebo ostatní.
„Vrátili jsme se například zpět a podívali se na jazyk, který školní střelci jako jeden příklad používali v minulosti v různé manifesty – co bylo zveřejněno nebo co sdíleli na sociálních sítích,“ řekl Margolis pro veřejný rozhlas v Bostonu WBUR. "A my chceme porozumět podobnostem a vzorcům." A můžeme počítače do určité míry naučit, jak identifikovat některé z těchto nuancí.“
Ale zatímco Margolis je přesvědčen o schopnostech programu, mnoho odborníků je kritizujících program, který je sleduje online aktivitu studentů, aby se pokusil rozpoznat „násilné“ chování dříve, než k násilí skutečně dojde místo. Kromě zřejmých problémů správného definování toho, co přesně lze považovat za indikátor násilí, existuje mnoho chápat celou tuto věc jako invazivní a neadekvátní omluvu, která má studenty donutit, aby se vzdali svého práva na soukromí.
„Jedná se o rozšíření schopnosti škol hlídat, co studenti dělají ve škole nebo v kampusu chování mimo školu,“ řekl Kade Crockford, ředitel programu Technology for Liberty na ACLU v Massachusetts. WBUR. „V mnoha případech po celé zemi školy používají nástroje pro sledování sociálních médií způsobem, který poškozuje zejména barevné studenty. Takže určitě máme obavy z technologií, jako je tato, které budou použity k rozšíření toho, co nazýváme potrubím ze školy do vězení.“
