Ülkenin dört bir yanındaki okullar mücadele ediyor öğrencilerini nasıl güvende tutacaklarınıama lisede Massachusetts AI'nın gelecekteki şiddeti önlemeye yardımcı olacağını umuyor. Shawsheen Valley Teknik Lisesi ile ortak olmaya karar verdi. Sosyal Sentinel, şiddetli veya tehlikeli bir şey gerçekten olmadan önce öğrencilerin çevrimiçi etkinliklerinde potansiyel olarak şiddet içeren davranışları tespit edebildiğini iddia eden bir veri analizi şirketi. İdeal olarak, program, Polis tarafından potansiyel olarak tehlikeli öğrencilerin izlenmesine yardımcı olmak için kullanılan teknolojiye benzer şekilde, risk altındaki öğrencileri belirleyebilecektir.
Social Sentinel'in kurucusu ve CEO'su Gary Margolis'e göre, AI programı 450.000 şiddet göstergesinden oluşan bir kütüphane - depresyon, kızgınlık ve izolasyon şarkıları dahil. Şirket ayrıca programın tanıyabilmesini sağlamak için dilbilimciler ve psikologlarla birlikte çalıştı. bir öğrencinin kendisine veya kendisine zarar vermeyi planladığını gösterebilecek herhangi bir sosyal medya veya çevrimiçi davranış diğerleri.
“Örneğin geri döndük ve bir örnek olarak okul atıcılarının geçmişte kullandıkları dile baktık. Margolis, Boston halk radyosuna verdiği demeçte, çeşitli manifestolar - ne yayınlandı ya da sosyal medyada paylaştıklarını söyledi. WBUR. "Ve benzerlikleri ve kalıpları anlamak istiyoruz. Ve bir dereceye kadar bilgisayarlara bu nüansın bir kısmını nasıl tanımlayacaklarını öğretebiliriz.”
Ancak Margolis, programın yeteneklerinden emin olsa da, birçok uzman bir programı eleştiriyor. Şiddet fiilen ortaya çıkmadan önce “şiddet içeren” davranışı denemek ve tanımak için öğrencinin çevrimiçi etkinliğini izler. yer. Neyin tam olarak şiddet göstergesi sayılabileceğini doğru bir şekilde tanımlamanın bariz zorluklarının ötesinde, birçok tüm bunları istilacı ve öğrencileri mahremiyet haklarından vazgeçmeye zorlamak için yetersiz bir bahane olarak görün.
"Bu, okulların, öğrencilerin okul içinde veya kampüste yaptıklarını kendi okullarına denetleme yeteneğinin genişletilmesidir. okul dışı davranış, "Massachusetts ACLU'da Özgürlük için Teknoloji Programı direktörü Kade Crockford söyledi. WBUR. “Ülke genelinde birçok durumda okullar sosyal medya gözetim araçlarını, özellikle siyahi öğrencilere zarar verecek şekilde kullanıyor. Dolayısıyla, okuldan hapishaneye boru hattı dediğimiz şeyi genişletmek için bu tür teknolojilerin kullanılması konusunda kesinlikle endişelerimiz var.”
