देश भर के स्कूल संघर्ष कर रहे हैं अपने छात्रों को कैसे सुरक्षित रखें, लेकिन में एक हाई स्कूल मैसाचुसेट्स उम्मीद कर रहा है कि एआई भविष्य की हिंसा को रोकने में मदद करेगा। शॉशीन वैली टेक्निकल हाई स्कूल ने के साथ साझेदारी करने का फैसला किया है सामाजिक प्रहरी, एक डेटा एनालिटिक्स कंपनी जो दावा करती है कि वह वास्तव में कुछ भी हिंसक या खतरनाक होने से पहले छात्रों की ऑनलाइन गतिविधि में संभावित हिंसक व्यवहार का पता लगाने में सक्षम है। आदर्श रूप से, कार्यक्रम संभावित खतरनाक छात्रों की निगरानी में मदद करने के लिए पुलिस द्वारा उपयोग की जाने वाली तकनीक के समान जोखिम वाले छात्रों की पहचान करने में सक्षम होगा।
सोशल सेंटिनल के संस्थापक और मुख्य कार्यकारी अधिकारी गैरी मार्गोलिस के अनुसार, एआई कार्यक्रम में है 450,000 हिंसक संकेतकों का पुस्तकालय - अवसाद, आक्रोश और अलगाव के गायन सहित। कंपनी ने यह सुनिश्चित करने के लिए भाषाविदों और मनोवैज्ञानिकों के साथ भी काम किया कि कार्यक्रम को पहचानने में सक्षम होगा कोई भी सोशल मीडिया या ऑनलाइन व्यवहार जो यह संकेत दे सकता है कि छात्र खुद को नुकसान पहुंचाने की योजना बना रहा है या अन्य।
"उदाहरण के लिए, हम वापस गए, और उस भाषा को देखा जो स्कूल निशानेबाजों ने एक उदाहरण के रूप में अतीत में इस्तेमाल किया है। विभिन्न घोषणापत्र - क्या प्रकाशित किया गया है या उन्होंने सोशल मीडिया पर साझा किया है," मार्गोलिस ने बोस्टन सार्वजनिक रेडियो को बताया डब्ल्यूबीयूआर। "और हम समानता और पैटर्न को समझना चाहते हैं। और हम कंप्यूटर को एक हद तक सिखा सकते हैं कि उस सूक्ष्मता को कैसे पहचाना जाए।"
लेकिन जबकि मार्गोलिस कार्यक्रम की क्षमताओं के बारे में आश्वस्त हैं, कई विशेषज्ञ ऐसे कार्यक्रम की आलोचना करते हैं जो हिंसा वास्तव में होने से पहले "हिंसक" व्यवहार की कोशिश करने और पहचानने के लिए छात्र की ऑनलाइन गतिविधि पर नज़र रखता है जगह। हिंसा के संकेतक के रूप में वास्तव में क्या गिना जा सकता है, इसे ठीक से परिभाषित करने की स्पष्ट चुनौतियों से परे, कई इस पूरी बात को आक्रामक और छात्रों को अपने निजता के अधिकार को आत्मसमर्पण करने के लिए मजबूर करने के अपर्याप्त बहाने के रूप में देखें।
"यह पुलिस के लिए स्कूलों की क्षमता का विस्तार है कि छात्र स्कूल के अंदर या परिसर में क्या कर रहे हैं" स्कूल के बाहर आचरण, "मैसाचुसेट्स के एसीएलयू में टेक्नोलॉजी फॉर लिबर्टी प्रोग्राम के निदेशक केड क्रॉकफोर्ड ने बताया डब्ल्यूबीयूआर। “देश भर में कई मामलों में, स्कूल सोशल मीडिया निगरानी उपकरणों का उपयोग उन तरीकों से कर रहे हैं, जिन्होंने विशेष रूप से रंग के छात्रों को नुकसान पहुंचाया है। इसलिए हमें निश्चित रूप से इस तरह की तकनीकों के बारे में चिंता है जिसका उपयोग हम स्कूल-टू-जेल पाइपलाइन को विस्तारित करने के लिए कर रहे हैं।"
