المدارس في جميع أنحاء البلاد تكافح مع كيف تحافظ على سلامة طلابها، ولكن مدرسة ثانوية في ماساتشوستس يأمل أن يساعد الذكاء الاصطناعي في منع العنف في المستقبل. قررت مدرسة Shawsheen Valley Technical High School الدخول في شراكة معها الحارس الاجتماعي، وهي شركة لتحليل البيانات تدعي أنها قادرة على اكتشاف السلوك العنيف المحتمل في نشاط الطلاب عبر الإنترنت قبل حدوث أي شيء عنيف أو خطير بالفعل. من الناحية المثالية ، سيكون البرنامج قادرًا على تحديد الطلاب المعرضين للخطر ، على غرار التكنولوجيا التي تستخدمها الشرطة للمساعدة في مراقبة الطلاب الذين يحتمل أن يكونوا خطرين.
وفقًا لمؤسس Social Sentinel والرئيس التنفيذي ، Gary Margolis ، فإن برنامج الذكاء الاصطناعي لديه مكتبة تضم 450.000 مؤشر عنيف - بما في ذلك غناء الاكتئاب والاستياء والعزلة. عملت الشركة أيضًا مع علماء لغويين وعلماء نفس للتأكد من أن البرنامج سيكون قادرًا على التعرف عليه أي وسائط اجتماعية أو سلوك عبر الإنترنت قد يشير إلى أن الطالب يخطط لإيذاء نفسه أو الآخرين.
"عدنا ، على سبيل المثال ، ونظرنا إلى اللغة التي استخدمها رماة المدرسة ، كمثال ، في الماضي في بيانات مختلفة - ما تم نشره أو مشاركته على وسائل التواصل الاجتماعي ، "قالت مارجوليس لإذاعة بوسطن العامة WBUR. ونريد أن نفهم أوجه التشابه والأنماط. ويمكننا تعليم أجهزة الكمبيوتر ، إلى حد ما ، كيفية تحديد بعض هذه الفروق الدقيقة ".
ولكن بينما تثق مارجوليس بقدرات البرنامج ، ينتقد العديد من الخبراء البرنامج الذي يراقب نشاط الطالب عبر الإنترنت لمحاولة التعرف على السلوك "العنيف" قبل حدوث العنف فعليًا مكان. إلى جانب التحديات الواضحة المتمثلة في التحديد الصحيح لما يمكن اعتباره مؤشرًا للعنف ، هناك الكثير ترى هذا الأمر برمته مجتازًا وعذرًا غير كافٍ لإجبار الطلاب على التنازل عن حقهم في الخصوصية.
"هذا هو توسيع لقدرة المدارس على مراقبة ما يفعله الطلاب داخل المدرسة أو في الحرم الجامعي لهم قال كادي كروكفورد ، مدير برنامج التكنولوجيا من أجل الحرية في اتحاد الحريات المدنية الأمريكي في ماساتشوستس ، "السلوك خارج المدرسة" WBUR. "في العديد من الحالات في جميع أنحاء البلاد ، تستخدم المدارس أدوات مراقبة وسائل التواصل الاجتماعي بطرق أضرت ، على وجه التحديد ، الطلاب الملونين. لذلك لدينا بالتأكيد مخاوف بشأن استخدام تقنيات مثل هذه لتوسيع ما نسميه خط الأنابيب من المدرسة إلى السجن ".
