בתי ספר בכל רחבי הארץ נאבקים כיצד לשמור על בטיחות התלמידים שלהם, אבל תיכון ב מסצ'וסטס מקווה שבינה מלאכותית תעזור למנוע אלימות עתידית. תיכון טכני עמק שושין החליט לשתף פעולה עם סנטינל חברתי, חברת ניתוח נתונים שטוענת שהיא מסוגלת לזהות התנהגות שעלולה להיות אלימה בפעילות מקוונת של תלמידים לפני שמשהו אלים או מסוכן קורה בפועל. באופן אידיאלי, התוכנית תוכל לזהות תלמידים בסיכון, בדומה לטכנולוגיה המשמשת את המשטרה כדי לסייע במעקב אחר תלמידים שעלולים להיות מסוכנים.
לדברי מייסד ומנכ"ל Social Sentinel, גארי מרגוליס, לתוכנית הבינה המלאכותית יש ספרייה של 450,000 אינדיקטורים אלימים - כולל שירים של דיכאון, טינה ובידוד. החברה גם עבדה עם בלשנים ופסיכולוגים כדי לוודא שהתוכנית תוכל לזהות כל מדיה חברתית או התנהגות מקוונת שעלולה להצביע על תלמיד מתכנן לפגוע בעצמו או אחרים.
"חזרנו, למשל, והסתכלנו על השפה שבה השתמשו יריות בתי ספר, כדוגמה אחת, בעבר ב מניפסטים שונים - מה פורסם או שהם שיתפו במדיה החברתית", אמר מרגוליס לרדיו הציבורי בבוסטון WBUR. "ואנחנו רוצים להבין קווי דמיון ודפוסים. ואנחנו יכולים ללמד מחשבים, במידה מסוימת, איך לזהות חלק מהניואנס הזה."
אבל בעוד שמרגוליס בטוח ביכולות התוכנית, מומחים רבים מבקרים תוכנית כזו עוקב אחר הפעילות המקוונת של התלמידים על מנת לנסות לזהות התנהגות "אלימה" לפני שהאלימות אכן תופסת מקום. מעבר לאתגרים הברורים של הגדרה נכונה של מה בדיוק יכול להיחשב כאינדיקטור לאלימות, רבים לראות את כל העניין הזה כפולשני ותירוץ לא הולם כדי לאלץ את התלמידים לוותר על זכותם לפרטיות.
"זוהי הרחבה של היכולת של בתי הספר לשלוט על מה שהתלמידים עושים בתוך בית הספר או בקמפוס שלהם התנהלות מחוץ לבית הספר", אמר קייד קרוקפורד, מנהל תוכנית הטכנולוגיה לחירות ב-ACLU של מסצ'וסטס. WBUR. "במקרים רבים ברחבי הארץ, בתי ספר השתמשו בכלי מעקב של מדיה חברתית בדרכים שפגעו, במיוחד, בתלמידים צבעוניים. אז בהחלט יש לנו חששות לגבי שימוש בטכנולוגיות כמו זו כדי להרחיב את מה שאנו מכנים את צינור בית הספר לכלא".
