โรงเรียนทั่วประเทศกำลังดิ้นรนกับ ทำอย่างไรให้นักเรียนปลอดภัยแต่เป็นโรงเรียนมัธยมใน แมสซาชูเซตส์ หวังว่า AI จะช่วยป้องกันความรุนแรงในอนาคต Shawseen Valley Technical High School ได้ตัดสินใจที่จะร่วมมือกับ ยามสังคมซึ่งเป็นบริษัทวิเคราะห์ข้อมูลที่อ้างว่าสามารถตรวจจับพฤติกรรมที่อาจรุนแรงในกิจกรรมออนไลน์ของนักเรียนได้ ก่อนที่สิ่งรุนแรงหรืออันตรายจะเกิดขึ้นจริง ตามหลักการแล้ว โปรแกรมจะสามารถระบุนักเรียนที่มีความเสี่ยง คล้ายกับเทคโนโลยีที่ตำรวจใช้เพื่อช่วยในการติดตามนักเรียนที่อาจเป็นอันตราย
Gary Margolis ผู้ก่อตั้งและ CEO ของ Social Sentinel กล่าวว่าโปรแกรม AI มี คลังตัวบ่งชี้ความรุนแรง 450,000 ตัว - รวมถึงการร้องเพลงของความหดหู่ใจ ความขุ่นเคือง และการแยกตัว บริษัทยังทำงานร่วมกับนักภาษาศาสตร์และนักจิตวิทยาเพื่อให้แน่ใจว่าโปรแกรมจะสามารถจดจำได้ โซเชียลมีเดียหรือพฤติกรรมออนไลน์ใดๆ ที่อาจบ่งชี้ว่านักเรียนกำลังวางแผนทำร้ายตัวเองหรือ คนอื่น.
“เราย้อนกลับไปดูภาษาที่มือปืนโรงเรียนเคยใช้ในอดีต แถลงการณ์ต่างๆ — สิ่งที่เผยแพร่หรือที่พวกเขาแบ่งปันบนโซเชียลมีเดีย” Margolis กล่าวกับวิทยุสาธารณะของบอสตัน WBUR. “และเราต้องการที่จะเข้าใจความคล้ายคลึงและรูปแบบ และเราสามารถสอนคอมพิวเตอร์ถึงวิธีการระบุความแตกต่างบางอย่างได้ในระดับหนึ่ง”
แต่ในขณะที่ Margolis มั่นใจในความสามารถของโปรแกรม ผู้เชี่ยวชาญหลายคนก็วิจารณ์โปรแกรมที่ ติดตามกิจกรรมออนไลน์ของนักเรียนเพื่อพยายามรับรู้พฤติกรรม "รุนแรง" ก่อนที่ความรุนแรงจะเกิดขึ้นจริง สถานที่. นอกเหนือจากความท้าทายที่ชัดเจนในการกำหนดสิ่งที่สามารถนับเป็นตัวบ่งชี้ความรุนแรงได้อย่างเหมาะสมแล้ว หลายคน มองว่าสิ่งทั้งหมดนี้เป็นการล่วงละเมิดและเป็นข้ออ้างที่ไม่เพียงพอในการบังคับให้นักเรียนยอมมอบสิทธิ์ในความเป็นส่วนตัว
“นี่คือการขยายความสามารถของโรงเรียนในการตำรวจในสิ่งที่นักเรียนทำในโรงเรียนหรือในมหาวิทยาลัยไปยังของพวกเขา การประพฤติตัวนอกโรงเรียน” Kade Crockford ผู้อำนวยการโครงการ Technology for Liberty ที่ ACLU แห่งแมสซาชูเซตส์กล่าว WBUR. “ในหลายกรณีทั่วประเทศ โรงเรียนต่างๆ ได้ใช้เครื่องมือสอดส่องสื่อสังคมออนไลน์ในลักษณะที่สร้างความเสียหาย โดยเฉพาะกับนักเรียนผิวสี ดังนั้นเราจึงมีความกังวลเกี่ยวกับเทคโนโลยีเช่นนี้ที่จะถูกนำมาใช้เพื่อขยายสิ่งที่เราเรียกว่าท่อส่งโรงเรียนสู่เรือนจำ”
