전국의 학교들이 어려움을 겪고 있습니다. 학생들을 안전하게 보호하는 방법, 그러나 고등학교 매사추세츠 주 AI가 미래의 폭력을 예방하는 데 도움이 되기를 바랍니다. Shawsheen Valley Technical High School은 소셜 센티넬, 폭력적이거나 위험한 일이 실제로 발생하기 전에 학생의 온라인 활동에서 잠재적으로 폭력적인 행동을 감지할 수 있다고 주장하는 데이터 분석 회사입니다. 이상적으로, 프로그램은 경찰이 잠재적으로 위험한 학생을 모니터링하는 데 사용하는 기술과 유사한 위험에 처한 학생을 식별할 수 있습니다.
Social Sentinel 설립자이자 CEO인 Gary Margolis에 따르면 AI 프로그램은 450,000개의 폭력 지표 라이브러리 — 우울, 분개, 고립의 노래를 포함합니다. 회사는 또한 언어학자 및 심리학자와 협력하여 프로그램이 다음을 인식할 수 있는지 확인했습니다. 학생이 자신에게 해를 끼칠 계획임을 나타낼 수 있는 모든 소셜 미디어 또는 온라인 행동 다른 사람.
“예를 들어, 우리는 과거에 학교 총격범들이 과거에 사용했던 언어를 살펴보았습니다. 다양한 선언문 - 게시되었거나 소셜 미디어에서 공유된 내용"이라고 Margolis는 Boston 공공 라디오에 말했습니다. WBUR. “그리고 우리는 유사점과 패턴을 이해하고 싶습니다. 그리고 우리는 컴퓨터에게 그 미묘한 차이를 식별하는 방법을 어느 정도 가르칠 수 있습니다.”
그러나 Margolis는 프로그램의 능력에 대해 확신하지만 많은 전문가들은 다음과 같은 프로그램에 대해 비판적입니다. 폭력이 실제로 발생하기 전에 "폭력적" 행동을 시도하고 인식하기 위해 학생의 온라인 활동을 모니터링합니다. 장소. 폭력의 지표로 정확히 무엇을 계산할 수 있는지를 적절하게 정의하는 명백한 도전 외에도 많은 사람들이 이 모든 것을 침해적이며 학생들이 사생활에 대한 권리를 포기하도록 강요하는 부적절한 변명이라고 봅니다.
“이것은 학생들이 학교 내부나 캠퍼스에서 하는 일을 경찰에 감시할 수 있는 학교의 능력을 확장한 것입니다. 학교 밖 행동"이라고 매사추세츠 ACLU의 Technology for Liberty Program 이사인 Kade Crockford가 말했습니다. WBUR. “전국의 많은 경우 학교에서 소셜 미디어 감시 도구를 사용하여 특히 유색인종 학생들에게 피해를 주고 있습니다. 그래서 우리는 학교에서 감옥으로 가는 파이프라인이라고 부르는 것을 확장하는 데 이와 같은 기술이 사용되는 것에 대해 확실히 우려하고 있습니다.”
