全国の学校が苦労しています 生徒を安全に保つ方法、しかし高校 マサチューセッツ AIが将来の暴力を防ぐのに役立つことを望んでいます。 ショーシーンバレー工業高校は提携することを決定しました ソーシャルセンチネル、暴力的または危険なことが実際に発生する前に、学生のオンライン活動における潜在的に暴力的な行動を検出できると主張するデータ分析会社。 理想的には、プログラムは、潜在的に危険な学生を監視するのを助けるために警察によって使用される技術と同様に、危険にさらされている学生を特定することができるでしょう。
SocialSentinelの創設者兼CEOであるGaryMargolisによると、AIプログラムには 450,000の暴力的な指標のライブラリ —うつ病、恨み、孤立の歌を含みます。 同社はまた、言語学者や心理学者と協力して、プログラムが認識できるようにしました 生徒が自分自身に危害を加えることを計画していることを示す可能性のあるソーシャルメディアまたはオンライン行動または その他。
「たとえば、私たちは戻って、一例として、学校のシューティングゲームが過去に使用した言語を調べました。 さまざまなマニフェスト—公開されているもの、またはソーシャルメディアで共有されているもの」と、マーゴリスはボストンの公共ラジオに語った。 WBUR。 「そして、私たちは類似点とパターンを理解したいと思っています。 そして、ある程度、そのニュアンスの一部を特定する方法をコンピューターに教えることができます。」
しかし、マーゴリスはプログラムの能力に自信を持っていますが、多くの専門家はプログラムに批判的です。 暴力が実際に発生する前に「暴力的な」行動を認識しようとするために、学生のオンライン活動を監視します 場所。 暴力の指標として正確に数えることができるものを適切に定義するという明らかな課題を超えて、多くの人が このすべてを侵襲的であり、学生にプライバシーの権利を放棄させるには不十分な言い訳と見なしてください。
「これは、生徒が学校内またはキャンパスで行っていることを監視する学校の能力の拡張です。 マサチューセッツ州のACLUで自由人権協会のテクノロジープログラムのディレクターを務めるKadeCrockford氏は、次のように述べています。 WBUR。 「全国の多くの場合、学校はソーシャルメディア監視ツールを、特に有色の生徒に害を及ぼす方法で使用しています。 ですから、私たちが学校から刑務所へのパイプラインと呼ぶものを拡張するためにこのようなテクノロジーが使用されていることについて、私たちは確かに懸念を抱いています。」
