Schulen im ganzen Land haben zu kämpfen mit wie sie ihre Schüler schützen können, aber ein Gymnasium in Massachusetts hofft, dass KI dazu beiträgt, zukünftige Gewalt zu verhindern. Shawsheen Valley Technical High School hat sich für eine Partnerschaft mit. entschieden Sozialer Wächter, ein Datenanalyseunternehmen, das behauptet, potenziell gewalttätiges Verhalten bei den Online-Aktivitäten von Schülern erkennen zu können, bevor etwas Gewalttätiges oder Gefährliches passiert. Im Idealfall ist das Programm in der Lage, gefährdete Schüler zu identifizieren, ähnlich der Technologie, die von der Polizei verwendet wird, um potenziell gefährliche Schüler zu überwachen.
Laut dem Gründer und CEO von Social Sentinel, Gary Margolis, hat das KI-Programm eine Bibliothek mit 450.000 Gewaltindikatoren – einschließlich Singen von Depressionen, Groll und Isolation. Das Unternehmen arbeitete auch mit Linguisten und Psychologen zusammen, um sicherzustellen, dass das Programm in der Lage ist, jegliches Social-Media- oder Online-Verhalten, das darauf hindeuten könnte, dass ein Schüler plant, sich selbst Schaden zuzufügen, oder Andere.
„Wir sind zum Beispiel zurückgegangen und haben uns zum Beispiel die Sprache angesehen, die Schulschützen in der Vergangenheit in der Vergangenheit verwendet haben verschiedene Manifeste – was veröffentlicht wurde oder was sie in sozialen Medien geteilt haben“, sagte Margolis gegenüber dem öffentlichen Radio von Boston WBUR. „Und wir wollen Gemeinsamkeiten und Muster verstehen. Und wir können Computern bis zu einem gewissen Grad beibringen, wie man einige dieser Nuancen erkennt.“
Aber während Margolis von den Fähigkeiten des Programms überzeugt ist, stehen viele Experten einem Programm kritisch gegenüber überwacht die Online-Aktivitäten von Schülern, um „gewalttätiges“ Verhalten zu erkennen, bevor es tatsächlich zu Gewalt kommt Platz. Abgesehen von den offensichtlichen Herausforderungen, richtig zu definieren, was genau als Indikator für Gewalt gelten kann, haben viele sehen diese ganze Sache als invasiv und als unangemessene Entschuldigung an, um die Schüler zu zwingen, ihr Recht auf Privatsphäre aufzugeben.
„Dies ist eine Erweiterung der Fähigkeit der Schulen, zu überwachen, was Schüler innerhalb der Schule oder auf dem Campus mit ihren Schülern machen Verhalten außerhalb der Schule“, sagte Kade Crockford, Direktor des Technology for Liberty-Programms an der ACLU in Massachusetts WBUR. „In vielen Fällen im ganzen Land haben Schulen Social-Media-Überwachungstools auf eine Weise eingesetzt, die insbesondere farbigen Schülern geschadet hat. Daher haben wir sicherlich Bedenken, dass Technologien wie diese verwendet werden, um die so genannte Schule-zu-Gefängnis-Pipeline zu erweitern.“
