სკოლებს მთელი ქვეყნის მასშტაბით უჭირთ როგორ დაიცვან თავიანთი სტუდენტები უსაფრთხოდ, მაგრამ საშუალო სკოლაში მასაჩუსეტსი იმედოვნებს, რომ ხელოვნური ინტელექტი დაგეხმარებათ მომავალში ძალადობის თავიდან აცილებაში. Shawsheen Valley ტექნიკურმა საშუალო სკოლამ გადაწყვიტა პარტნიორობა სოციალური სენტინელი, მონაცემთა ანალიტიკური კომპანია, რომელიც აცხადებს, რომ მას შეუძლია აღმოაჩინოს პოტენციურად ძალადობრივი ქცევა სტუდენტების ონლაინ აქტივობებში მანამ, სანამ რაიმე ძალადობრივი ან საშიში მოხდება. იდეალურ შემთხვევაში, პროგრამა შეძლებს რისკის ქვეშ მყოფი სტუდენტების იდენტიფიცირებას, მსგავსი ტექნოლოგიის გამოყენებით, რომელსაც პოლიცია იყენებს პოტენციურად საშიში სტუდენტების მონიტორინგში.
Social Sentinel-ის დამფუძნებლისა და აღმასრულებელი დირექტორის, გარი მარგოლისის თქმით, AI პროგრამას აქვს 450 000 ძალადობის ინდიკატორის ბიბლიოთეკა - მათ შორის დეპრესიის, უკმაყოფილების და იზოლაციის სიმღერა. კომპანია ასევე მუშაობდა ლინგვისტებთან და ფსიქოლოგებთან, რათა დარწმუნდნენ, რომ პროგრამას შეეძლო ამოცნობა ნებისმიერი სოციალური მედიის ან ონლაინ ქცევა, რომელიც შეიძლება მიუთითებდეს, რომ მოსწავლე გეგმავს ზიანი მიაყენოს საკუთარ თავს ან სხვები.
”ჩვენ დავბრუნდით, მაგალითად, და დავაკვირდით იმ ენას, რომელსაც სკოლის მსროლელები, როგორც ერთი მაგალითი, იყენებდნენ წარსულში. სხვადასხვა მანიფესტები - რა არის გამოქვეყნებული ან რაც მათ გაავრცელეს სოციალურ მედიაში, - განუცხადა მარგოლისმა ბოსტონის საზოგადოებრივ რადიოში. WBUR. „და ჩვენ გვინდა გავიგოთ მსგავსებები და ნიმუშები. და ჩვენ შეგვიძლია ვასწავლოთ კომპიუტერებს, გარკვეულწილად, როგორ ამოიცნონ ეს ნიუანსი“.
თუმცა მარგოლისი დარწმუნებულია პროგრამის შესაძლებლობებში, ბევრი ექსპერტი კრიტიკულად უყურებს პროგრამას, რომელიც მონიტორინგს უწევს მოსწავლის ონლაინ აქტივობას, რათა სცადოს და ამოიცნოს „ძალადობრივი“ ქცევა მანამ, სანამ ძალადობა რეალურად მოხდება ადგილი. აშკარა გამოწვევების მიღმა სწორად განსაზღვრა, თუ რა შეიძლება ჩაითვალოს ძალადობის ინდიკატორად, ბევრია ხედავენ ამ ყველაფერს, როგორც ინვაზიურს და არაადეკვატურ საბაბს, რათა აიძულონ სტუდენტები, დათმოს კონფიდენციალურობის უფლება.
”ეს არის სკოლების შესაძლებლობების გაფართოება, გააკონტროლონ ის, რასაც სტუდენტები აკეთებენ სკოლის შიგნით ან კამპუსში. ქცევა სკოლის გარეთ,” - განუცხადა მასაჩუსეტსის ACLU-ს თავისუფლების ტექნოლოგიის პროგრამის დირექტორმა კეიდ კროკფორდმა. WBUR. „ხშირ შემთხვევაში მთელი ქვეყნის მასშტაბით, სკოლები იყენებდნენ სოციალური მედიის მეთვალყურეობის ინსტრუმენტებს ისე, რომ ზიანი მიაყენეს, კონკრეტულად, ფერადკანიან მოსწავლეებს. ასე რომ, ჩვენ ნამდვილად გვაქვს შეშფოთება იმის შესახებ, რომ მსგავსი ტექნოლოგიები გამოიყენება გაფართოებისთვის, რასაც ჩვენ ვუწოდებთ სკოლიდან ციხემდე მილსადენს. ”
