Facebook ada di sini untuk tinggal dan, sayangnya, begitu juga tantangan yang datang dengan memoderasi gambar-gambar mengerikan dari pelecehan yang kadang-kadang muncul secara online. Selama akhir pekan Wali menerbitkan pilihan manual moderasi internal Facebook, yang menjelaskan bagaimana perusahaan memoderasi gambar yang menggambarkan pelecehan anak non-seksual.
"Kami mengizinkan 'bukti' pelecehan anak dibagikan di situs untuk memungkinkan anak diidentifikasi dan diselamatkan," salah satu slide menjelaskan. “Tapi kami menambahkan perlindungan untuk melindungi penonton.”
NS manual menjelaskan bahwa moderator Facebook menghapus gambar hanya setelah mereka dilaporkan, dan dengan sengaja meninggalkan beberapa gambar konten langsung sehingga anggota komunitas dapat menambang gambar untuk petunjuk penting yang dapat membantu menyelamatkan orang yang disalahgunakan anak. Ini adalah pemikiran yang mulia, tetapi para advokat mengatakan akan lebih baik bagi perusahaan untuk menghapus gambar-gambar ini dan meneruskannya kepada para profesional. “Dalam kebanyakan kasus, kenyataan berbagi gambar keji dan kekerasan dari kekerasan dan pelecehan anak hanya melanggengkan penghinaan dan pelecehan terhadap seorang anak,” Yvette Cooper, politisi Inggris dan ketua komite pemilihan urusan dalam negeri, mengatakan kepada
Penjaga | Geser dari manual moderasi Facebook
Facebook mendefinisikan pelecehan anak sebagai tindakan fisik apa pun dengan maksud untuk menyakiti, atau tindakan apa pun yang didefinisikan sebagai pelecehan oleh pihak berwenang. Sesuai manual, moderator hanya perlu menghapus gambar pelecehan anak non-seksual ketika dibagikan dengan sadisme dan perayaan. Jika tidak, gambar seperti itu hanya diberi label "mengganggu". Bahkan streaming langsung yang menggambarkan tindakan menyakiti diri sendiri tidak perlu dihapus atau ditandai, menurut manual, karena itu akan merupakan penyensoran.
Claire Lilley, kepala keamanan anak online di National Society for the Prevention of Cruelty to Children (NSPCC), menyarankan agar Facebook menulis ulang pedomannya dari awal, dan cepat. NSPCC memiliki dikritik raksasa media sosial di masa lalu, karena mengizinkan video bayi yang dicelupkan ke dalam air untuk tetap online. “Kami ingin melihat mereka mengambil gambar pelecehan anak non-seksual sama seriusnya dengan mereka mengambil gambar pelecehan seksual,” Lilley mengatakan.
“Saya ingin melihat mereka mengambil langkah mundur dan melihat pedoman mereka yang mereka berikan kepada moderator mereka dan melihat kontradiksi yang melekat di dalamnya. Mereka harus membuangnya dan memulai lagi dengan selembar kertas kosong.”
