Facebook er kommet for å bli, og dessverre er det også utfordringene som følger med å moderere de grusomme bildene av overgrep som av og til dukker opp på nettet. I løpet av helgen Verge publiserte et utvalg av Facebooks interne modereringsmanualer, som belyser hvordan selskapet modererer bilder som skildrer ikke-seksuelle overgrep mot barn.
"Vi tillater at "bevis" på barnemishandling blir delt på nettstedet for å tillate at barnet kan identifiseres og reddes," forklarer et av lysbildene. "Men vi legger til beskyttelse for å skjerme publikum."
De manualer forklarer at Facebook-moderatorer fjerner bilder først etter at de er rapportert, og legger igjen noe grafikk med vilje innhold live slik at fellesskapsmedlemmer kan gruve bilder etter viktige ledetråder som kan hjelpe å redde en misbrukt barn. Det er en edel tanke, men talsmenn sier at det ville være bedre for selskapet å bare fjerne disse bildene og sende dem videre til fagfolkene. "I de fleste tilfeller fortsetter virkeligheten med å dele sjofele og voldelige bilder av vold og overgrep mot barn ganske enkelt ydmykelse og overgrep mot et barn," Yvette Cooper, britisk politiker og formleder for utvalgskomiteen for innenrikssaker, fortalte
Vergen | Lysbilde fra Facebooks modereringshåndbok
Facebook definerer barnemishandling som enhver fysisk handling med den hensikt å skade, eller enhver handling definert som overgrep av myndighetene. I henhold til manualen trenger moderatorer bare fjerne bilder av ikke-seksuelle overgrep mot barn når de deles med sadisme og feiring. Ellers blir slike bilder ganske enkelt merket "forstyrrende". Selv direktestrømmer som viser selvskading trenger ikke slettes eller flagges, ifølge manualen, fordi det vil utgjøre sensur.
Claire Lilley, leder for barnesikkerhet på nett i National Society for the Prevention of Cruelty to Children (NSPCC), foreslår at Facebook omskriver retningslinjene fra bunnen av og raskt. NSPCC har kritisert sosiale medier-giganten i fortiden, for å tillate en video av en baby som ble dyppet i vann, forbli på nettet. "Vi vil se dem ta bilder av ikke-seksuelle overgrep mot barn like alvorlig som de tar bilder av seksuelle overgrep," Lilley sier.
"Jeg vil gjerne se dem ta et skritt tilbake og se på retningslinjene de gir til moderatorene sine og se på motsetningene som er iboende i dem. De må kaste dem og begynne på nytt med et blankt ark.»
