Facebook är här för att stanna och, tyvärr, likaså utmaningarna som kommer med att moderera de fruktansvärda bilder av övergrepp som ibland dyker upp på nätet. Under helgen väktare publicerade ett urval av Facebooks interna modereringsmanualer, som belyser hur företaget modererar bilder som skildrar icke-sexuella övergrepp mot barn.
"Vi tillåter att "bevis" på barnmisshandel delas på webbplatsen för att barnet ska kunna identifieras och räddas", förklarar en av bilderna. "Men vi lägger till skydd för att skydda publiken."
De manualer förklara att Facebook-moderatorer tar bort bilder först efter att de har rapporterats och avsiktligt lämnar lite grafik innehåll live så att communitymedlemmar kan bryta bilder för att hitta viktiga ledtrådar som kan hjälpa till att rädda en misshandlad barn. Det är en ädel tanke, men förespråkarna säger att det skulle vara bättre för företaget att bara ta bort dessa bilder och skicka dem vidare till proffsen. "I de flesta fall förevigar verkligheten att dela vidriga och våldsamma bilder av våld och barnmisshandel helt enkelt förnedring och övergrepp mot ett barn, säger Yvette Cooper, brittisk politiker och formordförande för inrikesutskottet, berättade för
Väktaren | Bild från Facebooks modereringsmanual
Facebook definierar barnmisshandel som varje fysisk åtgärd med avsikt att skada, eller varje åtgärd som definieras som övergrepp av myndigheterna. Enligt manualen behöver moderatorer bara ta bort bilder av icke-sexuella övergrepp mot barn när de delas med sadism och firande. Annars är sådana bilder helt enkelt märkta som "störande". Inte ens liveströmmar som visar självskada behöver raderas eller flaggas, enligt manualen, eftersom det skulle utgöra censur.
Claire Lilley, chef för barnsäkerhet online på National Society for the Prevention of Cruelty to Children (NSPCC), föreslår att Facebook skriver om sina riktlinjer från grunden och snabbt. NSPCC har kritiserats sociala medier jätten i det förflutna, för att tillåta en video av en bebis som nedsänks i vatten att vara online. "Vi vill se dem ta bilder av icke-sexuella övergrepp mot barn lika allvarligt som de tar bilder av sexuella övergrepp," Lilley säger.
"Jag skulle vilja se dem ta ett steg tillbaka och titta på sina riktlinjer som de lämnar till sina moderatorer och titta på motsägelserna som är inneboende i dem. De måste slänga dem och börja om med ett tomt pappersark."
