Apple har tillkännagivit ett nytt system som kommer att skanna varje iPhone för att söka efter bilder och material för sexuella övergrepp mot barn.
Det nya systemet är utformad för att upptäcka bilder av sexuella övergrepp mot barn på kunders enheter i USA innan de laddas upp till iCloud. Om en bild upptäcks kommer en mänsklig granskare att granska fotot för att bekräfta att det är barnsexuellt missbruka och rapportera fyndet till brottsbekämpande myndigheter och/eller National Center for Missing and Exploited Barn. Personens iCloud-konto kommer också att inaktiveras, enligt Apple, NPR, och den BBC.
Apples nya teknik, kallad "NeuralHash", kommer att fungera genom att använda befintliga foton av material för sexuella övergrepp mot barn från US National Center for Missing and Exploited Children samt från andra barnsäkerhetsgrupper. Bilder förvandlas till "hashar", som är numeriska koder som sedan kan matchas med bilder av sexuella övergrepp mot barn på Apple-enheter, även om de är redigerade. NeuralHash kommer att hitta "hasharna" och kunna identifiera bilder på det sättet.
Apple kommer också "skanna användarnas krypterade meddelanden efter sexuellt explicit innehåll som en säkerhetsåtgärd för barn."
Dessa drag, som Apple säger är att minska spridningen av barnpornografi och sexuella bilder av barn, har kritiserats av integritetsexperter eftersom det ger regeringar och privata enheter tillgång till vad människor gör på sina telefoner.
Att prata med BBC, säkerhetsexperten Matthew Green vid Johns Hopkins University uttryckte oro. "Oavsett vad Apples långsiktiga planer är, har de skickat en mycket tydlig signal", sa han. "Enligt deras (mycket inflytelserika) åsikt är det säkert att bygga system som skannar användarnas telefoner efter förbjudet innehåll... Om de visar sig ha rätt eller fel på den punkten spelar knappast någon roll. Detta kommer att bryta dammen - regeringar kommer att kräva det av alla."
Apple säger att tekniken erbjuder integritet genom att den bara lär sig om en användares bilder "om de har en samling kända bilder av sexuella övergrepp mot barn" i sin iCloud.
Ändå är integritetsexperter oroliga för att tekniken kan användas för att stoppa alla nivåer av tal, informationsdelning, bilddelning eller mer som regeringar – särskilt auktoritära sådana – skulle vilja ha att squasha.
Förbjudet innehåll kan alltså inte bara betyda barnpornografi. Det kan också betyda politiskt tal eller kan användas av auktoritära regeringar för att krossa oliktänkande, eller användas som ett massövervakningsverktyg.
På Twitter noterade Green också att eftersom Apple verkar den enda kvarvarande krypterade meddelandetjänsten i Kina, "när Apple utvecklar en teknik som kan skanna krypterat innehåll, kan du inte bara säga," ja, jag undrar vad den kinesiska regeringen skulle göra med den tekniken. Det är inte teoretiskt.”
I en serie tweets, Edward Snowden delad en liknande känsla, och noterar att inte bara kommer Apple att uppdatera varje telefon kontinuerligt för att jämföra foton och molnlagring till en backlista, men det kommer också att säga "dina föräldrar om du ser en naken in iMessage."
Hur välmenande det än är, @Äpple rullar ut massövervakning till hela världen med detta. Gör inga misstag: om de kan söka efter barnporr idag kan de söka efter vad som helst i morgon.
De förvandlade en biljon dollar enheter till iNarcs—*utan att fråga.* https://t.co/wIMWijIjJk
— Edward Snowden (@Snowden) 6 augusti 2021
"Oavsett hur välmenande det är, rullar @Apple ut massövervakning till hela världen med detta. Gör inga misstag... de kan söka efter vad som helst i morgon”, twittrade Snowden.
Och det är vad de flesta experter oroar sig för. Förbjudet innehåll betyder för närvarande barnpornografi. Men experter fruktar att det används brett eller på sätt som begränsar integriteten och kriminaliserar tal.
Steven Murdoch, en professor i säkerhetsteknik vid University College London noterade att när Storbritannien skapade ett system för att blockera barn övergreppsbilder, det var först inom några år som systemet även användes för att stämpla ner andra brott, som försäljning av knock-off klockor. Även om det är ofarligt, är det ett tecken på att tekniken kan gå var som helst.
Brittiska internetleverantörer skapade ett system för att blockera bilder av övergrepp mot barn, men det tog bara några år innan de var tvungna att blockera avstängda klockor och liknande också. Som domstolen säger är det billigt att lägga till ytterligare några poster till blockeringslistan när du väl har byggt systemet. https://t.co/TFUqTkjgHVhttps://t.co/c5ciiHCpH8pic.twitter.com/yjcxUdhYK8
— Steven Murdoch (@sjmurdoch) 5 augusti 2021
"Som domstolen säger är det billigt att lägga till ytterligare några poster till blockeringslistan när du väl har byggt systemet."
Trots att grupper har bett Apple att stoppa sina planer och sagt att tekniken effektivt upphör med end-to-end-kryptering, planerar Apple att släppa tekniken senare i år.
