Apple har annonceret et nyt system, der vil scanne alle iPhones for at søge efter billeder og materiale, der har seksuelt misbrug af børn.
Det nye system er designet til at opdage billeder af seksuelt misbrug af børn på kunders enheder i USA, før de uploades til iCloud. Hvis der registreres et billede, vil en menneskelig anmelder gennemgå billedet for at bekræfte, at det er seksuelt med børn misbruge og rapportere fundet til retshåndhævelse og/eller National Center for Missing and Exploited Børn. Personens iCloud-konto vil også blive deaktiveret, pr. Apple, NPR, og BBC.
Apples nye teknologi, kaldet "NeuralHash", vil fungere ved at bruge eksisterende billeder af materiale om seksuelt misbrug af børn fra US National Center for Missing and Exploited Children samt fra andre børnesikkerhedsgrupper. Billeder omdannes til "hashes", som er numeriske koder, som derefter kan matches med billeder af seksuelt misbrug af børn på Apple-enheder, selvom de er redigeret. NeuralHash vil finde "hasherne" og være i stand til at identificere billeder på den måde.
Apple vil også "scan brugernes krypterede beskeder for seksuelt eksplicit indhold som en sikkerhedsforanstaltning for børn."
Disse tiltag, som Apple siger er at dæmpe udbredelsen af børnepornografi og seksuelle billeder af børn, er blevet kritiseret af privatlivseksperter, fordi det giver regeringer og private enheder adgang til, hvad folk gør på deres telefoner.
Taler til BBC, sikkerhedsekspert Matthew Green fra Johns Hopkins University udtrykte bekymring. "Uanset hvad Apples langsigtede planer er, har de sendt et meget klart signal," sagde han. "Efter deres (meget indflydelsesrige) mening er det sikkert at bygge systemer, der scanner brugernes telefoner for forbudt indhold... Om de viser sig at have ret eller forkert på det punkt, betyder næppe noget. Dette vil bryde dæmningen - regeringer vil kræve det af alle."
Apple siger, at teknologien tilbyder privatliv, idet den kun lærer om en brugers billeder "hvis de har en samling af kendte billeder af seksuelt misbrug af børn" i deres iCloud.
Alligevel er privatlivseksperter bekymrede for, at teknologien kan bruges til at stoppe ethvert niveau af tale, informationsdeling, billeddeling eller mere, som regeringer - især autoritære - vil have at squash.
Forbudt indhold kan derfor ikke kun betyde børnepornografi. Det kunne også betyde politisk tale eller kunne bruges af autoritære regeringer til at knuse dissens eller bruges som et masseovervågningsværktøj.
På Twitter bemærkede Green også, at fordi Apple opererer den eneste tilbageværende krypterede meddelelsestjeneste i Kina, "når Apple udvikler en teknologi, der er i stand til at scanne krypteret indhold, kan du ikke bare sige," jamen, jeg spekulerer på, hvad den kinesiske regering ville gøre med den teknologi. Det er ikke teoretisk."
I en række tweets, Edward Snowden delt en lignende følelse, og bemærker, at ikke kun Apple opdaterer hver telefon løbende for at sammenligne billeder og skylager til en backliste, men det vil også fortælle "dine forældre, hvis du ser en nøgen ind iMessage."
Uanset hvor velmenende, @Æble ruller masseovervågning ud til hele verden med dette. Tag ikke fejl: Hvis de kan scanne for børneporno i dag, kan de scanne efter hvad som helst i morgen.
De forvandlede en billion dollars af enheder til iNarcs—*uden at spørge.* https://t.co/wIMWijIjJk
— Edward Snowden (@Snowden) 6. august 2021
“Uanset hvor velmenende, @Apple udruller masseovervågning til hele verden med dette. Tag ikke fejl... de kan scanne efter hvad som helst i morgen,” tweetede Snowden.
Og det er det, de fleste eksperter er bekymrede over. Forbudt indhold betyder i øjeblikket børnepornografi. Men eksperter frygter, at det bliver brugt bredt eller på måder, der begrænser privatlivets fred og kriminaliserer tale.
Steven Murdoch, en professor i sikkerhedsteknik ved University College London bemærkede, at da Storbritannien oprettede et system til at blokere børn misbrugsbilleder, var det først inden for flere år, at systemet også blev brugt til at nedkæmpe andre forbrydelser, såsom salg af knock-off ure. Selvom det er ufarligt, er det et tegn på, at teknologien kan gå overalt.
UK internetudbydere skabte et system til at blokere billeder af børnemisbrug, men det tog kun et par år, før de også måtte blokere knock-off ure og lignende. Som retten siger, er det billigt at tilføje endnu et par poster til blokeringslisten, når først du har bygget systemet. https://t.co/TFUqTkjgHVhttps://t.co/c5ciiHCpH8pic.twitter.com/yjcxUdhYK8
— Steven Murdoch (@sjmurdoch) 5. august 2021
"Som retten siger, er det billigt at tilføje endnu et par poster til blokeringslisten, når først du har bygget systemet."
På trods af at grupper har tryglet Apple om at stoppe deres planer og siger, at teknologien effektivt afslutter ende-til-ende-kryptering, planlægger Apple at frigive teknologien senere i år.
