Apple har annonsert et nytt system som vil skanne hver iPhone for å søke etter bilder og materiale om seksuelle overgrep mot barn.
Det nye systemet er utviklet for å oppdage bilder av seksuelle overgrep mot barn på kunders enheter i USA før de lastes opp til iCloud. Hvis et bilde oppdages, vil en menneskelig anmelder gjennomgå bildet for å bekrefte at det er seksuelt med barn misbruke og rapportere funnet til rettshåndhevelse og/eller National Center for Saving and Exploited Barn. Personens iCloud-konto vil også bli deaktivert, per Apple, NPR, og BBC.
Apples nye teknologi, kalt "NeuralHash", vil fungere ved å bruke eksisterende bilder av materiale om seksuelle overgrep mot barn fra US National Center for Missing and Exploited Children samt fra andre barnesikkerhetsgrupper. Bilder gjøres om til "hasher", som er numeriske koder som deretter kan matches med bilder av seksuelle overgrep mot barn på Apple-enheter, selv om de er redigert. NeuralHash vil finne "hashene" og kunne identifisere bilder på den måten.
Apple vil også "skanne brukernes krypterte meldinger for seksuelt eksplisitt innhold som et sikkerhetstiltak for barn."
Disse grepene, som Apple sier er å dempe spredningen av barnepornografi og seksuelle bilder av barn, har blitt kritisert av personverneksperter fordi den gir regjeringer og private enheter tilgang til hva folk gjør på telefonene sine.
Snakker til BBC, sikkerhetsekspert Matthew Green fra Johns Hopkins University uttrykte bekymring. "Uansett hva Apples langsiktige planer er, har de sendt et veldig tydelig signal," sa han. "Etter deres (svært innflytelsesrike) mening er det trygt å bygge systemer som skanner brukernes telefoner for forbudt innhold... Om de viser seg å ha rett eller galt på det punktet spiller neppe noen rolle. Dette vil bryte demningen - regjeringer vil kreve det fra alle.»
Apple sier at teknologien tilbyr personvern ved at den bare lærer om en brukers bilder "hvis de har en samling kjente bilder av seksuelt misbruk av barn" i iCloud.
Likevel er personverneksperter bekymret for at teknologien kan brukes til å stoppe et hvilket som helst nivå av tale, informasjonsdeling, bildedeling eller mer som regjeringer – spesielt autoritære – ønsker å squash.
Forbudt innhold kan derfor ikke bare bety barnepornografi. Det kan også bety politisk tale eller kan brukes av autoritære regjeringer for å knuse dissens, eller brukes som et masseovervåkingsverktøy.
På Twitter bemerket Green også at fordi Apple opererer den eneste gjenværende krypterte meldingstjenesten i Kina, "når Apple utvikler en teknologi som er i stand til å skanne kryptert innhold, kan du ikke bare si:" Vel, jeg lurer på hva den kinesiske regjeringen ville gjort med den teknologien. Det er ikke teoretisk."
I en serie tweets, Edward Snowden delt en lignende følelse, og bemerker at ikke bare vil Apple oppdatere hver telefon kontinuerlig for å sammenligne bilder og skylagring til en tilbakeliste, men det vil også fortelle "foreldrene dine hvis du ser en naken inn iMessage."
Uansett hvor velmente, @Eple ruller ut masseovervåking til hele verden med dette. Gjør ingen feil: Hvis de kan søke etter barneporno i dag, kan de søke etter hva som helst i morgen.
De forvandlet en billion dollar med enheter til iNarcs—*uten å spørre.* https://t.co/wIMWijIjJk
— Edward Snowden (@Snowden) 6. august 2021
"Uansett hvor velmente, @Apple ruller ut masseovervåking til hele verden med dette. Gjør ingen feil... de kan skanne etter hva som helst i morgen," twitret Snowden.
Og det er det de fleste eksperter er opptatt av. Forbudt innhold betyr foreløpig barnepornografi. Men eksperter frykter at det blir brukt bredt eller på måter som begrenser personvernet og kriminaliserer tale.
Steven Murdoch, en professor i sikkerhetsteknikk ved University College London bemerket at når Storbritannia opprettet et system for å blokkere barn overgrepsbilder, var det først i løpet av år at systemet også ble brukt til å stemple ned på andre forbrytelser, som for eksempel salg av knock-off klokker. Selv om det er ufarlig, er det et tegn på at teknologien kan gå hvor som helst.
Britiske Internett-leverandører opprettet et system for å blokkere bilder av overgrep mot barn, men det tok bare noen få år før de måtte blokkere avslagsklokker og lignende også. Som retten sier, er det billig å legge til noen få oppføringer til blokkeringslisten når du har bygget systemet. https://t.co/TFUqTkjgHVhttps://t.co/c5ciiHCpH8pic.twitter.com/yjcxUdhYK8
— Steven Murdoch (@sjmurdoch) 5. august 2021
"Som retten sier, er det billig å legge til flere oppføringer til blokkeringslisten når du har bygget systemet."
Til tross for at grupper har tryglet Apple om å stoppe planene sine, og sier at teknologien effektivt avslutter ende-til-ende-kryptering, planlegger Apple å gi ut teknologien senere i år.
