Apple je najavio novi sustav koji će skenirati svaki iPhone u potrazi za slikama i materijalom seksualnog zlostavljanja djece.
Novi sustav dizajniran je za otkrivanje slika seksualnog zlostavljanja djece na uređajima korisnika u Sjedinjenim Državama prije nego što se učitaju na iCloud. Ako se otkrije slika, preglednik će je pregledati kako bi potvrdio da je seksualna za djecu zloupotrijebiti i prijaviti nalaz policiji i/ili Nacionalnom centru za nestale i iskorištene Djeca. ICloud račun osobe također će biti onemogućen, prema Appleu, NPR, i BBC.
Appleova nova tehnologija, nazvana "NeuralHash", funkcionirat će korištenjem postojećih fotografija materijala o seksualnom zlostavljanju djece iz američkog Nacionalnog centra za nestalu i iskorištenu djecu, kao i iz drugih skupina za sigurnost djece. Slike se pretvaraju u "heševe", koji su numerički kodovi koji se zatim mogu uskladiti sa slikama seksualnog zlostavljanja djece na Apple uređajima, čak i ako se uređuju. NeuralHash pronaći će "heševe" i na taj način moći identificirati slike.
Apple će također "skenirajte šifrirane poruke korisnika u potrazi za seksualno eksplicitnim sadržajem kao mjerom sigurnosti djece."
Ovi potezi, za koje Apple kaže da su suzbiti njihovo širenje dječja pornografija i seksualne slike djece, kritizirali su stručnjaci za privatnost jer vladama i privatnim subjektima daje pristup onome što ljudi rade na svojim telefonima.
Obraćajući se BBC, stručnjak za sigurnost Matthew Green sa Sveučilišta Johns Hopkins izrazio je zabrinutost. "Bez obzira na to kakvi su dugoročni planovi Applea, oni su poslali vrlo jasan signal", rekao je. “Po njihovom (vrlo utjecajnom) mišljenju, sigurno je izgraditi sustave koji skeniraju telefone korisnika u potrazi za zabranjenim sadržajem... Jesu li se u tom pogledu ispostavili u pravu ili u krivu, nije važno. Ovo će slomiti branu – vlade će to zahtijevati od svih.”
Apple kaže da tehnologija nudi privatnost jer saznaje o fotografijama korisnika samo "ako imaju kolekciju poznatih slika seksualnog zlostavljanja djece" u svom iCloudu.
Ipak, stručnjaci za privatnost zabrinuti su da se tehnologija može upotrijebiti za zaustavljanje bilo koje razine govora, dijeljenje informacija, dijeljenje slika ili više od toga što bi vlade – posebice one autoritarne – željele zgnječiti.
Zabranjeni sadržaj, dakle, ne može značiti samo dječju pornografiju. To bi također moglo značiti politički govor ili bi ga autoritarne vlade mogle koristiti za slamanje neslaganja, ili bi ga mogle koristiti kao sredstvo masovnog nadzora.
Na Twitteru je Green to također primijetio jer Apple djeluje jedina preostala šifrirana usluga razmjene poruka u Kini, “Kada Apple razvije tehnologiju koja je sposobna skenirati šifrirani sadržaj, ne možete samo reći: ‘pa, pitam se što bi kineska vlada učinila s tom tehnologijom. To nije teoretski.”
U nizu tvitova, Edward Snowden podijeljeno sličan osjećaj, uz napomenu da ne samo da će Apple neprestano ažurirati svaki telefon radi usporedbe fotografije i pohranu u oblaku na pozadinskom popisu, ali će također reći “tvojim roditeljima ako pogledaš golu u iMessage.”
Bez obzira koliko dobronamjerno, @Jabuka s ovim uvodi masovni nadzor u cijeli svijet. Ne budite zabune: ako mogu skenirati dječju pornografiju danas, mogu skenirati bilo što sutra.
Pretvorili su trilijun dolara uređaja u iNarcs—*bez pitanja.* https://t.co/wIMWijIjJk
— Edward Snowden (@Snowden) 6. kolovoza 2021
“Bez obzira koliko dobronamjerno, @Apple s ovim pokreće masovni nadzor cijelom svijetu. Da ne bude zabune... sutra mogu skenirati bilo što”, napisao je Snowden na Twitteru.
I to je ono što brine većinu stručnjaka. Zabranjeni sadržaj, za sada, znači dječju pornografiju. No stručnjaci strahuju da će se koristiti široko ili na načine koji ograničavaju privatnost i kriminaliziraju govor.
Steven Murdoch, profesor sigurnosnog inženjerstva na University College London primijetio je da kada je Ujedinjeno Kraljevstvo stvorilo sustav za blokiranje djeteta slike zlostavljanja, sustav je tek nakon nekoliko godina korišten i za suzbijanje drugih zločina, kao što je prodaja nadomjestka satova. Iako je to bezazleno, to je znak da tehnologija može ići bilo gdje.
Britanski davatelji internetskih usluga stvorili su sustav za blokiranje slika zlostavljanja djece, ali je trebalo samo nekoliko godina prije nego što su morali blokirati i satove i slično. Kao što sud kaže, dodavanje još nekoliko unosa na popis blokova je jeftino nakon što izgradite sustav. https://t.co/TFUqTkjgHVhttps://t.co/c5ciiHCpH8pic.twitter.com/yjcxUdhYK8
— Steven Murdoch (@sjmurdoch) 5. kolovoza 2021
"Kao što sud kaže, dodavanje još nekoliko unosa na popis blokiranih je jeftino nakon što izgradite sustav."
Unatoč činjenici da su grupe molile Apple da prekine svoje planove, rekavši da tehnologija učinkovito zaustavlja end-to-end enkripciju, Apple planira izdati tehnologiju kasnije ove godine.
