Apple je napovedal nov sistem, ki bo skeniral vsak iPhone za iskanje posnetkov in gradiva spolne zlorabe otrok.
Novi sistem je zasnovan za odkrivanje slik spolne zlorabe otrok na napravah strank v Združenih državah Amerike, preden se naložijo v iCloud. Če je slika zaznana, jo bo pregledovalec pregledal in potrdil, da je spolna slika otrok zlorabe in ugotovitev prijavite organom pregona in/ali Nacionalnemu centru za pogrešane in izkoriščene Otroci. Osebov račun iCloud bo prav tako onemogočen na Apple, NPR, in BBC.
Appleova nova tehnologija, imenovana "NeuralHash", bo delovala z uporabo obstoječih fotografij gradiva o spolni zlorabi otrok iz ameriškega nacionalnega centra za pogrešane in izkoriščane otroke ter iz drugih skupin za varnost otrok. Slike se spremenijo v "razpršitve", ki so številčne kode, ki jih je mogoče nato povezati s slikami spolne zlorabe otrok v napravah Apple, tudi če so urejene. NeuralHash bo našel "haše" in tako lahko prepoznal slike.
Apple bo tudi "preglejte šifrirana sporočila uporabnikov za spolno eksplicitno vsebino kot varnostni ukrep za otroke."
Te poteze, za katere Apple pravi, da so zajezile širjenje otroška pornografija in spolne podobe otrok, je bil kritiziran s strani strokovnjakov za zasebnost, ker vladam in zasebnim subjektom omogoča dostop do tega, kar ljudje počnejo na svojih telefonih.
Pogovor z BBC, Varnostni strokovnjak Matthew Green z univerze Johns Hopkins je izrazil zaskrbljenost. "Ne glede na to, kakšni so dolgoročni načrti Appla, so poslali zelo jasen signal," je dejal. »Po njihovem (zelo vplivnem) mnenju je varno zgraditi sisteme, ki skenirajo telefone uporabnikov glede prepovedane vsebine... Ali se izkaže, da imajo prav ali narobe v tej točki, ni pomembno. To bo porušilo jez - vlade bodo to zahtevale od vseh."
Apple pravi, da tehnologija ponuja zasebnost, saj izve o uporabnikovih fotografijah le, "če imajo v svojem iCloudu zbirko znanih slik spolne zlorabe otrok".
Kljub temu so strokovnjaki za zasebnost zaskrbljeni, da se lahko tehnologija uporabi za zaustavitev katere koli ravni govora, izmenjava informacij, delitev podob ali več, kar bi vlade – zlasti avtoritarne – želele zmečkati.
Prepovedana vsebina torej ne more pomeniti le otroške pornografije. Lahko bi pomenil tudi politični govor ali bi ga avtoritarne vlade lahko uporabile za zatiranje nestrinjanja ali pa bi ga uporabile kot orodje za množični nadzor.
Na Twitterju je Green to tudi opozoril, ker Apple deluje edina preostala storitev za šifrirano sporočanje na Kitajskem, "ko Apple razvije tehnologijo, ki je sposobna skenirati šifrirano vsebino, ne morete kar reči: 'No, sprašujem se, kaj bi kitajska vlada naredila s to tehnologijo. Ni teoretično.''
V seriji tvitov Edward Snowden v skupni rabi podobno mnenje, pri čemer opozarja, da ne bo samo Apple nenehno posodabljal vsak telefon za primerjavo fotografije in shrambo v oblaku na zaledni seznam, vendar bo povedal tudi »vašim staršem, če si ogledate golo iMessage."
Ne glede na to, kako dobronamerno, @Apple s tem uvaja množični nadzor po vsem svetu. Da ne bo pomote: če lahko danes poiščejo otroško pornografijo, lahko jutri poiščejo karkoli.
Pretvorili so bilijon dolarjev naprav v iNarcs —*brez vprašanja.* https://t.co/wIMWijIjJk
— Edward Snowden (@Snowden) 6. avgust 2021
»Ne glede na to, kako dobronamerno, @Apple s tem uvaja množični nadzor po vsem svetu. Da ne bo pomote... jutri lahko iščejo karkoli,« je tvitnil Snowden.
In to je tisto, kar skrbi večino strokovnjakov. Prepovedane vsebine za zdaj pomenijo otroško pornografijo. Toda strokovnjaki se bojijo, da bi se uporabljal široko ali na načine, ki omejujejo zasebnost in kriminalizirajo govor.
Steven Murdoch, profesor varnostnega inženiringa na University College London je opozoril, da ko je Združeno kraljestvo ustvarilo sistem za blokiranje otroka zlorabe podob, se je sistem šele čez nekaj let uporabljal tudi za zatiranje drugih kaznivih dejanj, kot je prodaja nadomestnih ure. Čeprav je to neškodljivo, je znak, da lahko gre tehnologija kamor koli.
Ponudniki internetnih storitev v Združenem kraljestvu so ustvarili sistem za blokiranje slik zlorabe otrok, vendar je trajalo le nekaj let, preden so morali blokirati tudi ure in podobno. Kot pravi sodišče, je dodajanje še nekaj vnosov na seznam blokov poceni, ko zgradite sistem. https://t.co/TFUqTkjgHVhttps://t.co/c5ciiHCpH8pic.twitter.com/yjcxUdhYK8
— Steven Murdoch (@sjmurdoch) 5. avgust 2021
"Kot pravi sodišče, je dodajanje še nekaj vnosov na seznam blokiranih poceni, ko zgradite sistem."
Kljub dejstvu, da so skupine prosile Apple, naj ustavi svoje načrte, češ da tehnologija dejansko konča šifriranje od konca do konca, Apple načrtuje, da bo tehnologijo izdal še letos.
