Firma Apple ogłosiła nowy system, który będzie skanował każdy iPhone w poszukiwaniu zdjęć i materiałów związanych z wykorzystywaniem seksualnym dzieci.
Nowy system służy do wykrywania obrazów przedstawiających wykorzystywanie seksualne dzieci na urządzeniach klientów w Stanach Zjednoczonych przed przesłaniem ich do iCloud. W przypadku wykrycia obrazu weryfikator sprawdzi zdjęcie, aby potwierdzić, że ma ono charakter seksualny dziecka nadużyć i zgłosić odkrycie organom ścigania i/lub National Center for Missing and Exploited Dzieci. Konto iCloud danej osoby zostanie również wyłączone, na Apple, NPR, i BBC.
Nowa technologia firmy Apple o nazwie „NeuralHash” będzie działać wykorzystując istniejące zdjęcia materiałów dotyczących wykorzystywania seksualnego dzieci z amerykańskiego Narodowego Centrum Dzieci Zaginionych i Wykorzystywanych, a także z innych grup zajmujących się bezpieczeństwem dzieci. Obrazy są przekształcane w „hasze”, czyli kody numeryczne, które można następnie dopasować do obrazów przedstawiających wykorzystywanie seksualne dzieci na urządzeniach Apple, nawet jeśli są edytowane.
Apple też będzie „Skanuj zaszyfrowane wiadomości użytkowników pod kątem treści o charakterze erotycznym jako środek bezpieczeństwa dzieci”.
Te posunięcia, które według Apple mają na celu powstrzymanie rozprzestrzeniania się pornografia dziecięca oraz seksualne obrazy dzieci, został skrytykowany przez ekspertów ds. prywatności, ponieważ zapewnia rządom i podmiotom prywatnym dostęp do tego, co ludzie robią na swoich telefonach.
Mówiąc do BBC, Ekspert ds. bezpieczeństwa Matthew Green z Johns Hopkins University wyraził zaniepokojenie. „Niezależnie od długoterminowych planów Apple, wysłali bardzo wyraźny sygnał” – powiedział. „W ich (bardzo wpływowej) opinii bezpieczne jest budowanie systemów, które skanują telefony użytkowników w poszukiwaniu zabronionych treści… Nie ma znaczenia, czy mają rację, czy nie. To przełamie tamę – rządy będą tego wymagać od wszystkich”.
Apple twierdzi, że technologia ta zapewnia prywatność, ponieważ dowiaduje się o zdjęciach użytkownika tylko „jeśli mają kolekcję znanych obrazów wykorzystywania seksualnego dzieci” w swoim iCloud.
Mimo to eksperci od prywatności obawiają się, że tę technologię można wykorzystać do zatrzymania mowy na dowolnym poziomie, dzielenie się informacjami, dzielenie się obrazami lub więcej, których rządy – w szczególności autorytarne – chciałyby miażdzyć.
Zabronione treści mogą zatem oznaczać nie tylko pornografię dziecięcą. Może to również oznaczać przemówienie polityczne lub może być wykorzystywane przez rządy autorytarne do zgniatania opozycji lub być wykorzystywane jako narzędzie masowej inwigilacji.
Na Twitterze Green zauważył również, że ponieważ Apple działa jedyna pozostała usługa szyfrowanego przesyłania wiadomości w Chinach, „kiedy Apple opracowuje technologię, która jest w stanie skanować zaszyfrowane treści, nie można po prostu powiedzieć:„ cóż, zastanawiam się, co chiński rząd zrobiłby z tą technologią. To nie jest teoretyczne”.
W serii tweetów Edward Snowden wspólny podobny sentyment, zauważając, że Apple nie tylko będzie stale aktualizować każdy telefon w celu porównania zdjęcia i przechowywanie w chmurze na backlistę, ale powie też „rodzicom, jeśli oglądasz nagość w iMessage”.
Bez względu na dobre intencje, @Jabłko dzięki temu wprowadza masową inwigilację na całym świecie. Nie popełnij błędu: jeśli dziś mogą skanować w poszukiwaniu dziecięcej pornografii, jutro mogą skanować w poszukiwaniu czegokolwiek.
Zamienili bilion dolarów urządzeń w iNarcs — *bez pytania.* https://t.co/wIMWijIjJk
— Edward Snowden (@Snowden) 6 sierpnia 2021
„Bez względu na dobre intencje @Apple wprowadza w ten sposób masową inwigilację na całym świecie. Nie popełnij błędu… jutro mogą skanować w poszukiwaniu czegokolwiek” – napisał Snowden na Twitterze.
I właśnie tym niepokoi większość ekspertów. Zabronione treści na razie oznaczają pornografię dziecięcą. Eksperci obawiają się jednak, że będzie ona wykorzystywana na szeroką skalę lub w sposób ograniczający prywatność i kryminalizujący mowę.
Steven Murdoch, profesor inżynierii bezpieczeństwa na University College London zauważył, że kiedy Wielka Brytania stworzyła system blokowania dziecka nadużywanie obrazów, dopiero w ciągu lat system został również wykorzystany do stłumienia innych przestępstw, takich jak sprzedaż podróbek zegarki. Chociaż jest to nieszkodliwe, to znak, że technologia może iść wszędzie.
Brytyjscy dostawcy usług internetowych stworzyli system blokujący obrazy przedstawiające wykorzystywanie dzieci, ale minęło tylko kilka lat, zanim musieli zablokować podróbki zegarków i tym podobnych. Jak mówi sąd, dodanie kolejnych kilku wpisów do listy bloków jest tanie po zbudowaniu systemu. https://t.co/TFUqTkjgHVhttps://t.co/c5ciiHCpH8pic.twitter.com/yjcxUdhYK8
— Steven Murdoch (@sjmurdoch) 5 sierpnia 2021
„Jak mówi sąd, dodanie kilku kolejnych wpisów do listy bloków jest tanie po zbudowaniu systemu”.
Pomimo faktu, że grupy błagały Apple o zaprzestanie swoich planów, mówiąc, że technologia skutecznie kończy szyfrowanie typu end-to-end, Apple planuje wypuścić technologię jeszcze w tym roku.
