Apple telah mengumumkan sistem baru yang akan memindai setiap iPhone untuk mencari gambar dan materi pelecehan seksual anak.
Sistem baru dirancang untuk mendeteksi gambar pelecehan seksual anak di perangkat pelanggan di Amerika Serikat sebelum diunggah ke iCloud. Jika sebuah gambar terdeteksi, peninjau manusia akan meninjau foto tersebut untuk mengonfirmasi bahwa itu adalah seksual anak-anak menyalahgunakan dan melaporkan temuan tersebut kepada penegak hukum dan/atau Pusat Nasional Orang Hilang dan Tereksploitasi Anak-anak. Akun iCloud orang tersebut juga akan dinonaktifkan, menurut Apple, NPR, dan BBC.
Teknologi baru Apple, yang disebut "NeuralHash," akan berfungsi dengan memanfaatkan foto-foto materi pelecehan seksual anak yang ada dari US National Center for Missing and Exploited Children serta dari kelompok keselamatan anak lainnya. Gambar diubah menjadi "hash", yang merupakan kode numerik yang kemudian dapat dicocokkan dengan gambar pelecehan seksual anak di perangkat Apple, meskipun gambar tersebut diedit.
Apple juga akan "Pindai pesan terenkripsi pengguna untuk konten seksual eksplisit sebagai tindakan keamanan anak."
Langkah-langkah ini, yang menurut Apple adalah untuk meredam proliferasi pornografi anak dan gambar seksual anak-anak, telah dikritik oleh pakar privasi karena memberikan pemerintah dan entitas swasta akses ke apa yang dilakukan orang di ponsel mereka.
Berbicara kepada BBC, pakar keamanan Matthew Green dari Universitas Johns Hopkins menyatakan keprihatinannya. "Terlepas dari apa rencana jangka panjang Apple, mereka telah mengirimkan sinyal yang sangat jelas," katanya. “Menurut pendapat mereka (sangat berpengaruh), aman untuk membangun sistem yang memindai ponsel pengguna untuk konten terlarang… Apakah mereka benar atau salah dalam hal itu tidak masalah. Ini akan merusak bendungan – pemerintah akan menuntutnya dari semua orang.”
Apple mengatakan bahwa teknologi ini menawarkan privasi karena hanya mempelajari foto pengguna "jika mereka memiliki koleksi gambar pelecehan seksual anak yang diketahui" di iCloud mereka.
Namun, para pakar privasi khawatir bahwa teknologi tersebut dapat digunakan untuk menghentikan tingkat bicara apa pun, berbagi informasi, berbagi gambar, atau lebih yang diinginkan oleh pemerintah — khususnya yang otoriter untuk meremas.
Konten terlarang, kemudian, tidak bisa hanya berarti pornografi anak. Ini juga bisa berarti pidato politik atau dapat digunakan oleh pemerintah otoriter untuk menghancurkan perbedaan pendapat, atau digunakan sebagai alat pengawasan massal.
Di Twitter, Green juga mencatat bahwa karena Apple beroperasi satu-satunya layanan pesan terenkripsi yang tersisa di China, “ketika Apple mengembangkan teknologi yang mampu memindai konten terenkripsi, Anda tidak bisa hanya mengatakan, 'well, saya ingin tahu apa yang akan dilakukan pemerintah China dengan teknologi itu. Itu tidak teoretis.'”
Dalam serangkaian tweet, Edward Snowden bersama sentimen serupa, mencatat bahwa Apple tidak hanya akan memperbarui setiap ponsel secara terus-menerus untuk membandingkan foto dan penyimpanan cloud ke daftar belakang, tetapi juga akan memberi tahu "orang tua Anda jika Anda melihat foto telanjang" iMessage.”
Tidak peduli seberapa baik niatnya, @Apel meluncurkan pengawasan massal ke seluruh dunia dengan ini. Jangan salah: jika mereka dapat memindai pornografi anak hari ini, mereka dapat memindai apa pun besok.
Mereka mengubah satu triliun dolar perangkat menjadi iNarc—*tanpa diminta.* https://t.co/wIMWijIjJk
— Edward Snowden (@Snowden) 6 Agustus 2021
“Tidak peduli seberapa baik niatnya, @Apple meluncurkan pengawasan massal ke seluruh dunia dengan ini. Jangan salah… mereka bisa memindai apapun besok,” cuit Snowden.
Dan itulah yang paling dikhawatirkan oleh para ahli. Konten terlarang, untuk saat ini, berarti pornografi anak. Tetapi para ahli khawatir itu digunakan secara luas atau dengan cara yang membatasi privasi dan mengkriminalisasi ucapan.
Steven Murdoch, seorang profesor teknik keamanan di University College London mencatat bahwa ketika Inggris menciptakan sistem untuk memblokir anak menyalahgunakan gambar, hanya dalam beberapa tahun sistem itu juga digunakan untuk memberantas kejahatan lain, seperti penjualan barang tiruan jam tangan. Meskipun itu tidak berbahaya, itu pertanda teknologi bisa pergi ke mana saja.
ISP Inggris menciptakan sistem untuk memblokir gambar pelecehan anak tetapi hanya butuh beberapa tahun sebelum mereka harus memblokir jam tangan tiruan dan sejenisnya juga. Seperti yang dikatakan pengadilan, menambahkan beberapa entri lagi ke daftar blokir itu murah setelah Anda membangun sistem. https://t.co/TFUqTkjgHVhttps://t.co/c5ciiHCpH8pic.twitter.com/yjcxUdhYK8
— Steven Murdoch (@sjmurdoch) 5 Agustus 2021
“Seperti yang dikatakan pengadilan, menambahkan beberapa entri lagi ke daftar blokir itu murah setelah Anda membangun sistemnya.”
Terlepas dari kenyataan bahwa kelompok telah memohon Apple untuk menghentikan rencana mereka, mengatakan bahwa teknologi tersebut secara efektif mengakhiri enkripsi ujung ke ujung, Apple berencana untuk merilis teknologi tersebut akhir tahun ini.
