Selama akhir pekan, Youtube aktivis Matt Watson memukul halaman depan Reddit dengan video tentang a mengganggu fenomena yang ia temukan di platform hosting video Google, mesin pencari terbesar kedua di dunia. Watson mendemonstrasikan bagaimana dia bisa mengklik konten YouTube yang normal dan pantas ke video-video yang menjurus ke gadis-gadis muda. Meskipun banyak dari video ini, yang menampilkan praremaja yang mengenakan bikini dan vamping di kamar tidur mereka, tidak secara eksplisit bersifat seksual, sebagian besar telah dikomentari oleh pengguna dengan tampaknya pedofilia maksud. Beberapa komentar menampilkan stempel waktu untuk saat-saat tertentu ketika gadis-gadis muda itu berada dalam posisi yang membahayakan. Beberapa komentar menampilkan tautan ke video pribadi dan tidak terdaftar. Klip YouTube ini dimonetisasi melalui iklan untuk perusahaan seperti Grammarly dan Google sendiri.
Tak lama setelah video watson, yang menunjukkan dia mengekspresikan kengerian pada fenomena tersebut,
Ini adalah sesuatu, tapi karena Forbes, Dapat Dihancurkan, Orang Dalam Bisnis, dan The New York Times semua menunjukkan, itu bukan solusi untuk masalah pembelajaran algoritmik, manusia, atau mesin yang nyata.
Menariknya, banyak video yang dilihat Watson memiliki komentar yang dinonaktifkan, yang menunjukkan bahwa pengelola konten YouTube telah memperhatikan serangkaian komentar dan telah berusaha mempersulit para pedofilia untuk beroperasi pada mereka lokasi. Tetapi semua upaya yang dikonfirmasi adalah kesadaran akan masalah yang belum terpecahkan.
Faktanya, sudah jelas bahwa masalahnya dimulai setidaknya pada tahun 2017. Di bulan yang sama dengan “Elsagate” kontroversi meledak, orang-orang mulai membunyikan alarm tentang komentar seksual yang aneh dan tersirat di video anak-anak kecil, Dibuat untuk Anak-Anak. Pengiklan besar suka AT&T menghentikan pengeluaran untuk iklan di situs tersebut ketika BBC melaporkan bahwa komentar yang tidak pantas pada video anak-anak yang dimonetisasi sering kali menyertakan stempel waktu untuk momen panjang kedua dari posisi sugestif dan tautan ke video yang tidak terdaftar — dan pengiklan tidak melanjutkan pembelanjaan hingga masalah tersebut “diperbaiki”. Pada 21 Februari, AT&T, yang baru saja mulai beriklan di platform lagi pada bulan Januari, mengatakan mereka akan berhenti membelanjakan iklan di platform tersebut. Hasbro, Nestle, dan Disney semuanya mengikutinya.
Elsagate tidak sama dengan cincin pedofilia, tetapi masalahnya terkait. Kumpulan konten memanfaatkan kata kunci dan menempatkan iklan secara otomatis berdasarkan keterlibatan saluran dan penyaringan AI yang buruk, dan membuat kartun yang menggunakan karakter anak-anak populer tanpa izin waralaba. Banyak dari ini “pertanian konten” — artinya, perusahaan yang membuat video ini — berkantor pusat di tempat-tempat seperti Kota Ho Chi Minh, Vietnam. Mereka tidak mendidik atau ramah anak, tetapi berkembang biak di YouTube anak-anak sebagai video yang dimonetisasi.
Youtube mengubah pedoman monetisasi mereka setelah skandal ganda 2017. Saat ini, pembuat video harus memiliki setidaknya 1.000 pelanggan dan video mereka telah dilihat selama 4.000 jam. Peraturan ini diberlakukan hanya setelah Elsagate dan sekarang perusahaan mengklaim bahwa semua video yang dimonetisasi akan ditinjau oleh manusia yang sebenarnya, bukan AI, untuk mengekang penayangan iklan yang tidak pantas (pikirkan: iklan Google yang menayangkan video seorang gadis tween makan permen lolipop yang telah memiliki lebih dari 1 juta pandangan).
Itu sebabnya begitu banyak video anak-anak memiliki komentar yang dinonaktifkan di bawah video. 10.000 pengulas manusia YouTube, yang ditugaskan untuk meninjau 400 jam rekaman yang diunggah ke YouTube setiap menit, juga bertanggung jawab untuk mencari atas keterlibatan dengan video tersebut dan menonaktifkan komentar yang tidak pantas, tautan ke video yang tidak terdaftar, atau stempel waktu anak-anak di sugestif posisi.
Saya membuat akun YouTube baru setelah menemukan bahwa algoritme saya begitu mengakar sehingga sulit menemukan konten yang tidak pantas, dan mencari hal yang sama yang dicari Watson — “bikini haul.” Dalam 12 klik saya berada di lubang kelinci yang aneh dari video gulat anak-anak dan waktu malam anak perempuan rutinitas. Saya menemukan satu video 30+ menit dan menemukan ini:
Pada 21:25, gadis dalam video itu menjauh dari kamera dan, dalam sekejap, selangkangannya terlihat.
Saya juga menemukan banyak video pemodelan gadis-gadis muda yang jelas-jelas berusia di bawah 18 tahun. Komentator mencatat betapa cantiknya para model dan betapa hebatnya penampilan mereka dalam pakaian dalam mereka, terlepas dari kenyataan bahwa ini adalah anak-anak. Saya tidak akan membagikan video karena tidak pantas; tetapi faktanya adalah bahwa komentar ini tidak hanya harus dipantau panjang lebar, mereka mungkin tidak boleh ada di situs web sama sekali. Tidak ada tindakan yang diambil terhadap komentar tersebut atau video tentang model pakaian dalam di bawah umur.
Dan gadis lain memposting video rutinitas malamnya, setelah mandi. Gadis, yang halaman YouTube-nya disebut “Pengalaman Fortnite Makenzie” dan yang tampaknya berusia tidak lebih dari 13 tahun, secara tidak sengaja menggerakkan handuknya sedemikian rupa dalam video yang menunjukkan sisi tubuh telanjangnya pada menit 2:47.
Jelas, video ini seharusnya tidak pernah diunggah. Gadis di dalamnya jelas-jelas belum puber dan mengenakan handuk, menjelaskan rutinitas malamnya. Video ini memiliki sekitar 51.000 tampilan. Sisa videonya memiliki antara delapan dan 150 tampilan. Jadi mengapa hal ini terjadi? Apakah dia tahu mengapa 51.000 orang telah melihat video ini dan tidak ada video Fortnite atau video kerajinan yang menyenangkan? Apakah dia mengerti bahwa ada orang di luar sana yang tidak melihat ini karena mereka tidak terlalu peduli dengan rutinitas malamnya tetapi ingin melihat seorang gadis kecil dengan handuk? Mungkin. Mungkin tidak. Dia masih kecil. Seseorang harus lebih memantau penggunaan internetnya, tetapi itu juga sulit. Dan di situlah YouTube harus masuk, tapi belum. Ini adalah konten yang tidak pantas meskipun tidak secara terang-terangan bersifat seksual karena kemungkinan dikonsumsi. Ini bukan hal yang menggairahkan kecuali Anda adalah tipe orang yang secara khusus menganggapnya menggairahkan.
Meskipun video ini tidak dimonetisasi untuk iklan, mereka juga jelas tidak dipantau oleh manusia atau AI — setidaknya tidak secara efektif. Beberapa video seharusnya tidak ada di YouTube sama sekali tetapi memiliki jutaan penayangan. Jika komentar dan moderasi konten tidak efektif seperti yang terlihat, anak-anak akan terus menjadi subjek minat seksual di platform, yang akan terus menjadi alat pemangsa.
Karena YouTube menjadi tempat semakin banyak anak-anak yang mengkonsumsi video serta tempat di mana mereka memamerkan kreasi mereka, mereka yang bertanggung jawab atas platform perlu membuat keputusan tentang apakah moderasi harus dilakukan untuk kepentingan penyangkalan yang masuk akal atau untuk kepentingan melindungi anak-anak. Jika perusahaan sampai pada kesimpulan terakhir – dan semoga saja – mereka harus mempertimbangkan kembali staf dan perangkat lunak mereka. Jika mereka tidak melakukannya, mereka harus mempertimbangkan kembali peran apa yang ingin mereka mainkan di internet.
