Bingissä, lapsi pornografiaa ei ole vain helposti saatavilla, vaan sitä suositellaan käyttäjille. TechCrunchin torstaina julkaisema uusi raportti paljasti, että Microsoftin hakukone näyttää laitonta kuvia lasten hyväksikäytöstä siinä Hakutulokset.
Online-turvallisuusyrityksen AntiToxinin avulla TechCrunch lanseerasi tutkinta 30. joulukuuta 2018–7. tammikuuta Bingin mahdolliseen lapsipornografiaongelmaan saatuaan nimettömän vihjeen.
Tutkijat havaitsivat, että haettaessa yleisiä lapsipornografiaan liittyviä termejä, kuten "pornolapset", "porno CP" (CP on lyhenne sanoista "lapsipornografia") ja "alaston perheen lapset" johtivat laittomiin kuviin Bing. The raportti kuvailee kuvia "kuvina, jotka kuka tahansa ammattilainen tai aloittelija voi todeta alaikäisistä pojista ja tytöistä poseeraamassa osittain/täysin alastomina sekä osallistumassa erilaisiin seksuaalisiin akteihin."
Ja jopa viattomien sanojen ja lauseiden etsiminen voi johtaa loukkaaviin kuviin. Kun esimerkiksi tutkijat etsivät suosittua teinien videochat-sovellusta "Omegle Kids", Bing ehdotti automaattisesti "Omegle Kids Girls 13”, joka sisälsi tuloksissa lapsipornografiaa sekä samankaltaisten kuvien selkeää sisältöä laatikko.
Kaikki haut tehtiin pöytätietokoneella, jossa "Safe Search" -ominaisuus oli pois päältä. Raportissa todetaan, että samankaltaiset kyselyt Googlessa eivät tuottaneet läheskään yhtä paljon hyväksikäyttävää kuvaa tai graafista sisältöä.
AntiToxinin toimitusjohtaja Zohar Levkovitz sanoo tällaista väärinkäyttöä niinkin laajasti kuin Bingissä käytetyssä hakukoneessa ei voida hyväksyä. "Vanhempana meidän pitäisi odottaa vastuullisten teknologiayritysten kaksinkertaistuvan ja jopa kolminkertaistuvan, jotta ne eivät aiheuta myrkyllisyyttä lapsille jo ennestään vaaralliseen verkkoympäristöön."
Joten miten jotain tällaista tapahtuu? "Indeksoimme kaiken, kuten Google, ja teemme parhaamme seuloaksemme sen." selitti Microsoftin tiedottaja TechCrunchin kysyessä. "Käytämme PhotoDNA: n ja ihmisen moderoinnin yhdistelmää, mutta se ei johda meitä täydellisyyteen joka kerta. Olemme sitoutuneet parantamaan koko ajan."
Saatuaan tietoonsa ongelmasta Bing vakuutti käyttäjille, että se on korjattu ja että ihmisillä on nyt enemmän vaihtoehtoja laittomien kuvien ilmoittamiseen, mukaan lukien "lasten seksuaalinen hyväksikäyttö" -luokka.
Varatoimitusjohtaja Jordi Ribas totesi, "Toimimme välittömästi poistaaksemme [kuvat], mutta haluamme myös estää muita vastaavia rikkomuksia tulevaisuudessa. Keskitymme oppimaan tästä, jotta voimme tehdä muita tarvittavia parannuksia."
Löydät koko raportin TechCrunchilta ja AntiToxinilta tässä.
