Näotuvastustehnoloogia on väljaspool igasugust reaalset konteksti omamoodi ulmeliselt lahe, me elame-tulevikus. Aga Reutersi raport näotuvastuse kasutamise kohta 200 Rite Aidi poes – mis on üks suurimaid rakendusi Ameerika Ühendriikides – näitab, et kontekstis on see viitab tulevikule ükski õiglusest huvitatud ei tohiks olla põnevil.
Rite Aid kasutas näotuvastuse käigus erinevaid müüjaid ja seadmeid, kuid see töötas alati samamoodi. Kaamerad jäädvustasid klientide näod ja võrdlesid neid andmebaasiga, mis sisaldas pilte nende inimeste nägudest, keda ettevõte oli varem jälginud. võimalik kuritegelik tegevus.”
Kui matš tehti, pinges tarkvara poe turvatöötaja käes olnud nutitelefoni. Nad vaatavad mängu üle ja kui see on täpne, paluvad sellel isikul lahkuda.
Isegi kui see töötaks ideaalselt ja rakendataks õiglaselt, oleks süsteem problemaatiline. See põhineb eeldusel, et keegi, kes aastaid varem poest varastas, väärib täna poest eemaldamist. Samuti annab see ettevõtetele võimaluse inimesi oma kauplustest välja saata nende kontrollitava teabe põhjal, mis on samuti murettekitav.
Ja praktikas ei toiminud näotuvastus Rite Aidis ideaalselt ja seda ei rakendatud õiglaselt.
Kümme Reutersiga vestelnud turvaagenti nõustusid, et süsteem tuvastas regulaarselt inimesi valesti ja on viiteid sellele, et tarkvara oli vähem tõhus – ja seetõttu oli see inimestele suurem oht värvi.
Reuters leidis ühe Rite Aidi kliendi, Tristan Jackson-Stankunase, kellel turvaagent palus California poest lahkuda. põhineb vastel fotoga, mis tema sõnul ei näinud välja midagi sellist, välja arvatud asjaolu, et sellel oli kujutatud mustanahalist meest tema.
"See ei võta mustanahalisi hästi vastu," ütles Detroid Rite Aidi turvaagent. "Kui teie silmad on samasugused või kui kannate oma peapaela nagu teine inimene, saate löögi."
Ja isegi peale tarkvara puuduste rakendas Rite Aid näotuvastust ebaproportsionaalselt keskendunud värvikogukondadele, mida tuttavad nimetasid "karmimaks", "karmimaks" või "halvimad" alad. Viiskümmend kaks 65 kauplusest, mis ettevõtte esimese suure tehnoloogia kasutuselevõtu käigus olid, asusid piirkondades, kus suurim grupp oli must või latiino.
Näiteks Manhattani valge, jõukama Upper West Side'i pood ei saanud näotuvastust, samas kui üks pood vaid kahe miili kaugusel asuvas Harlemis. Seda vaatamata asjaolule, et ettevõttesisese läbivaatamise käigus leiti, et mõlemal kõrge tuluga kauplusel oli võrdne kahjumi risk.
Rite Aid omalt poolt rõhutab, et näotuvastusprogrammil "ei olnud rassiga midagi pistmist ja see oli mõeldud varguste ärahoidmiseks ning kaitsta töötajaid ja kliente vägivalla eest. Samuti öeldi, et programm katkestati keset „suuremat tööstust vestlus."
"Teised suured tehnoloogiaettevõtted näivad vähendavat või mõtlevat ümber oma näotuvastusega seotud jõupingutused, arvestades kasvavat ebakindlust tehnoloogia kasulikkus," ütles ettevõte, jättes kommenteerimata, kuidas selle rakendamine, mitte ainult tehnoloogia ise, võis kaasa aidata programm.
