În afara oricărui tip de context real, tehnologia de recunoaștere facială este mișto într-un fel de SF, trăim în viitor. Dar un raport Reuters privind utilizarea recunoașterii faciale la 200 de magazine Rite Aid – una dintre cele mai mari implementări din Statele Unite – arată că, în context, este indicativ al unui viitor nimeni interesat de justiție nu ar trebui să fie entuziasmat.
Rite Aid a folosit diferiți furnizori și echipamente pe parcursul eforturilor sale de recunoaștere facială, dar a funcționat întotdeauna în același mod. Camerele de luat vederi au capturat fețele clienților și le-au comparat cu o bază de date de imagini cu fețe aparținând unor persoane pe care compania „observase anterior că se implicau”. activitate criminală potențială.”
Când s-a făcut o potrivire, software-ul a trimis un ping unui smartphone deținut de agentul de securitate al magazinului. Ei ar revizui meciul și, dacă este exact, ar cere persoanei în cauză să plece.
Chiar dacă ar funcționa perfect și ar fi implementat corect, sistemul ar fi problematic. Se bazează pe presupunerea că cineva care a furat cu ani în urmă merită să fie scos din magazin astăzi. De asemenea, oferă corporațiilor posibilitatea de a elimina oamenii din magazinele lor pe baza informațiilor pe care le controlează, ceea ce este, de asemenea, îngrijorător.
Și în practică, recunoașterea facială la Rite Aid nu a funcționat perfect și nu a fost implementată în mod corect.
Zece agenți de securitate care au discutat cu Reuters au fost toți de acord că sistemul a identificat în mod regulat greșit oamenii și există indicii că software-ul a fost mai puțin eficient - și, prin urmare, un risc mai mare pentru - oamenii culoare.
Reuters a găsit un client Rite Aid, Tristan Jackson-Stankunas, căruia i s-a cerut să părăsească un magazin din California de către un agent de securitate pe baza unei potriviri cu o fotografie despre care spune el, cu excepția faptului că arăta un bărbat de culoare, nu semăna deloc l.
„Nu prinde bine oamenii de culoare”, a spus un agent de securitate de la Detroit Rite Aid. „Dacă ochii tăi sunt la fel sau dacă îți porți bentita ca o altă persoană, vei primi un hit.”
Și chiar și dincolo de insuficiența software-ului, implementarea de către Rite Aid a recunoașterii faciale a fost centrat în mod disproporționat pe comunitățile de culoare, ceea ce cei familiari numeau „mai dur”, „cel mai dur” sau zonele „cele mai proaste”. Cincizeci și două dintre cele 65 de magazine din prima lansare mare a tehnologiei a companiei se aflau în zone în care cel mai mare grup era negru sau latino.
De exemplu, un magazin din Upper West Side alb și mai bogat din Manhattan nu a primit recunoaștere facială, în timp ce unul din Harlem, la doar două mile distanță, a primit-o. Acest lucru, în ciuda faptului că o analiză internă a constatat că ambele magazine cu venituri mari aveau un risc egal de pierdere.
La rândul său, Rite Aid insistă că programul de recunoaștere facială „nu a avut nicio legătură cu rasa și a fost menit să descurajeze furtul. și protejează personalul și clienții de violență.” De asemenea, a mai spus că programul a fost întrerupt în mijlocul „o industrie mai mare conversaţie."
„Alte companii mari de tehnologie par să reducă sau să-și regândească eforturile în ceea ce privește recunoașterea facială, având în vedere incertitudinea tot mai mare în ceea ce privește utilitatea tehnologiei”, a spus compania, neglijând să comenteze modul în care implementarea sa și nu doar tehnologia în sine ar fi putut contribui la eșecul programul.
