Izvan bilo kakvog stvarnog konteksta, tehnologija prepoznavanja lica jest cool u nekoj vrsti znanstvene fantastike, mi na neki način živimo u budućnosti. Ali izvješću Reutersa o korištenju prepoznavanja lica u 200 trgovina Rite Aid - jednoj od najvećih implementacija u Sjedinjenim Državama - pokazuje da je u kontekstu pokazatelj budućnosti nitko se ne bi trebao uzbuđivati za pravdu.
Rite Aid je koristio različite dobavljače i opremu tijekom svojih napora za prepoznavanje lica, ali je uvijek radio na isti način. Kamere su snimile lica kupaca i uspoređivale ih s bazom podataka slika lica osoba koje je tvrtka “prethodno primijetila kako sudjeluju u potencijalne kriminalne aktivnosti.”
Kada je napravljeno podudaranje, softver je pingirao pametni telefon koji je držao agent sigurnosti trgovine. Pregledali bi utakmicu i, ako je točna, zamolili dotičnu osobu da ode.
Čak i kad bi radio savršeno i pošteno implementiran, sustav bi bio problematičan. Počiva na pretpostavci da netko tko je krao godinama ranije zaslužuje da bude uklonjen iz trgovine danas. Također korporacijama daje mogućnost izbacivanja ljudi iz svojih trgovina na temelju informacija koje kontroliraju, što je također zabrinjavajuće.
A u praksi, prepoznavanje lica u Rite Aidu nije radilo savršeno i nije bilo pošteno implementirano.
Deset sigurnosnih agenata koji su razgovarali s Reutersom složili su se da je sustav redovito krivo identificirao ljude, i postoje naznake da je softver bio manje učinkovit - i stoga veći rizik za - ljude boja.
Reuters je pronašao jednog kupca Rite Aida, Tristana Jackson-Stankunasa, kojeg je sigurnosni agent zamolio da napusti trgovinu u Kaliforniji na temelju utakmice s fotografijom za koju kaže, s izuzetkom činjenice da je na njoj bio crnac, nije izgledalo ništa slično mu.
"Ne pokupi dobro crnce", rekao je sigurnosni agent u Detroit Rite Aid-u. "Ako su vam oči iste, ili ako nosite svoju traku za glavu kao što druga osoba nosi traku za glavu, dobit ćete pogodak."
Čak i pored nedostataka softvera, Rite Aid je implementirao prepoznavanje lica. neproporcionalno usredotočena na zajednice boja, ono što su poznavatelji nazivali "čvršćim", "najčvršćim" ili “najgorim” područjima. Pedeset i dvije od 65 prodavaonica u prvom velikom uvođenju tehnologije tvrtke bile su u područjima gdje su najveća grupa bili crnci ili latinoamerikanci.
Na primjer, trgovina na bijelom, bogatijem Upper West Sideu Manhattana nije dobila prepoznavanje lica, dok je jedna u Harlemu, udaljenom samo dvije milje, uspjela. To unatoč činjenici da je internim pregledom utvrđeno da obje trgovine s visokom zaradom imaju jednak rizik od gubitka.
Sa svoje strane, Rite Aid inzistira na tome da program za prepoznavanje lica “nije imao nikakve veze s rasom i imao je za cilj spriječiti krađu i zaštiti osoblje i klijente od nasilja.” Također je rečeno da je program prekinut usred “veće industrije razgovor."
“Čini se da druge velike tehnološke tvrtke smanjuju ili preispituju svoje napore oko prepoznavanja lica s obzirom na sve veću nesigurnost oko korisnost tehnologije", rekla je tvrtka, zanemarujući komentirati kako je njezina implementacija, a ne samo sama tehnologija, mogla doprinijeti neuspjehu Program.
