Izvan bilo kakvog konteksta stvarnog sveta, tehnologija prepoznavanja lica jeste cool u nekoj vrsti naučne fantastike, mi živimo u budućnosti. Али izveštaj Rojtersa o korišćenju prepoznavanja lica u 200 prodavnica Rite Aid — jedne od najvećih implementacija u Sjedinjenim Državama — pokazuje da je u kontekstu indikativno za budućnost niko zainteresovan za pravdu ne treba da se uzbuđuje.
Rite Aid je koristio različite dobavljače i opremu tokom svojih napora za prepoznavanje lica, ali je uvek funkcionisao na isti način. Kamere su snimile lica kupaca i uporedile ih sa bazom podataka slika lica koja pripadaju ljudima za koje je kompanija „ranije primetila da se bave potencijalne kriminalne aktivnosti.”
Kada je napravljeno podudaranje, softver je pingovao pametni telefon koji je držao agent bezbednosti prodavnice. Oni bi pregledali utakmicu i, ako je tačna, zamolili osobu o kojoj je reč da ode.
Čak i kada bi funkcionisao savršeno i bio pošteno primenjen, sistem bi bio problematičan. Počiva na pretpostavci da neko ko je krao godinama ranije zaslužuje da bude uklonjen iz prodavnice danas. Takođe daje korporacijama mogućnost da izbace ljude iz svojih prodavnica na osnovu informacija koje kontrolišu, što je takođe zabrinjavajuće.
A u praksi, prepoznavanje lica u Rite Aid-u nije funkcionisalo savršeno i nije bilo pošteno primenjeno.
Deset bezbednosnih agenata koji su razgovarali sa Rojtersom složili su se da je sistem redovno pogrešno identifikovao ljude, i postoje indicije da je softver bio manje efikasan — a samim tim i veći rizik za — ljude boja.
Rojters je pronašao jednog kupca Rite Aid-a, Tristana Džeksona-Stankunasa, koga je agent obezbeđenja zamolio da napusti prodavnicu u Kaliforniji na osnovu utakmice sa fotografijom za koju kaže, sa izuzetkom činjenice da je na njoj bio crnac, nije izgledalo ništa slično nego.
„Ne prihvata dobro crnce“, rekao je agent obezbeđenja u Detroit Rite Aid-u. „Ako su vam oči iste, ili ako nosite svoju traku za glavu kao što druga osoba nosi traku za glavu, dobićete pogodak.
Čak i pored neadekvatnosti softvera, Rite Aid-ova implementacija prepoznavanja lica je bila nesrazmerno usredsređeni na zajednice boja, ono što su poznati zvali „žešće“, „najteže“ ili „najgora” područja. Pedeset dve od 65 prodavnica u prvom velikom uvođenju tehnologije kompanije bile su u oblastima gde su najveća grupa bili crnci ili latinoamerikanci.
Na primer, prodavnica na beloj, bogatijoj Upper West Side Menhetnu nije dobila prepoznavanje lica, dok je ona u Harlemu, udaljena samo dve milje, jeste. Ovo uprkos činjenici da je interna revizija otkrila da obe prodavnice sa visokom zaradom imaju jednak rizik od gubitka.
Sa svoje strane, Rite Aid insistira na tome da program za prepoznavanje lica „nije imao nikakve veze sa rasom i da je imao za cilj da spreči krađu i zaštiti osoblje i klijente od nasilja.” Takođe je rečeno da je program prekinut usred „veće industrije razgovor.”
„Čini se da druge velike tehnološke kompanije smanjuju ili preispituju svoje napore oko prepoznavanja lica s obzirom na sve veću nesigurnost oko tehnološka korisnost“, rekla je kompanija, zanemarujući da komentariše kako je njena implementacija, a ne samo sama tehnologija, mogla doprineti neuspehu Програм.
