Zunaj kakršnega koli konteksta resničnega sveta je tehnologija prepoznavanja obrazov kul v nekakšni sci-fi, na nek način živimo v prihodnosti. Ampak poroča Reuters o uporabi prepoznavanja obraza v 200 trgovinah Rite Aid – ena največjih implementacij v Združenih državah – kaže, da je v kontekstu nakazuje prihodnost nihče ne bi smel biti navdušen nad pravičnostjo.
Rite Aid je med svojimi prizadevanji za prepoznavanje obrazov uporabljal različne prodajalce in opremo, vendar je vedno deloval na enak način. Kamere so posnele obraze strank in jih primerjale z bazo podatkov s slikami obrazov ljudi, ki jih je podjetje »prej opazilo, da se potencialne kriminalne dejavnosti.”
Ko je bilo vzpostavljeno ujemanje, je programska oprema pingirala pametni telefon, ki ga je imel varnostni agent trgovine. Pregledali bi tekmo in, če je točna, bi prosili zadevno osebo, naj odide.
Tudi če bi deloval brezhibno in bi bil pošteno implementiran, bi bil sistem problematičen. Temelji na predpostavki, da si nekdo, ki je pred leti kradel v trgovini, zasluži, da ga danes odstranimo iz trgovine. Prav tako daje korporacijam možnost, da ljudi izgnajo iz svojih trgovin na podlagi informacij, ki jih nadzorujejo, kar je prav tako zaskrbljujoče.
In v praksi prepoznavanje obrazov pri Rite Aid ni delovalo popolnoma in ni bilo pošteno implementirano.
Deset varnostnih agentov, ki so se pogovarjali z Reutersom, se je strinjalo, da je sistem redno napačno identificiral ljudi in obstajajo znaki, da je bila programska oprema manj učinkovita – in zato večja nevarnost za – ljudi barva.
Reuters je našel enega od strank Rite Aid, Tristana Jacksona-Stankunasa, ki ga je varnostni agent pozval, naj zapusti trgovino v Kaliforniji. na podlagi ujemanja s fotografijo, za katero pravi, z izjemo dejstva, da je prikazal temnopoltega, ni bila videti nič podobnega njega.
"Ne pobere dobro temnopoltih ljudi," je dejal varnostni agent pri Detroit Rite Aid. "Če so vaše oči enake ali če nosite svoj naglavni trak, kot druga oseba nosi naglavni trak, boste dobili zadetek."
Poleg pomanjkljivosti programske opreme je Rite Aid izvajal prepoznavanje obraza. nesorazmerno osredotočen na barvne skupnosti, ki so jih poznavalci imenovali »strožje«, »najtežje« ali »najslabša« področja. Dvainpetdeset od 65 trgovin v prvi veliki uvedbi tehnologije podjetja je bilo na območjih, kjer je bila največja skupina črncev ali latinoameričanov.
Na primer, trgovina na belem, bogatejšem mestu Upper West Side na Manhattnu ni prejela obraznega prepoznavanja, medtem ko je ena v Harlemu, le dve milji stran, storila. To kljub dejstvu, da je interni pregled ugotovil, da imata obe trgovini z visokimi zaslužki enako tveganje izgube.
Po drugi strani Rite Aid vztraja, da program za prepoznavanje obrazov »ni imel nič skupnega z raso in je bil namenjen odvračanju od kraje in zaščititi osebje in stranke pred nasiljem." Povedalo je tudi, da je bil program ukinjen sredi "večje industrije pogovor."
"Zdi se, da druga velika tehnološka podjetja zmanjšujejo ali ponovno razmišljajo o svojih prizadevanjih glede prepoznavanja obrazov zaradi vse večje negotovosti glede uporabnost tehnologije,« so povedali v podjetju, pri čemer niso upoštevali, kako bi lahko njegova implementacija in ne samo tehnologija prispevala k neuspehu Program.
