Mimo akéhokoľvek kontextu skutočného sveta ide o technológiu rozpoznávania tváre cool v akomsi sci-fi, žijeme v budúcnosti. ale správa agentúry Reuters o používaní rozpoznávania tváre v 200 obchodoch Rite Aid – jednej z najväčších implementácií v Spojených štátoch – ukazuje, že v kontexte svedčiace o budúcnosti nikto, kto sa zaujíma o spravodlivosť, by nemal byť nadšený.
Rite Aid počas svojho úsilia o rozpoznávanie tváre používal rôznych predajcov a vybavenie, ale vždy to fungovalo rovnakým spôsobom. Kamery zachytili tváre zákazníkov a porovnali ich s databázou obrázkov tvárí patriacich ľuďom, ktorých spoločnosť „už predtým pozorovala, ako sa potenciálnu trestnú činnosť.”
Keď došlo k zhode, softvér pingol smartfón, ktorý držal bezpečnostný agent obchodu. Skontrolovali by zhodu a ak by bola správna, požiadali by dotyčného, aby odišiel.
Aj keby fungoval perfektne a bol implementovaný spravodlivo, systém by bol problematický. Vychádza z predpokladu, že niekto, kto pred rokmi vykradol, si dnes zaslúži byť odstránený z obchodu. Korporáciám tiež dáva možnosť vyhnať ľudí zo svojich obchodov na základe informácií, ktoré kontrolujú, čo je tiež znepokojujúce.
A v praxi rozpoznávanie tváre v Rite Aid nefungovalo dokonale a nebolo implementované spravodlivo.
Desať bezpečnostných agentov, ktorí hovorili s agentúrou Reuters, súhlasilo s tým, že systém pravidelne nesprávne identifikoval ľudí a existujú náznaky, že softvér bol menej účinný – a preto predstavoval pre ľudí väčšie riziko farba.
Agentúra Reuters našla jedného zákazníka Rite Aid, Tristana Jacksona-Stankunasa, ktorého bezpečnostný agent požiadal, aby opustil obchod v Kalifornii. na základe zhody s fotografiou, ktorá podľa neho nevyzerala, s výnimkou skutočnosti, že na nej bol černoch ho.
„Čiernych to nechytá dobre,“ povedal bezpečnostný agent z Detroit Rite Aid. "Ak sú vaše oči rovnaké alebo ak nosíte čelenku ako iná osoba, dostanete hit."
A dokonca aj za nedostatky softvéru bola implementácia rozpoznávania tváre Rite Aid neúmerne sústredené na spoločenstvá farieb, ktoré ľudia bežne nazývali „tvrdšie“, „najtvrdšie“ alebo „najhoršie“ oblasti. Päťdesiatdva zo 65 obchodov v rámci prvého veľkého zavedenia technológie spoločnosti bolo v oblastiach, kde bola najväčšia skupina Black alebo Latino.
Napríklad obchod na manhattanskej bielej, bohatšej Upper West Side nerozpoznal tvár, zatiaľ čo obchod v Harleme, len dve míle odtiaľ, áno. A to aj napriek tomu, že interná kontrola zistila, že oba vysoko zarábajúce obchody mali rovnaké riziko straty.
Rite Aid trvá na tom, že program rozpoznávania tváre „nemá nič spoločné s rasou a jeho cieľom je zabrániť krádeži. a chrániť zamestnancov a zákazníkov pred násilím.“ Uviedla tiež, že program bol prerušený uprostred „väčšieho priemyslu rozhovor.”
„Zdá sa, že iné veľké technologické spoločnosti zmenšujú alebo prehodnocujú svoje úsilie týkajúce sa rozpoznávania tváre vzhľadom na rastúcu neistotu okolo užitočnosť technológie,“ uviedla spoločnosť, pričom zabudla komentovať, ako mohla k zlyhaniu prispieť jej implementácia a nielen samotná technológia. Program.
