Technologie rozpoznávání obličeje je mimo jakýkoli kontext reálného světa cool v jakémsi sci-fi, žijeme v budoucnosti. Ale zpráva agentury Reuters o používání rozpoznávání obličeje ve 200 obchodech Rite Aid – jedné z největších implementací ve Spojených státech – ukazuje, že v kontextu svědčící o budoucnosti nikdo, kdo se zajímá o spravedlnost, by neměl být nadšený.
Rite Aid používal různé dodavatele a vybavení v průběhu svého úsilí o rozpoznání obličeje, ale vždy to fungovalo stejným způsobem. Kamery zachytily obličeje zákazníků a porovnaly je s databází snímků tváří lidí, které společnost „dříve pozorovala, jak se potenciální kriminální činnost.”
Když byla nalezena shoda, software pingl na smartphone, který držel bezpečnostní agent obchodu. Zkontrolovali by shodu a pokud by byla přesná, požádali dotyčného, aby odešel.
I kdyby fungoval perfektně a byl implementován spravedlivě, systém by byl problematický. Vychází z předpokladu, že někdo, kdo před lety vykradl, si dnes zaslouží být z obchodu odstraněn. Korporacím také dává možnost vykázat lidi ze svých obchodů na základě informací, které ovládají, což je také znepokojivé.
A v praxi rozpoznávání obličeje ve společnosti Rite Aid nefungovalo dokonale a nebylo implementováno spravedlivě.
Deset bezpečnostních agentů, kteří hovořili s agenturou Reuters, se shodlo, že systém pravidelně chybně identifikoval lidi a existují náznaky, že software byl méně účinný – a proto představoval pro lidi větší riziko barva.
Agentura Reuters našla jednoho zákazníka Rite Aid, Tristana Jacksona-Stankunase, kterého bezpečnostní agent požádal, aby opustil kalifornský obchod. na základě shody s fotkou, která podle něj s výjimkou skutečnosti, že na ní byl černoch, nevypadala mu.
"Nesnímá to černochy dobře," řekl bezpečnostní agent z Detroit Rite Aid. "Pokud jsou vaše oči stejné nebo pokud nosíte čelenku jako jiná osoba, dostanete hit."
A dokonce i za nedostatkem softwaru byla implementace rozpoznávání obličejů Rite Aid se neúměrně soustředí na barevné komunity, které tito známí nazývali „tvrdší“, „nejtvrdší“ nebo „nejhorší“ oblasti. Padesát dva z 65 obchodů v rámci prvního velkého zavedení této technologie se nacházelo v oblastech, kde největší skupinou byli Black nebo Latino.
Například obchod na manhattanské bílé, bohatší Upper West Side nerozpoznal obličej, zatímco obchod v Harlemu, jen dvě míle odtud, ano. A to i přesto, že interní přezkum zjistil, že oba obchody s vysokými příjmy měly stejné riziko ztráty.
Rite Aid trvá na tom, že program rozpoznávání obličeje „nemá nic společného s rasou a měl za cíl odradit od krádeže. a chránit zaměstnance a zákazníky před násilím.“ Uvedla také, že program byl přerušen uprostřed „většího průmyslu konverzace."
„Zdá se, že další velké technologické společnosti omezují nebo přehodnocují své úsilí týkající se rozpoznávání obličeje, protože narůstá nejistota ohledně užitečnost technologie,“ uvedla společnost a opomněla komentovat, jak její implementace a nejen samotná technologie mohla přispět k selhání Program.
