Poza jakimkolwiek kontekstem w świecie rzeczywistym, technologia rozpoznawania twarzy jest fajnie w rodzaju science-fiction, w pewien sposób żyjemy w przyszłości. Ale raport Reutera o wykorzystaniu rozpoznawania twarzy w 200 sklepach Rite Aid — jednej z największych wdrożeń w Stanach Zjednoczonych — pokazuje, że w kontekście wskazujący na przyszłość nikt zainteresowany sprawiedliwością nie powinien być podekscytowany.
Firma Rite Aid korzystała z różnych dostawców i sprzętu w trakcie działań związanych z rozpoznawaniem twarzy, ale zawsze działała w ten sam sposób. Kamery rejestrowały twarze klientów i porównywały je z bazą danych zdjęć twarzy osób, które firma „wcześniej obserwowała angażując się w potencjalna działalność przestępcza.”
Kiedy dokonano dopasowania, oprogramowanie pingowało smartfon trzymany przez agenta ochrony sklepu. Zweryfikują dopasowanie i, jeśli to trafne, poproszą daną osobę o odejście.
Nawet gdyby działał idealnie i został wdrożony rzetelnie, system byłby problematyczny. Opiera się na założeniu, że ktoś, kto przed laty kradł w sklepie, zasługuje dziś na usunięcie ze sklepu. Daje również korporacjom możliwość wyrzucania ludzi ze swoich sklepów na podstawie informacji, które kontrolują, co również jest niepokojące.
W praktyce rozpoznawanie twarzy w Rite Aid nie działało idealnie i nie było uczciwie wdrażane.
Dziesięciu agentów bezpieczeństwa, którzy rozmawiali z Reutersem, zgodziło się, że system regularnie błędnie identyfikuje ludzi i… istnieją przesłanki, że oprogramowanie było mniej skuteczne — a zatem stanowiło większe ryzyko dla — osób z kolor.
Reuters znalazł jednego klienta Rite Aid, Tristana Jacksona-Stankunasa, którego agent ochrony poprosił o opuszczenie sklepu w Kalifornii na podstawie dopasowania ze zdjęciem, które mówi, z wyjątkiem tego, że przedstawiało czarnoskórego mężczyznę, nie wyglądało jak jego.
„Nie odbiera dobrze Czarnych” – powiedział agent ochrony w Detroit Rite Aid. „Jeśli twoje oczy są takie same lub jeśli nosisz opaskę, tak jak inna osoba nosi opaskę, otrzymasz hit”.
A nawet poza niedoskonałościami oprogramowania, wdrożenie rozpoznawania twarzy Rite Aid było nieproporcjonalnie skoncentrowane na społecznościach kolorowych, które znajomi nazywali „twardszymi”, „najtwardszymi” lub „najgorsze” obszary. Pięćdziesiąt dwa z 65 sklepów w pierwszym dużym wdrożeniu technologii firmy znajdowały się w obszarach, w których największą grupę stanowili ludzie czarnoskórzy lub Latynosi.
Na przykład sklep na białym, bogatszym Upper West Side na Manhattanie nie został rozpoznany, podczas gdy sklep w Harlemie, zaledwie dwie mile stąd, tak. Dzieje się tak pomimo faktu, że wewnętrzny przegląd wykazał, że oba dobrze zarabiające sklepy miały równe ryzyko strat.
Ze swojej strony Rite Aid twierdzi, że program rozpoznawania twarzy „nie miał nic wspólnego z rasą i miał na celu powstrzymanie kradzieży oraz chronić personel i klientów przed przemocą”. Stwierdzono również, że program został przerwany w „większej branży” rozmowa."
„Wydaje się, że inne duże firmy technologiczne ograniczają lub ponownie zastanawiają się nad swoimi wysiłkami na rzecz rozpoznawania twarzy, biorąc pod uwagę rosnącą niepewność wokół użyteczności technologii”, powiedziała firma, zaniedbując komentarz na temat tego, w jaki sposób jej wdrożenie, a nie tylko sama technologia, mogło przyczynić się do niepowodzenia program.
