Buiten elke vorm van real-world context, is gezichtsherkenningstechnologie cool in een soort van sci-fi, we leven-in-de-toekomst-achtige manier. Maar een Reuters-rapport over het gebruik van gezichtsherkenning in 200 Rite Aid-winkels - een van de grootste implementaties in de Verenigde Staten - laat zien dat het in context indicatief voor een toekomst niemand die geïnteresseerd is in gerechtigheid zou enthousiast moeten zijn.
Rite Aid gebruikte verschillende leveranciers en apparatuur tijdens zijn inspanningen voor gezichtsherkenning, maar het werkte altijd op dezelfde manier. Camera's legden de gezichten van klanten vast en vergeleken deze met een database met afbeeldingen van gezichten van mensen die het bedrijf "eerder had waargenomen bij mogelijke criminele activiteit.”
Toen er een match was gemaakt, pingde de software een smartphone van de winkelbeveiligingsagent. Ze zouden de wedstrijd beoordelen en, indien correct, de persoon in kwestie vragen te vertrekken.
Zelfs als het perfect zou werken en eerlijk werd geïmplementeerd, zou het systeem problematisch zijn. Het berust op de veronderstelling dat iemand die jaren eerder een winkeldiefstal heeft gepleegd het verdient om vandaag uit een winkel te worden verwijderd. Het geeft bedrijven ook de mogelijkheid om mensen uit hun winkels te verwijderen op basis van informatie die ze beheren, wat ook verontrustend is.
En in de praktijk werkte gezichtsherkenning bij Rite Aid niet perfect en werd niet eerlijk geïmplementeerd.
Tien veiligheidsagenten die met Reuters spraken waren het er allemaal over eens dat het systeem regelmatig mensen verkeerd identificeerde, en er zijn aanwijzingen dat de software minder effectief was — en dus een groter risico vormde voor — mensen van kleur.
Reuters vond een klant van Rite Aid, Tristan Jackson-Stankunas, die door een veiligheidsagent werd gevraagd een winkel in Californië te verlaten. op basis van een match met een foto die volgens hem, met uitzondering van het feit dat er een zwarte man op stond, in niets leek op hem.
"Het pikt zwarte mensen niet goed op", zei een veiligheidsagent bij een Detroit Rite Aid. "Als je ogen op dezelfde manier zijn, of als je je hoofdband draagt zoals een andere persoon een hoofdband draagt, krijg je een hit."
En zelfs afgezien van de tekortkomingen van de software, was de implementatie van gezichtsherkenning door Rite Aid disproportioneel gecentreerd op kleurgemeenschappen, wat bekenden ‘harder’, ‘zwaarste’ of ‘harder’ noemden. "slechtste" gebieden. Tweeënvijftig van de 65 winkels in de eerste grote uitrol van de technologie door het bedrijf waren in gebieden waar de grootste groep zwart of latino was.
Een winkel in de blanke, rijkere Upper West Side van Manhattan kreeg bijvoorbeeld geen gezichtsherkenning, terwijl een winkel in Harlem, slechts drie kilometer verderop, dat wel deed. Dit ondanks het feit dat uit een interne beoordeling bleek dat beide goed verdienende winkels een even groot risico op verlies hadden.
Rite Aid van zijn kant houdt vol dat het gezichtsherkenningsprogramma "niets te maken had met ras en bedoeld was om diefstal te voorkomen". en personeel en klanten te beschermen tegen geweld.” Het zei ook dat het programma werd stopgezet te midden van "een grotere industrie" gesprek."
"Andere grote technologiebedrijven lijken hun inspanningen rond gezichtsherkenning terug te schroeven of te heroverwegen gezien de toenemende onzekerheid over de" het nut van technologie”, zei het bedrijf, zonder commentaar te geven op hoe de implementatie ervan en niet alleen de technologie zelf zou kunnen hebben bijgedragen aan het mislukken van het programma.
