Außerhalb jedes realen Kontexts ist die Gesichtserkennungstechnologie cool in einer art von sci-fi, wir leben in der zukunft. Aber ein Reuters-Bericht über die Verwendung von Gesichtserkennung in 200 Rite Aid-Geschäften – einer der größten Implementierungen in den Vereinigten Staaten – zeigt, dass es im Kontext indikativ für eine Zukunft Niemand, der sich für Gerechtigkeit interessiert, sollte begeistert sein.
Rite Aid hat im Laufe seiner Gesichtserkennungsbemühungen verschiedene Anbieter und Geräte verwendet, aber es funktionierte immer auf die gleiche Weise. Kameras erfassten die Gesichter von Kunden und verglichen sie mit einer Datenbank mit Bildern von Gesichtern von Personen, bei denen das Unternehmen „zuvor beobachtet hatte, wie sie sich engagierten“. potenzielle kriminelle Aktivitäten.”
Bei einer Übereinstimmung pingte die Software ein Smartphone, das sich im Besitz des Sicherheitsbeauftragten des Ladens befand. Sie würden die Übereinstimmung überprüfen und, falls zutreffend, die betreffende Person bitten, zu gehen.
Auch wenn es perfekt funktioniert und fair umgesetzt wird, wäre das System problematisch. Es beruht auf der Annahme, dass jemand, der vor Jahren einen Ladendiebstahl begangen hat, es verdient, heute aus einem Geschäft entfernt zu werden. Es gibt Unternehmen auch die Möglichkeit, Menschen basierend auf Informationen, die sie kontrollieren, aus ihren Geschäften auszuschließen, was ebenfalls beunruhigend ist.
Und in der Praxis funktionierte die Gesichtserkennung bei Rite Aid nicht perfekt und wurde nicht fair umgesetzt.
Zehn Sicherheitsagenten, die mit Reuters sprachen, stimmten alle zu, dass das System regelmäßig Personen falsch identifizierte, und es gibt Hinweise darauf, dass die Software weniger effektiv war – und daher ein größeres Risiko für – Personen von Farbe.
Reuters fand einen Rite Aid-Kunden, Tristan Jackson-Stankunas, der von einem Sicherheitsbeamten gebeten wurde, ein kalifornisches Geschäft zu verlassen basierend auf einer Übereinstimmung mit einem Foto, das, abgesehen von der Tatsache, dass es einen schwarzen Mann zeigte, in keiner Weise aussah ihm.
"Schwarze Menschen werden nicht gut aufgenommen", sagte ein Sicherheitsagent bei einer Detroit Rite Aid. „Wenn deine Augen gleich sind oder wenn du dein Stirnband trägst, wie eine andere Person ein Stirnband trägt, wirst du einen Hit bekommen.“
Und selbst über die Unzulänglichkeiten der Software hinaus war die Implementierung der Gesichtserkennung durch Rite Aid überproportional auf Farbgemeinschaften ausgerichtet, was die Vertrauten „härter“, „härtesten“ oder. nannten „schlechteste“ Bereiche. 52 der 65 Geschäfte bei der ersten großen Einführung der Technologie des Unternehmens befanden sich in Gebieten, in denen die größte Gruppe Black oder Latino war.
Zum Beispiel erhielt ein Geschäft in Manhattans weißer, wohlhabenderer Upper West Side keine Gesichtserkennung, während eines im nur drei Kilometer entfernten Harlem dies tat. Dies obwohl eine interne Überprüfung ergab, dass beide ertragsstarken Geschäfte ein gleiches Verlustrisiko aufweisen.
Rite Aid besteht seinerseits darauf, dass das Gesichtserkennungsprogramm "nichts mit Rasse zu tun hatte und Diebstahl verhindern sollte". und schützen Mitarbeiter und Kunden vor Gewalt.“ Es hieß auch, dass das Programm inmitten „einer größeren Industrie“ eingestellt wurde Gespräch."
„Andere große Technologieunternehmen scheinen ihre Bemühungen um die Gesichtserkennung angesichts der zunehmenden Unsicherheit in Bezug auf die Gesichtserkennung zu reduzieren oder zu überdenken der Nützlichkeit der Technologie“, sagte das Unternehmen und versäumte es, zu kommentieren, wie seine Implementierung und nicht nur die Technologie selbst zum Scheitern von beigetragen haben könnte das Programm.
