En dehors de tout type de contexte réel, la technologie de reconnaissance faciale est cool dans une sorte de science-fiction, nous vivons dans le futur en quelque sorte. Mais un rapport de Reuters sur l'utilisation de la reconnaissance faciale dans 200 magasins Rite Aid - l'une des plus grandes implémentations aux États-Unis - montre que, dans le contexte, il est indicatif d'un avenir personne qui s'intéresse à la justice ne devrait être enthousiasmé.
Rite Aid a utilisé différents fournisseurs et équipements au cours de ses efforts de reconnaissance faciale, mais cela a toujours fonctionné de la même manière. Les caméras ont capturé les visages des clients et les ont comparés à une base de données d'images de visages appartenant à des personnes que l'entreprise avait "précédemment observées en train de s'engager dans activité criminelle potentielle.”
Lorsqu'une correspondance a été établie, le logiciel a envoyé un ping à un smartphone détenu par l'agent de sécurité du magasin. Ils passeraient en revue le match et, s'il était exact, demanderaient à la personne en question de partir.
Même s'il fonctionnait parfaitement et était mis en œuvre de manière équitable, le système serait problématique. Cela repose sur l'hypothèse que quelqu'un qui a volé à l'étalage des années plus tôt mérite d'être retiré d'un magasin aujourd'hui. Cela donne également aux entreprises la possibilité d'expulser les gens de leurs magasins en fonction des informations qu'elles contrôlent, ce qui est également troublant.
Et dans la pratique, la reconnaissance faciale chez Rite Aid ne fonctionnait pas parfaitement et n'était pas mise en œuvre de manière équitable.
Dix agents de sécurité qui ont parlé à Reuters ont tous convenu que le système identifiait régulièrement des personnes de manière erronée, et il y a des indications que le logiciel était moins efficace - et donc plus risqué pour - les personnes de Couleur.
Reuters a trouvé un client de Rite Aid, Tristan Jackson-Stankunas, à qui un agent de sécurité a demandé de quitter un magasin californien. basé sur un match avec une photo qu'il dit, à l'exception du fait qu'elle montrait un homme noir, ne ressemblait en rien lui.
"Cela ne capte pas bien les Noirs", a déclaré un agent de sécurité d'un Detroit Rite Aid. "Si vos yeux sont de la même manière, ou si vous portez votre bandeau comme une autre personne porte un bandeau, vous allez avoir un coup."
Et même au-delà des insuffisances du logiciel, la mise en œuvre de la reconnaissance faciale par Rite Aid a été centré de manière disproportionnée sur les communautés de couleur, ce que ceux qui sont familiers appelaient « plus dur », « le plus dur » ou les "pires" zones. Cinquante-deux des 65 magasins du premier grand déploiement de la technologie de l'entreprise se trouvaient dans des zones où le plus grand groupe était noir ou latino.
Par exemple, un magasin de l'Upper West Side blanc et plus riche de Manhattan n'a pas obtenu de reconnaissance faciale alors qu'un autre à Harlem, à seulement trois kilomètres de là, l'a fait. Ceci malgré le fait qu'un examen interne a révélé que les deux magasins à revenu élevé présentaient un risque de perte égal.
De son côté, Rite Aid insiste sur le fait que le programme de reconnaissance faciale « n'avait rien à voir avec la race et visait à dissuader le vol. et protéger le personnel et les clients de la violence. Il a également déclaré que le programme avait été interrompu au milieu « d'une plus grande industrie conversation."
« D'autres grandes entreprises technologiques semblent réduire ou repenser leurs efforts en matière de reconnaissance faciale compte tenu de l'incertitude croissante autour de la l'utilité de la technologie », a déclaré la société, omettant de commenter comment sa mise en œuvre et pas seulement la technologie elle-même aurait pu contribuer à l'échec de le programme.
