Fora de qualquer tipo de contexto do mundo real, a tecnologia de reconhecimento facial é legal em uma espécie de ficção científica, estamos vivendo no futuro. Mas uma reportagem da Reuters sobre o uso de reconhecimento facial em 200 lojas Rite Aid - uma das maiores implementações nos Estados Unidos - mostra que no contexto é indicativo de um futuro ninguém interessado em justiça deve ficar animado.
A Rite Aid usou diferentes fornecedores e equipamentos ao longo de seus esforços de reconhecimento facial, mas sempre funcionou da mesma maneira. As câmeras capturaram os rostos dos clientes e os compararam a um banco de dados de imagens de rostos pertencentes a pessoas que a empresa "observou anteriormente se engajando em potencial atividade criminosa.”
Quando uma correspondência foi feita, o software fez o ping de um smartphone mantido pelo agente de segurança da loja. Eles revisariam a correspondência e, se fosse verdade, pediriam à pessoa em questão para sair.
Mesmo que funcionasse perfeitamente e fosse implementado de maneira justa, o sistema seria problemático. Baseia-se no pressuposto de que alguém que furtou em uma loja anos antes merece ser removido de uma loja hoje. Também dá às empresas a capacidade de expulsar pessoas de suas lojas com base nas informações que controlam, o que também é preocupante.
E, na prática, o reconhecimento facial no Rite Aid não funcionou perfeitamente e não foi implementado de forma justa.
Dez agentes de segurança que falaram com a Reuters concordaram que o sistema costumava identificar erroneamente as pessoas, e há indicações de que o software era menos eficaz - e, portanto, mais arriscado para - pessoas de cor.
A Reuters encontrou um cliente da Rite Aid, Tristan Jackson-Stankunas, que foi convidado a deixar uma loja da Califórnia por um agente de segurança baseado em uma combinação com uma foto que ele diz, com exceção do fato de que mostrava um homem negro, não parecia em nada dele.
“Não pega bem os negros”, disse um agente de segurança do Detroit Rite Aid. “Se seus olhos são os mesmos, ou se você está usando sua bandana como outra pessoa está usando uma bandana, você vai levar um tiro.”
E mesmo além das inadequações do software, a implementação de reconhecimento facial da Rite Aid foi desproporcionalmente centrado em comunidades de cor, o que os familiares chamam de "mais resistente", "mais resistente" ou Áreas “piores”. Cinquenta e duas das 65 lojas no primeiro grande lançamento de tecnologia da empresa foram em áreas onde o maior grupo era negro ou latino.
Por exemplo, uma loja no branco e rico Upper West Side de Manhattan não obteve reconhecimento facial, enquanto outra no Harlem, a apenas três quilômetros de distância, o fez. Isso apesar do fato de que uma revisão interna constatou que ambas as lojas de alto ganho tinham o mesmo risco de perda.
Por sua vez, a Rite Aid insiste que o programa de reconhecimento facial “não tinha nada a ver com raça e tinha como objetivo impedir o roubo e proteger funcionários e clientes da violência. ” Ele também disse que o programa foi interrompido em meio a "uma indústria maior conversação."
“Outras grandes empresas de tecnologia parecem estar reduzindo ou repensando seus esforços em torno do reconhecimento facial, dada a crescente incerteza em torno do utilidade da tecnologia ”, disse a empresa, deixando de comentar sobre como sua implementação, e não apenas a tecnologia em si, pode ter contribuído para o fracasso de o programa.
