Fuera de cualquier tipo de contexto del mundo real, la tecnología de reconocimiento facial es Genial en una especie de ciencia ficción, estamos viviendo en el futuro.. Pero un informe de Reuters sobre el uso del reconocimiento facial en 200 tiendas Rite Aid, una de las implementaciones más grandes en los Estados Unidos, muestra que en contexto es indicativo de un futuro nadie interesado en la justicia debería entusiasmarse.
Rite Aid utilizó diferentes proveedores y equipos en el transcurso de sus esfuerzos de reconocimiento facial, pero siempre funcionó de la misma manera. Las cámaras capturaron los rostros de los clientes y los compararon con una base de datos de imágenes de rostros pertenecientes a personas a las que la empresa había "observado previamente participar en actividad criminal potencial.”
Cuando se hizo una coincidencia, el software hizo ping a un teléfono inteligente en poder del agente de seguridad de la tienda. Revisarían la coincidencia y, si eran precisos, pedirían a la persona en cuestión que se fuera.
Incluso si funcionara perfectamente y se implementara de manera justa, el sistema sería problemático. Se basa en la suposición de que alguien que robó en una tienda años antes merece que lo saquen de una tienda hoy. También brinda a las corporaciones la capacidad de expulsar a las personas de sus tiendas en función de la información que controlan, lo que también es preocupante.
Y en la práctica, el reconocimiento facial en Rite Aid no funcionó a la perfección y no se implementó de manera justa.
Diez agentes de seguridad que hablaron con Reuters estuvieron de acuerdo en que el sistema identificaba erróneamente a las personas con regularidad, y Hay indicios de que el software fue menos eficaz y, por lo tanto, más riesgoso para las personas de color.
Reuters encontró a un cliente de Rite Aid, Tristan Jackson-Stankunas, a quien un agente de seguridad le pidió que saliera de una tienda de California. basado en una coincidencia con una foto que dice, con la excepción del hecho de que mostraba a un hombre negro, no se parecía en nada él.
"No recoge bien a los negros", dijo un agente de seguridad en un Detroit Rite Aid. "Si tus ojos están de la misma manera, o si estás usando tu diadema como otra persona lleva una diadema, vas a conseguir un éxito".
E incluso más allá de las deficiencias del software, la implementación del reconocimiento facial de Rite Aid fue desproporcionadamente centrado en las comunidades de color, lo que aquellos familiares llamaron "más duros", "más duros" o Áreas “peores”. Cincuenta y dos de las 65 tiendas en el primer gran lanzamiento de la tecnología de la compañía estaban en áreas donde el grupo más grande era negro o latino.
Por ejemplo, una tienda en el Upper West Side blanco y más rico de Manhattan no obtuvo reconocimiento facial, mientras que una en Harlem, a solo dos millas de distancia, sí. Esto a pesar del hecho de que una revisión interna encontró que ambas tiendas con altos ingresos tenían el mismo riesgo de pérdida.
Por su parte, Rite Aid insiste en que el programa de reconocimiento facial “no tenía nada que ver con la raza y estaba destinado a disuadir el robo y proteger al personal y a los clientes de la violencia ". También dijo que el programa se suspendió en medio de "una industria más grande conversacion."
"Otras grandes empresas de tecnología parecen estar reduciendo o reconsiderando sus esfuerzos en torno al reconocimiento facial debido a la creciente incertidumbre en torno al la utilidad de la tecnología ", dijo la compañía, sin comentar cómo su implementación y no solo la tecnología en sí podría haber contribuido al fracaso de el programa.
