Al di fuori di qualsiasi tipo di contesto del mondo reale, la tecnologia di riconoscimento facciale è bello in una specie di fantascienza, stiamo vivendo nel futuro in un modo. Ma un rapporto Reuters sull'uso del riconoscimento facciale in 200 negozi Rite Aid - una delle più grandi implementazioni negli Stati Uniti - mostra che nel contesto è indicativo di un futuro nessuno interessato alla giustizia dovrebbe essere entusiasta.
Rite Aid ha utilizzato diversi fornitori e attrezzature nel corso dei suoi sforzi di riconoscimento facciale, ma ha sempre funzionato allo stesso modo. Le telecamere hanno catturato i volti dei clienti e li hanno confrontati con un database di immagini di volti appartenenti a persone che l'azienda aveva "osservato in precedenza impegnarsi in potenziale attività criminale.”
Quando è stata effettuata una corrispondenza, il software ha eseguito il ping di uno smartphone tenuto dall'agente di sicurezza del negozio. Rivedrebbero la partita e, se precisi, chiederebbero alla persona in questione di andarsene.
Anche se funzionasse perfettamente e fosse implementato in modo equo, il sistema sarebbe problematico. Si basa sul presupposto che qualcuno che ha taccheggiato anni prima meriti di essere rimosso da un negozio oggi. Dà anche alle aziende la possibilità di espellere le persone dai loro negozi in base alle informazioni che controllano, il che è anche preoccupante.
E in pratica, il riconoscimento facciale presso Rite Aid non ha funzionato perfettamente e non è stato implementato in modo equo.
Dieci agenti di sicurezza che hanno parlato con Reuters hanno concordato sul fatto che il sistema identificava regolarmente persone erroneamente e ci sono indicazioni che il software fosse meno efficace - e quindi più rischioso per - le persone di colore.
La Reuters ha trovato un cliente di Rite Aid, Tristan Jackson-Stankunas, a cui è stato chiesto di lasciare un negozio della California da un agente di sicurezza basato su una corrispondenza con una foto che dice, ad eccezione del fatto che mostrava un uomo di colore, non assomigliava per niente lui.
"Non raccoglie bene i neri", ha detto un agente di sicurezza al Detroit Rite Aid. "Se i tuoi occhi sono allo stesso modo, o se indossi la fascia come un'altra persona indossa una fascia, avrai un successo".
E anche al di là delle inadeguatezze del software, l'implementazione del riconoscimento facciale da parte di Rite Aid è stata sproporzionatamente incentrato sulle comunità di colore, ciò che i familiari chiamavano "più duro", "più duro" o zone “peggiori”. Cinquantadue dei 65 negozi del primo grande lancio della tecnologia da parte dell'azienda si trovavano in aree in cui il gruppo più numeroso era nero o latino.
Ad esempio, un negozio nell'Upper West Side bianco e più ricco di Manhattan non ha ottenuto il riconoscimento facciale mentre uno ad Harlem, a sole due miglia di distanza, lo ha fatto. Questo nonostante il fatto che una revisione interna abbia rilevato che entrambi i negozi ad alto guadagno avevano lo stesso rischio di perdita.
Da parte sua, Rite Aid insiste sul fatto che il programma di riconoscimento facciale "non aveva nulla a che fare con la razza e aveva lo scopo di scoraggiare i furti". e proteggere il personale e i clienti dalla violenza”. Ha anche detto che il programma è stato interrotto in mezzo a "un'industria più grande" conversazione."
"Altre grandi aziende tecnologiche sembrano ridimensionare o ripensare ai loro sforzi sul riconoscimento facciale data la crescente incertezza intorno al l'utilità della tecnologia", ha affermato la società, trascurando di commentare come la sua implementazione e non solo la tecnologia stessa potrebbe aver contribuito al fallimento di il programma.
