Bármilyen valós kontextuson kívül az arcfelismerő technológia az amolyan sci-fiben menő, a jövőben-a-jövőben élünk. De a Reuters jelentése az arcfelismerés használatáról 200 Rite Aid üzletben – amely az Egyesült Államok egyik legnagyobb megvalósítása – azt mutatja, hogy összefüggésben a jövőt jelzi senkit sem kell izgatnia az igazságszolgáltatás iránt.
A Rite Aid különböző gyártókat és berendezéseket használt az arcfelismerési erőfeszítései során, de mindig ugyanúgy működött. A kamerák rögzítették az ügyfelek arcát, és összehasonlították azokat egy adatbázissal, amely olyan emberek arcképeit tartalmazza, akiket a vállalat „korábban megfigyelt potenciális bűnözői tevékenység.”
Amikor egyezés született, a szoftver rápingált egy okostelefonra, amelyet az üzlet biztonsági ügynöke tartott. Átnézik a mérkőzést, és ha pontosak, felkérik az illetőt, hogy távozzon.
Még ha tökéletesen működne és tisztességesen alkalmazzák is, a rendszer problémás lenne. Ez azon a feltételezésen alapul, hogy valaki, aki évekkel korábban lopott, megérdemli, hogy ma eltávolítsák az üzletből. Lehetőséget ad a vállalatoknak arra is, hogy az általuk ellenőrzött információk alapján kiutasítsák az embereket üzleteikből, ami szintén aggasztó.
A gyakorlatban pedig a Rite Aid arcfelismerése nem működött tökéletesen, és nem tisztességesen alkalmazták.
A Reuters hírügynökséggel beszélgető tíz biztonsági ügynök mind egyetértett abban, hogy a rendszer rendszeresen tévesen azonosított embereket, és vannak arra utaló jelek, hogy a szoftver kevésbé volt hatékony – és ezért nagyobb kockázatot jelentett – az emberek számára szín.
A Reuters talált egy Rite Aid ügyfelet, Tristan Jackson-Stankunast, akit egy biztonsági ügynök arra kért, hogy hagyja el a kaliforniai üzletet. egy meccs alapján egy fényképpel, amely szerinte, kivéve azt a tényt, hogy egy fekete férfi volt rajta, nem hasonlított neki.
„Nem veszik fel jól a feketéket” – mondta a Detroit Rite Aid egyik biztonsági ügynöke. "Ha a szemed ugyanolyan, vagy ha úgy hordod a fejpántodat, mint egy másik ember, akkor ütést kapsz."
És még a szoftver hiányosságain túl is, a Rite Aid arcfelismerési implementációja az volt aránytalanul a színes közösségekre összpontosul, amit az ismerősök „keményebbnek”, „legkeményebbnek” vagy „legrosszabb” területek. A 65 üzlet közül 52 a vállalat első nagy technológiai bevezetése során olyan területeken volt, ahol a legnagyobb csoport a fekete vagy a latin üzlet volt.
Például Manhattan fehér, gazdagabb Upper West Side-jén egy üzlet nem kapott arcfelismerést, míg a mindössze két mérföldnyire lévő Harlemben igen. Ez annak ellenére történt, hogy egy belső vizsgálat megállapította, hogy mindkét jól jövedelmező üzletben egyenlő a veszteség kockázata.
A Rite Aid a maga részéről ragaszkodik ahhoz, hogy az arcfelismerő programnak „semmi köze volt a fajhoz, és az volt a célja, hogy megakadályozza a lopást. és megvédi a személyzetet és az ügyfeleket az erőszaktól.” Azt is közölte, hogy a programot „egy nagyobb iparág” közepette leállították beszélgetés."
„Úgy tűnik, hogy más nagy technológiai vállalatok visszaszorulnak vagy újragondolják az arcfelismeréssel kapcsolatos erőfeszítéseiket, tekintettel az egyre növekvő bizonytalanságra. a technológia hasznossága” – mondta a vállalat, és elmulasztotta kommentálni, hogy annak megvalósítása, és nem csak maga a technológia, hogyan járulhatott hozzá a technológia kudarcához. A program.
