Ārpus jebkāda veida reālās pasaules konteksta, sejas atpazīšanas tehnoloģija ir forši zinātniskās fantastikas veidā, mēs dzīvojam nākotnē. Bet Reuters ziņojumā par sejas atpazīšanas izmantošanu 200 Rite Aid veikalos — vienā no lielākajām ieviešanām Amerikas Savienotajās Valstīs — liecina, ka kontekstā tas ir liecina par nākotni nevienam, kas interesējas par taisnīgumu, nevajadzētu satraukties.
Sejas atpazīšanas laikā Rite Aid izmantoja dažādus pārdevējus un aprīkojumu, taču tas vienmēr darbojās vienādi. Kameras iemūžināja klientu sejas un salīdzināja tās ar datu bāzi ar seju attēliem, kas pieder cilvēkiem, kuriem uzņēmums “iepriekš bija novērojis iesaistīšanos iespējama noziedzīga darbība.”
Kad tika panākta spēle, programmatūra piezvanīja viedtālrunim, ko turēja veikala apsardzes aģents. Viņi pārskatīs spēli un, ja tas ir precīzi, lūgs attiecīgo personu pamest.
Pat ja tā darbotos nevainojami un tiktu īstenota godīgi, sistēma būtu problemātiska. Tas balstās uz pieņēmumu, ka kāds, kurš veikala apzagšanu veica pirms vairākiem gadiem, šodien ir pelnījis tikt izņemts no veikala. Tas arī sniedz korporācijām iespēju izraidīt cilvēkus no saviem veikaliem, pamatojoties uz viņu kontrolēto informāciju, kas arī rada satraukumu.
Un praksē sejas atpazīšana Rite Aid nedarbojās perfekti un netika īstenota godīgi.
Desmit drošības aģenti, kas sarunājās ar Reuters, piekrita, ka sistēma regulāri nepareizi identificē cilvēkus un ir norādes, ka programmatūra bija mazāk efektīva un tādējādi vairāk apdraudēja cilvēkus krāsa.
Reuters atrada vienu Rite Aid klientu Tristanu Džeksonu-Stankunasu, kuru drošības aģents lūdza atstāt Kalifornijas veikalu. pamatojoties uz sērkociņu ar fotogrāfiju, par kuru viņš saka, izņemot to, ka tajā bija redzams melnādains vīrietis, tas nelīdzinājās viņu.
"Tas slikti uztver melnādainos cilvēkus," sacīja Detroitas Rite Aid drošības aģents. "Ja jūsu acis ir vienādas vai ja jūs nēsājat savu galvas saiti tā, kā cita persona valkā galvas saiti, jūs saņemsit sitienu."
Un pat ārpus programmatūras nepilnībām Rite Aid ieviesa sejas atpazīšanu nesamērīgi koncentrējas uz krāsu kopienām, kuras pazīstamie sauca par "stingrākajām", "stingrākajām" vai "sliktākās" zonas. Piecdesmit divi no 65 veikaliem uzņēmuma pirmajā lielajā tehnoloģiju ieviešanā atradās apgabalos, kur lielākā grupa bija Black vai Latino.
Piemēram, Manhetenas baltajā, turīgākajā Upper West Side veikalā sejas atpazīšana netika veikta, savukārt Hārlemā, kas atrodas tikai divu jūdžu attālumā, tā tika veikta. Tas neskatoties uz to, ka iekšējā pārskatā tika konstatēts, ka abiem labi pelnošajiem veikaliem ir vienāds zaudējumu risks.
Savukārt Rite Aid uzstāj, ka sejas atpazīšanas programmai "nav nekāda sakara ar rasi un tās mērķis bija atturēt no zādzībām un aizsargāt darbiniekus un klientus no vardarbības. Tajā arī teikts, ka programma tika pārtraukta "lielākas nozares apstākļos". saruna."
"Šķiet, ka citi lielie tehnoloģiju uzņēmumi atkāpjas vai pārdomā savus centienus saistībā ar sejas atpazīšanu, ņemot vērā pieaugošo nenoteiktību par tehnoloģijas lietderība," sacīja uzņēmums, nesniedzot komentārus par to, kā tās ieviešana, nevis tikai pati tehnoloģija, varēja veicināt neveiksmi programma.
