Už bet kokio realaus pasaulio konteksto veido atpažinimo technologija yra šaunus savotiška moksline fantastika, mes gyvename ateityje. Bet „Reuters“ pranešimas apie veido atpažinimo naudojimą 200 „Rite Aid“ parduotuvių – vienos didžiausių įdiegimų Jungtinėse Valstijose – rodo, kad tai yra rodo ateitį niekas, kas domisi teisingumu, neturėtų jaudintis.
Atpažindama veidą „Rite Aid“ naudojo skirtingus pardavėjus ir įrangą, tačiau ji visada veikė taip pat. Kameros užfiksavo klientų veidus ir palygino juos su veidų, priklausančių žmonėms, kuriuos bendrovė „anksčiau stebėjo dalyvaujant galima nusikalstama veikla.”
Kai buvo pasiektas mačas, programinė įranga skambino išmaniajame telefone, kurį laikė parduotuvės apsaugos agentas. Jie peržiūrės rungtynes ir, jei tikslūs, paprašys atitinkamo asmens išeiti.
Net jei ji veiktų nepriekaištingai ir būtų teisingai įgyvendinta, sistema būtų problemiška. Jis pagrįstas prielaida, kad asmuo, kuris vagystės iš parduotuvės nusipelnė šiandien būti pašalintas iš parduotuvės. Tai taip pat suteikia korporacijoms galimybę išstumti žmones iš savo parduotuvių remiantis jų valdoma informacija, o tai taip pat kelia nerimą.
Ir praktiškai veido atpažinimas Rite Aid neveikė tobulai ir nebuvo sąžiningai įgyvendintas.
Dešimt saugumo agentų, kalbėjusių su „Reuters“, sutiko, kad sistema reguliariai klaidingai identifikuoja žmones ir yra požymių, kad programinė įranga buvo ne tokia veiksminga ir todėl kėlė didesnį pavojų žmonėms spalva.
„Reuters“ rado vieną „Rite Aid“ klientą Tristaną Jacksoną-Stankūną, kurio saugumo agentas paprašė išeiti iš Kalifornijos parduotuvės. remiantis atitikmeniu su nuotrauka, kuri, jo teigimu, atrodė, išskyrus tai, kad joje buvo juodaodis vyras. jam.
„Jis blogai pritraukia juodaodžius“, – sakė Detroito apeigų pagalbos tarnybos saugumo agentas. „Jei jūsų akys yra tokios pačios arba jei nešiojate galvos juostą taip, kaip kitas žmogus, gausite smūgį.
Ir net neskaitant programinės įrangos trūkumų, „Rite Aid“ įdiegė veido atpažinimą neproporcingai sutelktas į spalvų bendruomenes, kurias žinojo „kietesnė“, „griežčiausia“ ar „blogiausiose“ srityse. Penkiasdešimt dvi iš 65 parduotuvių, kuriose bendrovė pirmą kartą pristatė technologijas, buvo tose srityse, kuriose didžiausia grupė buvo juodaodžiai arba lotynų.
Pavyzdžiui, Manheteno baltos, turtingesnės Upper West Side parduotuvės neatpažino veido, o viena Harleme, esančiame vos už dviejų mylių, atpažino. Tai nepaisant to, kad vidinė peržiūra nustatė, kad abi daug uždirbančios parduotuvės turėjo vienodą nuostolių riziką.
Savo ruožtu Rite Aid tvirtina, kad veido atpažinimo programa „neturėjo nieko bendra su rase ir buvo skirta atgrasyti nuo vagystės ir apsaugoti darbuotojus bei klientus nuo smurto“. Jame taip pat teigiama, kad programa buvo nutraukta dėl „didesnės pramonės“. pokalbis“.
„Atrodo, kad kitos didelės technologijų įmonės mažina arba permąsto savo pastangas veido atpažinimo srityje, nes didėja netikrumas dėl technologijos naudingumas“, – teigė bendrovė, nepateikdama komentarų, kaip jos įgyvendinimas, o ne tik pati technologija, galėjo prisidėti prie nesėkmės. programa.
