Kaikenlaisen todellisen kontekstin ulkopuolella kasvojentunnistustekniikka on siistiä eräänlaisessa sci-fissä, elämme tavallaan-tulevaisuudessa. Mutta Reutersin raportti kasvojentunnistuksen käytöstä 200 Rite Aid -liikkeessä – yksi suurimmista toteutuksista Yhdysvalloissa – osoittaa, että asiayhteydessä se on osoitus tulevaisuudesta kenenkään oikeudenmukaisuudesta kiinnostuneen ei pitäisi olla innostunut.
Rite Aid käytti eri myyjiä ja laitteita kasvojentunnistustyönsä aikana, mutta se toimi aina samalla tavalla. Kamerat tallensivat asiakkaiden kasvot ja vertasivat niitä tietokantaan kasvojen kuvista, jotka kuuluivat henkilöille, joita yritys oli aiemmin havainnut osallistuvan mahdollista rikollista toimintaa.”
Kun ottelu saatiin aikaan, ohjelmisto pingoi kaupan turvahenkilön hallussa pitämää älypuhelinta. He tarkastelivat ottelua ja pyytäisivät kyseistä henkilöä poistumaan, jos se pitää paikkansa.
Vaikka se toimisi täydellisesti ja toteutettiin oikeudenmukaisesti, järjestelmä olisi ongelmallinen. Se perustuu olettamukseen, että joku, joka varasti vuosia aiemmin, ansaitsee tulla poistumaan kaupasta tänään. Se antaa yrityksille myös mahdollisuuden karkottaa ihmisiä liikkeistään hallitsemiensa tietojen perusteella, mikä on myös huolestuttavaa.
Käytännössä Rite Aidin kasvojentunnistus ei toiminut täydellisesti, eikä sitä toteutettu oikeudenmukaisesti.
Kymmenen Reutersin kanssa puhunutta turva-agenttia olivat kaikki yhtä mieltä siitä, että järjestelmä tunnisti säännöllisesti väärin ihmisiä ja on merkkejä siitä, että ohjelmisto oli vähemmän tehokas – ja siten suurempi riski – ihmisille väri.
Reuters löysi yhden Rite Aid -asiakkaan, Tristan Jackson-Stankunasin, jota turvallisuusagentti pyysi poistumaan Kalifornian myymälästä. perustuu otteluun valokuvan kanssa, jonka hän sanoo, paitsi että siinä oli musta mies, se ei näyttänyt miltään häntä.
"Se ei ota mustia ihmisiä hyvin", sanoi Detroit Rite Aidin turvallisuusagentti. "Jos silmäsi ovat samalla tavalla tai jos käytät santaasi kuten toisella henkilöllä, saat osuman."
Ja jopa ohjelmiston puutteiden lisäksi Rite Aidin kasvojentunnistuksen toteutus oli suhteettoman keskittynyt väriyhteisöihin, joita tutut kutsuivat "kovimmiksi", "kovimmiksi" tai "pahimmat" alueet. Yrityksen ensimmäisen suuren teknologian käyttöönoton 65 myymälästä 52 oli alueilla, joilla suurin ryhmä oli musta tai latino.
Esimerkiksi Manhattanin valkoisessa, rikkaammassa Upper West Sidessa sijaitseva myymälä ei saanut kasvojentunnistusta, kun taas yksi Harlemissa, vain kahden mailin päässä, sai. Tämä huolimatta siitä, että sisäinen tarkastelu totesi molemmilla korkeatuloisilla myymälöillä samansuuruisen menetyksen riskin.
Rite Aid puolestaan väittää, että kasvojentunnistusohjelmalla "ei ollut mitään tekemistä rodun kanssa ja että sen tarkoituksena oli estää varkaudet ja suojella henkilökuntaa ja asiakkaita väkivallalta." Siinä sanottiin myös, että ohjelma lopetettiin "suuremman teollisuuden vuoksi". keskustelu."
"Muut suuret teknologiayritykset näyttävät vähentävän tai harkitsevan uudelleen kasvojentunnistukseen liittyviä toimiaan, koska epävarmuus kasvaa teknologian hyödyllisyys", yhtiö sanoi jättämättä kommentoimatta, kuinka sen toteutus, ei pelkästään itse tekniikka, saattoi vaikuttaa järjestelmän epäonnistumiseen. ohjelma.
