Εκτός κάθε είδους πραγματικού περιβάλλοντος, η τεχνολογία αναγνώρισης προσώπου είναι cool σε ένα είδος επιστημονικής φαντασίας, ζούμε στο μέλλον. Αλλά ρεπορτάζ του Reuters σχετικά με τη χρήση της αναγνώρισης προσώπου σε 200 καταστήματα Rite Aid - μια από τις μεγαλύτερες εφαρμογές στις Ηνωμένες Πολιτείες - δείχνει ότι στο πλαίσιο αυτό είναι ενδεικτικό ενός μέλλοντος κανένας που ενδιαφέρεται για τη δικαιοσύνη δεν πρέπει να ενθουσιάζεται.
Η Rite Aid χρησιμοποίησε διαφορετικούς προμηθευτές και εξοπλισμό κατά τη διάρκεια των προσπαθειών της για την αναγνώριση προσώπου, αλλά λειτουργούσε πάντα με τον ίδιο τρόπο. Οι κάμερες απαθανάτισαν τα πρόσωπα των πελατών και τα συνέκριναν με μια βάση δεδομένων με εικόνες προσώπων που ανήκαν σε άτομα τα οποία η εταιρεία είχε «προηγουμένως παρατηρήσει να ασχολούνται με πιθανή εγκληματική δραστηριότητα.”
Όταν έγινε ένας αγώνας, το λογισμικό έκανε ping σε ένα smartphone που κρατούσε ο αντιπρόσωπος ασφαλείας του καταστήματος. Εξέταζαν τον αγώνα και, αν ήταν ακριβής, ζητούσαν από το εν λόγω άτομο να φύγει.
Ακόμα κι αν λειτουργούσε τέλεια και εφαρμόστηκε δίκαια, το σύστημα θα ήταν προβληματικό. Βασίζεται στην υπόθεση ότι κάποιος που έκλεψε χρόνια νωρίτερα αξίζει να απομακρυνθεί από ένα κατάστημα σήμερα. Δίνει επίσης στις εταιρείες τη δυνατότητα να διώχνουν άτομα από τα καταστήματά τους με βάση πληροφορίες που ελέγχουν, κάτι που είναι επίσης ανησυχητικό.
Και στην πράξη, η αναγνώριση προσώπου στο Rite Aid δεν λειτούργησε τέλεια και δεν εφαρμόστηκε δίκαια.
Δέκα πράκτορες ασφαλείας που μίλησαν στο Reuters συμφώνησαν όλοι ότι το σύστημα αναγνώριζε τακτικά εσφαλμένα άτομα και Υπάρχουν ενδείξεις ότι το λογισμικό ήταν λιγότερο αποτελεσματικό — και επομένως μεγαλύτερο κίνδυνο για — τους ανθρώπους του χρώμα.
Το Reuters βρήκε έναν πελάτη της Rite Aid, τον Tristan Jackson-Stankunas, ο οποίος κλήθηκε να φύγει από ένα κατάστημα στην Καλιφόρνια από έναν πράκτορα ασφαλείας βασισμένο σε ένα ταίρι με μια φωτογραφία που λέει, με εξαίρεση το γεγονός ότι έδειχνε μαύρο, δεν έμοιαζε σε τίποτα αυτόν.
«Δεν παίρνει καλά τους μαύρους», είπε ένας πράκτορας ασφαλείας στο Detroit Rite Aid. «Αν τα μάτια σου είναι με τον ίδιο τρόπο ή αν φοράς το κεφαλόδεσμό σου όπως ένα άλλο άτομο φοράει κορδέλα, θα χτυπήσεις».
Και ακόμη και πέρα από τις ανεπάρκειες του λογισμικού, η εφαρμογή της αναγνώρισης προσώπου από την Rite Aid ήταν δυσανάλογα με επίκεντρο τις έγχρωμες κοινότητες, αυτό που οι γνωστοί αποκαλούσαν «σκληρότερο», «σκληρότερο» ή «χειρότερες» περιοχές. Πενήντα δύο από τα 65 καταστήματα στην πρώτη μεγάλη ανάπτυξη της τεχνολογίας της εταιρείας ήταν σε περιοχές όπου ο μεγαλύτερος όμιλος ήταν Black ή Latino.
Για παράδειγμα, ένα κατάστημα στο λευκό, πιο πλούσιο Upper West Side του Μανχάταν δεν είχε αναγνώριση προσώπου ενώ ένα στο Χάρλεμ, μόλις δύο μίλια μακριά, το έκανε. Αυτό παρά το γεγονός ότι μια εσωτερική ανασκόπηση διαπίστωσε ότι και τα δύο καταστήματα με υψηλές απολαβές είχαν ίσο κίνδυνο ζημίας.
Από την πλευρά της, η Rite Aid επιμένει ότι το πρόγραμμα αναγνώρισης προσώπου «δεν είχε καμία σχέση με τη φυλή και είχε σκοπό να αποτρέψει την κλοπή και προστατεύστε το προσωπικό και τους πελάτες από τη βία». Είπε επίσης ότι το πρόγραμμα διακόπηκε εν μέσω «μιας μεγαλύτερης βιομηχανίας συνομιλία."
«Άλλες μεγάλες εταιρείες τεχνολογίας φαίνεται να περιορίζουν ή να επανεξετάζουν τις προσπάθειές τους σχετικά με την αναγνώριση προσώπου, δεδομένης της αυξανόμενης αβεβαιότητας σχετικά με η χρησιμότητα της τεχνολογίας», είπε η εταιρεία, παραμελώντας να σχολιάσει πώς η εφαρμογή της και όχι μόνο η ίδια η τεχνολογία μπορεί να συνέβαλε στην αποτυχία του το πρόγραμμα.
