वास्तविक दुनिया के किसी भी संदर्भ से बाहर, चेहरे की पहचान तकनीक है एक तरह के विज्ञान-कथा में शांत, हम भविष्य में रहने वाले एक तरह के हैं. परंतु रॉयटर्स की रिपोर्ट 200 राइट एड स्टोर्स पर चेहरे की पहचान के उपयोग पर - संयुक्त राज्य में सबसे बड़े कार्यान्वयन में से एक - यह दर्शाता है कि संदर्भ में यह है भविष्य का संकेत न्याय में रुचि रखने वाले किसी व्यक्ति को उत्साहित नहीं होना चाहिए।
राइट एड ने अपने चेहरे की पहचान के प्रयासों के दौरान विभिन्न विक्रेताओं और उपकरणों का इस्तेमाल किया, लेकिन यह हमेशा एक ही तरह से काम करता था। कैमरों ने ग्राहकों के चेहरों को कैद किया और उनकी तुलना उन लोगों के चेहरों की छवियों के डेटाबेस से की, जिन्हें कंपनी ने "पहले इसमें उलझते हुए देखा था। संभावित आपराधिक गतिविधि.”
जब एक मैच किया गया था, तो सॉफ्टवेयर ने स्टोर सुरक्षा एजेंट द्वारा रखे गए स्मार्टफोन को पिंग किया। वे मैच की समीक्षा करेंगे और सही होने पर संबंधित व्यक्ति को जाने के लिए कहेंगे।
यहां तक कि अगर यह पूरी तरह से काम करता है और निष्पक्ष रूप से लागू किया जाता है, तो भी सिस्टम समस्याग्रस्त होगा। यह इस धारणा पर टिकी हुई है कि कोई व्यक्ति जिसने सालों पहले खरीदारी की थी, उसे आज स्टोर से हटा दिया जाना चाहिए। यह निगमों को उनके द्वारा नियंत्रित जानकारी के आधार पर लोगों को उनके स्टोर से बाहर निकालने की क्षमता भी देता है, जो परेशान करने वाला भी है।
और व्यवहार में, राइट एड में चेहरे की पहचान पूरी तरह से काम नहीं करती थी और इसे निष्पक्ष रूप से लागू नहीं किया गया था।
रॉयटर्स से बात करने वाले दस सुरक्षा एजेंट इस बात से सहमत थे कि सिस्टम नियमित रूप से लोगों की गलत पहचान करता है, और इस बात के संकेत हैं कि सॉफ्टवेयर कम प्रभावी था - और इसलिए - के लोगों के लिए अधिक जोखिम वाला था रंग।
रॉयटर्स को एक राइट एड ग्राहक, ट्रिस्टन जैक्सन-स्टैंकुनास मिला, जिसे एक सुरक्षा एजेंट द्वारा कैलिफ़ोर्निया स्टोर छोड़ने के लिए कहा गया था एक तस्वीर के साथ एक मैच के आधार पर वह कहता है, इस तथ्य के अपवाद के साथ कि इसमें एक काला आदमी दिखाया गया था, ऐसा कुछ भी नहीं दिखता था उसे।
डेट्रॉइट राइट एड के एक सुरक्षा एजेंट ने कहा, "यह काले लोगों को अच्छी तरह से नहीं उठाता है।" "यदि आपकी आंखें उसी तरह हैं, या यदि आप अपना हेडबैंड पहन रहे हैं जैसे किसी अन्य व्यक्ति ने हेडबैंड पहन रखा है, तो आपको हिट मिलने वाली है।"
और यहां तक कि सॉफ्टवेयर की अपर्याप्तता से परे, राइट एड के चेहरे की पहचान का कार्यान्वयन था रंग के समुदायों पर असमान रूप से केंद्रित, जिन्हें परिचित लोग "कठिन", "सबसे कठिन" या "सबसे खराब" क्षेत्र। तकनीक के कंपनी के पहले बड़े रोलआउट में 65 स्टोरों में से 52 स्टोर उन क्षेत्रों में थे जहां सबसे बड़ा समूह ब्लैक या लैटिनो था।
उदाहरण के लिए, मैनहट्टन के सफेद, अमीर अपर वेस्ट साइड के एक स्टोर को चेहरे की पहचान नहीं मिली, जबकि हार्लेम में सिर्फ दो मील की दूरी पर एक स्टोर था। यह इस तथ्य के बावजूद कि एक आंतरिक समीक्षा में पाया गया कि दोनों उच्च कमाई वाले स्टोरों में नुकसान का समान जोखिम था।
इसके भाग के लिए, राईट एड ने जोर देकर कहा कि चेहरे की पहचान कार्यक्रम "दौड़ से कोई लेना-देना नहीं था और इसका उद्देश्य चोरी को रोकना था और कर्मचारियों और ग्राहकों को हिंसा से बचाएं।" इसने यह भी कहा कि "एक बड़े उद्योग" के बीच कार्यक्रम को बंद कर दिया गया था बातचीत।"
"अन्य बड़ी प्रौद्योगिकी कंपनियां चेहरे की पहचान के आसपास अपने प्रयासों को कम कर रही हैं या पुनर्विचार कर रही हैं, जिससे आसपास अनिश्चितता बढ़ रही है" प्रौद्योगिकी की उपयोगिता, ”कंपनी ने कहा, इस पर टिप्पणी करने की उपेक्षा करते हुए कि इसके कार्यान्वयन और न केवल तकनीक ने ही विफलता में योगदान दिया हो सकता है कार्यक्रम।
