Her türlü gerçek dünya bağlamının dışında, yüz tanıma teknolojisi bir tür bilimkurgu türünde harika, gelecekte yaşıyoruz türünde. Fakat bir Reuters raporu Amerika Birleşik Devletleri'ndeki en büyük uygulamalardan biri olan 200 Rite Aid mağazasında yüz tanıma kullanımına ilişkin geleceğin göstergesi adaletle ilgilenen hiç kimse heyecanlanmamalı.
Rite Aid, yüz tanıma çalışmaları sırasında farklı satıcılar ve ekipman kullandı, ancak her zaman aynı şekilde çalıştı. Kameralar müşterilerin yüzlerini yakalar ve bunları şirketin "daha önce" etkileşimde bulunduğunu gözlemlediği kişilere ait yüzlerin görüntülerinden oluşan bir veritabanıyla karşılaştırır. potansiyel suç faaliyeti.”
Bir eşleşme yapıldığında yazılım, mağaza güvenlik görevlisi tarafından tutulan bir akıllı telefona ping attı. Maçı gözden geçirirler ve eğer doğruysa, söz konusu kişiden ayrılmasını isterlerdi.
Mükemmel çalışsa ve adil bir şekilde uygulansa bile sistem sorunlu olurdu. Yıllar önce hırsızlık yapan birinin bugün bir mağazadan çıkarılmayı hak ettiği varsayımına dayanıyor. Ayrıca şirketlere, kontrol ettikleri bilgilere dayanarak insanları mağazalarından çıkarma yeteneği verir ve bu da rahatsız edicidir.
Ve pratikte, Rite Aid'deki yüz tanıma mükemmel çalışmadı ve adil bir şekilde uygulanmadı.
Reuters ile konuşan on güvenlik görevlisi, sistemin insanları düzenli olarak yanlış tanımladığını kabul etti ve yazılımın daha az etkili olduğuna - ve bu nedenle daha fazla risk taşıdığına - dair göstergeler var. renk.
Reuters, bir güvenlik görevlisi tarafından bir California mağazasından ayrılması istenen bir Rite Aid müşterisi olan Tristan Jackson-Stankunas'ı buldu. siyah bir adamı göstermesi dışında, söylediği bir fotoğrafla eşleşmeye dayanarak, hiçbir şeye benzemediğini söyledi. o.
Detroit Rite Aid'den bir güvenlik görevlisi, "Siyahları pek iyi almıyor" dedi. "Gözleriniz aynıysa veya kafa bandınızı başka biri takıyormuş gibi takıyorsanız, vurulacaksınız."
Ve yazılımın yetersizliklerinin ötesinde, Rite Aid'in yüz tanıma uygulaması, orantısız bir şekilde, tanıdıkların “daha sert”, “en sert” olarak adlandırdığı veya “en kötü” alanlar. Şirketin teknolojinin ilk büyük sunumundaki 65 mağazadan elli ikisi, en büyük grubun Siyah veya Latin olduğu bölgelerdeydi.
Örneğin, Manhattan'ın beyaz, daha zengin Upper West Side'ındaki bir mağaza, sadece iki mil ötedeki Harlem'deki bir mağaza yüz tanıma alamadı. Bu, dahili bir incelemenin her iki yüksek kazançlı mağazanın da eşit kayıp riskine sahip olduğunu tespit etmesine rağmen.
Rite Aid, yüz tanıma programının “ırk ile hiçbir ilgisi olmadığını ve hırsızlığı caydırmayı amaçladığını” söylüyor. ve çalışanları ve müşterileri şiddetten koruyun.” Ayrıca programın “daha büyük bir endüstri” ortasında durdurulduğunu söyledi. konuşma."
"Diğer büyük teknoloji şirketleri, artan belirsizlik göz önüne alındığında, yüz tanıma konusundaki çabalarını ölçeklendiriyor veya yeniden düşünüyor gibi görünüyor. "teknolojinin faydası" dedi şirket, yalnızca teknolojinin kendisinin değil, uygulanmasının nasıl başarısızlığa katkıda bulunabileceği hakkında yorum yapmayı ihmal etti. program.
