Вне любого реального контекста технология распознавания лиц круто в жанре научной фантастики, мы живем в будущем. Но отчет Reuters об использовании распознавания лиц в 200 магазинах Rite Aid - одном из крупнейших внедрений в США - показывает, что в контексте указывает на будущее никого, кто интересуется справедливостью, не должно волновать.
В процессе распознавания лиц Rite Aid использовала разных поставщиков и оборудование, но всегда работала одинаково. Камеры запечатлели лица клиентов и сравнили их с базой данных изображений лиц, принадлежащих людям, которых компания «ранее наблюдала за их участием. потенциальная преступная деятельность.”
Когда совпадение было найдено, программа отправила эхо-запрос на смартфон, принадлежащий агенту безопасности магазина. Они просматривали матч и, если были точны, просили человека, о котором идет речь, уйти.
Даже если бы она работала безупречно и была реализована честно, система была бы проблематичной. Он основан на предположении, что тот, кто воровал несколько лет назад, заслуживает того, чтобы его убрали из магазина сегодня. Это также дает корпорациям возможность выгнать людей из своих магазинов на основе информации, которую они контролируют, что также вызывает беспокойство.
И на практике распознавание лиц в Rite Aid работало не идеально и не было реализовано справедливо.
Все десять агентов службы безопасности, которые разговаривали с Reuters, согласились с тем, что система регулярно неверно идентифицирует людей, и есть признаки того, что программное обеспечение было менее эффективным и, следовательно, более опасным для людей цвет.
Агентство Reuters обнаружило одного покупателя Rite Aid, Тристана Джексона-Станкунаса, которого агент службы безопасности попросил покинуть магазин в Калифорнии. на основе совпадения с фотографией, которая, по его словам, за исключением того факта, что на ней был изображен темнокожий мужчина, не была похожа на его.
«Он плохо улавливает чернокожих», - сказал агент службы безопасности Detroit Rite Aid. «Если у вас такие же глаза или если вы носите головную повязку, как другой человек, вы получите удар».
И даже помимо недостатков программного обеспечения, реализация распознавания лиц в Rite Aid была непропорционально сосредоточены на цветных сообществах, которые знакомые называли «жестче», «жестче» или «Худшие» районы. Пятьдесят два из 65 магазинов в первом крупном развертывании этой технологии компанией находились в регионах, где самой большой группой были черные или латиноамериканские.
Например, в магазине на белом, более состоятельном Верхнем Вест-Сайде на Манхэттене не было распознавания лиц, в то время как в магазине в Гарлеме, всего в двух милях от него, оно было. И это несмотря на то, что внутренняя проверка показала, что оба высокодоходных магазина имеют равный риск убытков.
Со своей стороны Rite Aid настаивает на том, что программа распознавания лиц «не имеет ничего общего с расой и предназначена для предотвращения краж. и защитить персонал и клиентов от насилия ». Он также сказал, что программа была прекращена из-за «более крупной отрасли. беседа."
«Другие крупные технологические компании, похоже, сокращают или пересматривают свои усилия по распознаванию лиц, учитывая растущую неопределенность в отношении «полезность технологии», - заявила компания, не упомянув, как ее внедрение, а не только сама технология, могла способствовать провалу программа.
