모든 종류의 실제 상황을 벗어나서 얼굴 인식 기술은 일종의 공상 과학, 우리는 미래에 살고 있습니다.. 하지만 로이터 보도 미국에서 가장 큰 구현 중 하나인 200개의 Rite Aid 매장에서 안면 인식을 사용하여 미래를 암시하는 정의에 관심이 있는 사람은 아무도 흥분해서는 안 됩니다.
Rite Aid는 얼굴 인식 노력 과정에서 다른 공급업체와 장비를 사용했지만 항상 같은 방식으로 작동했습니다. 카메라는 고객의 얼굴을 캡처하고 회사가 "이전에 참여하는 것을 관찰한 사람들의 얼굴 이미지 데이터베이스"와 비교했습니다. 잠재적 범죄 행위.”
일치가 이루어지면 소프트웨어는 매장 보안 요원이 들고 있는 스마트폰에 ping을 보냈습니다. 그들은 경기를 검토하고 정확하다면 문제의 사람에게 떠나라고 요청할 것입니다.
그것이 완벽하게 작동하고 공정하게 구현되더라도 시스템은 문제가 될 것입니다. 몇 년 전에 물건을 훔친 사람이 오늘 매장에서 퇴출되어야 한다는 가정에 근거합니다. 또한 기업이 제어하는 정보를 기반으로 매장에서 사람들을 퇴출시킬 수 있는 기능을 제공하는데, 이는 문제이기도 합니다.
그리고 실제로 Rite Aid의 얼굴 인식은 완벽하게 작동하지 않았고 공정하게 구현되지 않았습니다.
Reuters와 이야기한 10명의 보안 요원은 모두 시스템이 정기적으로 사람들을 잘못 식별한다는 데 동의했으며, 소프트웨어가 덜 효과적이어서 사람들에게 더 많은 위험이 있다는 징후가 있습니다. 색상.
로이터는 보안 요원이 캘리포니아 매장을 떠나라는 요청을 받은 Rite Aid 고객인 Tristan Jackson-Stankunas를 발견했습니다. 그가 말한 사진과의 일치에 따르면 흑인 남성을 보여주었다는 사실을 제외하고는 전혀 닮지 않았습니다. 그에게.
디트로이트 라이트 에이드(Detroit Rite Aid)의 보안 요원은 “흑인을 잘 데려가지 못한다”고 말했다. “눈이 똑같거나, 다른 사람이 머리띠를 하고 있는 것처럼 머리띠를 하고 있으면, 히트를 친다.”
그리고 소프트웨어의 부적절함을 넘어서서 Rite Aid의 안면 인식 구현은 유색인종 커뮤니티에 불균형적으로 집중되어 있으며, 친숙한 사람들은 이를 "더 터프한", "가장 힘든" 또는 "최악의" 지역. 회사의 첫 번째 대규모 기술 출시에서 65개 매장 중 52개가 가장 큰 그룹이 흑인이나 라틴계인 지역에 있었습니다.
예를 들어 맨해튼의 백인 부유층 어퍼 웨스트 사이드에 있는 매장은 안면 인식을 받지 못했지만 불과 2마일 떨어진 할렘에 있는 매장은 얼굴을 인식했습니다. 내부 검토 결과 고수익 매장 두 곳 모두 손실 위험이 동일하다는 사실에도 불구하고.
Rite Aid는 얼굴 인식 프로그램이 “인종과 관련이 없으며 도난을 방지하기 위한 것”이라고 주장합니다. 직원과 고객을 폭력으로부터 보호합니다.” 또한 "더 큰 산업으로 인해 프로그램이 중단되었습니다. 대화."
“다른 대형 기술 회사들은 얼굴 인식에 대한 불확실성이 증가함에 따라 얼굴 인식에 대한 노력을 축소하거나 재고하는 것 같습니다. 기술의 효용"이라고 회사는 말하면서 기술 자체뿐만 아니라 구현이 실패에 어떻게 기여했는지에 대한 언급을 무시했습니다. 프로그램.
