あらゆる種類の現実世界の文脈の外では、顔認識技術は ある種のSFでかっこいい、私たちは未来に生きているような方法です. しかし ロイターのレポート 米国で最大の実装の1つである200のライトエイドストアでの顔認識の使用については、 未来を示す 正義に興味のある人は誰も興奮してはいけません。
Rite Aidは、顔認識の取り組みの過程でさまざまなベンダーや機器を使用しましたが、常に同じように機能しました。 カメラは顧客の顔をキャプチャし、会社が「以前に従事しているのを観察した」人々に属する顔の画像のデータベースと比較しました 潜在的な犯罪行為.”
試合が行われると、ソフトウェアは店のセキュリティエージェントが持っているスマートフォンにpingを送信しました。 彼らは試合をレビューし、正確であれば、問題の人に去るように頼みます。
それが完全に機能し、公正に実装されたとしても、システムには問題があります。 それは、何年も前に万引きした人が今日店から連れ去られるに値するという仮定に基づいています。 それはまた、企業が彼らが管理する情報に基づいて彼らの店から人々を追い出す能力を与えます、そしてそれはまた厄介です。
そして実際には、ライトエイドでの顔認識は完全には機能せず、公正に実装されていませんでした。
ロイターと話をした10人の警備員は全員、システムが定期的に人々を誤認していることに同意し、 ソフトウェアの効果が低く、したがってリスクが高いという兆候があります。 色。
ロイターは、セキュリティエージェントからカリフォルニアの店を出るように頼まれたライトエイドの顧客、トリスタンジャクソン-スタンクナスを見つけました 彼が言う写真との一致に基づいて、それが黒人男性を示したという事実を除いて、何も見えませんでした 彼。
デトロイトライトエイドの警備員は、「黒人をうまく捕まえられない」と述べた。 「あなたの目が同じである場合、または他の人がヘッドバンドを着用しているようにヘッドバンドを着用している場合、あなたはヒットするでしょう。」
そして、ソフトウェアの不十分さを超えてさえ、ライトエイドの顔認識の実装は 馴染みのある人々が「よりタフ」、「最もタフ」、または 「最悪の」領域。 同社が最初に大規模に展開した65店舗のうち52店舗は、最大のグループが黒人またはラテン系アメリカ人であった地域にありました。
たとえば、マンハッタンの白くて裕福なアッパーウエストサイドの店は顔認識を受けませんでしたが、わずか2マイル離れたハーレムの店は顔認識を受けました。 これは、内部レビューで両方の高収益店が同等の損失リスクを持っていることが判明したという事実にもかかわらずです。
ライトエイドは、顔認識プログラムは「人種とは何の関係もなく、盗難を阻止することを目的としていた」と主張しています。 スタッフと顧客を暴力から守ります。」 また、「より大きな産業の中でプログラムが中止された」とも述べた。 会話。"
「他の大規模なテクノロジー企業は、顔認識に関する不確実性が高まっていることを考えると、顔認識に関する取り組みを縮小または再考しているようです。 テクノロジーの有用性」と同社は述べ、テクノロジー自体だけでなく、その実装が プログラム。
