Поза будь-яким контекстом реального світу технологія розпізнавання обличчя є круто в науковому жанрі, ми живемо в майбутньому. Але повідомляє Reuters використання розпізнавання облич у 200 магазинах Rite Aid — одна з найбільших реалізацій у Сполучених Штатах — показує, що в контексті це ознака майбутнього нікого, хто цікавиться справедливістю, не слід хвилювати.
Rite Aid використовував різних постачальників та обладнання під час своїх зусиль з розпізнавання обличчя, але завжди працював однаково. Камери фіксували обличчя клієнтів і порівнювали їх з базою даних зображень облич людей, яких компанія «раніше спостерігала, як потенційна злочинна діяльність.”
Коли було встановлено збіг, програмне забезпечення перевірило смартфон, який зберігав агент безпеки магазину. Вони переглянули матч і, якщо він точний, попросили відповідну людину піти.
Навіть якби вона працювала ідеально і була реалізована чесно, система була б проблематичною. Він ґрунтується на припущенні, що той, хто крадіжок роками раніше, заслуговує на те, щоб його вилучили з магазину сьогодні. Це також дає корпораціям можливість вигнати людей зі своїх магазинів на основі інформації, яку вони контролюють, що також викликає занепокоєння.
А на практиці розпізнавання облич у Rite Aid працювало не ідеально і не було реалізовано чесно.
Десять агентів безпеки, які спілкувалися з Reuters, погодилися з тим, що система регулярно помилково ідентифікувала людей Є ознаки того, що програмне забезпечення було менш ефективним — і, отже, більшим ризиком для людей колір.
Reuters знайшов одного клієнта Rite Aid, Трістана Джексона-Станкунаса, якого агент безпеки попросив покинути магазин у Каліфорнії. на основі збігу з фотографією, яка, за його словами, за винятком того факту, що на ній зображений чорнявий чоловік, не була схожа на його.
«Це погано сприймає чорношкірих людей», – сказав агент служби безпеки Детройтської служби допомоги. «Якщо ваші очі такі ж, або якщо ви носите пов’язку на голову, як інша людина, ви отримаєте удар».
І навіть крім недоліків програмного забезпечення, Rite Aid реалізувала розпізнавання обличчя непропорційно зосереджено на спільнотах кольорів, які знайомі називали «сильнішими», «найжорсткішими» або «найгірші» області. П’ятдесят два з 65 магазинів у першому великому запровадженні технології були в районах, де найбільшою групою були чорні або латиноамериканці.
Наприклад, магазин у білому, багатшому Верхньому Вест-Сайді Манхеттена не отримав розпізнавання обличчя, тоді як магазин у Гарлемі, що знаходиться всього в двох милях, був. Це незважаючи на той факт, що внутрішній огляд показав, що обидва магазини з високими доходами мали однаковий ризик втрати.
Зі свого боку, Rite Aid наполягає на тому, що програма розпізнавання облич «не мала нічого спільного з расою і була призначена для запобігання крадіжок. і захистити персонал і клієнтів від насильства». У ньому також сказано, що програма була припинена на тлі «більшої галузі розмова».
«Інші великі технологічні компанії, схоже, скорочують чи переосмислюють свої зусилля щодо розпізнавання обличчя, враховуючи зростаючу невизначеність щодо корисність технології», — заявила компанія, не прокоментувавши, як її впровадження, а не лише сама технологія, могла сприяти провалу Програма.
