Извън всякакъв вид контекст в реалния свят, технологията за разпознаване на лица е готино в един вид научна фантастика, ние живеем в бъдещето по някакъв начин. Но доклад на Ройтерс относно използването на разпознаване на лица в 200 магазина на Rite Aid - едно от най-големите внедрявания в Съединените щати - показва, че в контекста е показател за бъдеще никой, който се интересува от справедливост, не трябва да се вълнува.
Rite Aid използва различни доставчици и оборудване в хода на усилията си за разпознаване на лица, но винаги работи по един и същи начин. Камерите заснеха лицата на клиентите и ги сравняваха с база данни от изображения на лица, принадлежащи на хора, които компанията „по-рано е наблюдавала да участват в потенциална престъпна дейност.”
Когато е направено съвпадение, софтуерът пингува смартфон, държан от агента за сигурност на магазина. Те ще прегледат мача и, ако е точен, ще помолят въпросното лице да напусне.
Дори и да работи перфектно и да се прилага справедливо, системата ще бъде проблематична. Тя се основава на предположението, че някой, който е крал години по-рано, заслужава да бъде премахнат от магазин днес. Той също така дава възможност на корпорациите да изхвърлят хора от магазините си въз основа на информация, която контролират, което също е обезпокоително.
И на практика разпознаването на лица в Rite Aid не работи перфектно и не се прилага справедливо.
Десет агенти по сигурността, които разговаряха с Ройтерс, се съгласиха, че системата редовно идентифицира погрешно хора и има индикации, че софтуерът е бил по-малко ефективен и следователно по-голям риск за хората цвят.
Ройтерс откри един клиент на Rite Aid, Тристан Джаксън-Станкунас, който беше помолен да напусне магазин в Калифорния от агент по сигурността въз основа на съвпадение със снимка, която той казва, с изключение на факта, че показва черен мъж, не изглежда нищо подобно него.
„Това не улавя добре чернокожите“, каза агент по сигурността в Detroit Rite Aid. „Ако очите ви са по същия начин или ако носите лентата си за глава, както друг човек носи лента за глава, ще получите удар.”
И дори отвъд неадекватността на софтуера, прилагането на разпознаване на лица от Rite Aid беше непропорционално съсредоточени върху цветни общности, които познатите наричат „по-строги“, „най-строги“ или "най-лошите" зони. Петдесет и два от 65-те магазина в първото голямо внедряване на технологията на компанията бяха в райони, където най-голямата група бяха чернокожи или латиноамериканци.
Например, магазин в белия, по-богат горен Уест Сайд на Манхатън не получи лицево разпознаване, докато един в Харлем, само на две мили, го направи. Това въпреки факта, че вътрешен преглед установи, че и двата магазина с високи доходи имат еднакъв риск от загуба.
От своя страна Rite Aid настоява, че програмата за разпознаване на лица „няма нищо общо с расата и е предназначена да предотврати кражба и защита на персонала и клиентите от насилие.” Той също така казва, че програмата е прекратена на фона на „по-голяма индустрия разговор.”
„Други големи технологични компании изглежда намаляват или преосмислят усилията си за разпознаване на лица, предвид нарастващата несигурност около полезността на технологията“, казаха от компанията, като пропуснаха да коментират как нейното внедряване, а не само самата технология може да са допринесли за провала на програмата.
