Распознавание лиц от Amazon: могут арестовать не того человека

Члены Палаты представителей Джон Льюис из Грузии и Бобби Л. Раш из штата Иллинойс – демократы, члены Черного кокуса Конгресса США и лидеры по защите гражданских прав.

Разработанная Amazon технология распознавания лиц, которую используют некоторые полицейские департаменты и другие организации, опознала законодателей как арестантов. Об этом сообщает The New York Times.

Ошибки возникли во время теста, в котором группа по защите гражданских прав использовала программное обеспечение Amazon для сравнения фотографий всех федеральных законодателей с базой данных из 25 000 общедоступных фото арестованных. Так, технология Amazon опознала 28 афроамериканских и латиноамериканских членов Конгресса как преступников – показатель ошибки составил 5%.

"Этот тест подтверждает, что технология распознавания лиц является ошибочной, предвзятой и опасной", - прокомментировал юрист по технологиям и гражданским правам A.C.L.U. of Northern California Джейкоб Сноу.

Представитель Amazon Web Services Нина Линдси заявила, что клиенты компании использовали технологию распознавания лиц для различных целей, включая предотвращение торговли людьми и воссоединение пропавших детей с их семьями. По ее словам, A.C.L.U. использовала Amazon Rekognition, не следуя рекомендациям компании.

Во-первых, полицейские подразделения обычно не используют программное обеспечение для принятия полностью автономных решений о личности людей. "Amazon Rekognition используется для того, чтобы помочь сузить поле и позволить людям оперативно анализировать и рассматривать варианты", - прокомментировала Линдси.

Во-вторых, A.C.L.U использовали настройку по умолчанию, так называемый "доверительный порог", равный 80%. Это означает, что при 80% сходства реального человека с фото система его идентифицирует. В Amazon рассказали, что с этим же "доверительным порогом" технология успешно распознала сотрудников по их фотографиям на бейджах. По словам Линдси, Amazon рекомендовал полицейским подразделениям использовать более высокий "доверительный порог", – 95% - чтобы уменьшить вероятность ошибки.

Распознавание лиц - технология, которая может использоваться для идентификации неизвестных людей на фотографиях или видео без их ведома или разрешения - быстро становится главной целью экспертов по конфиденциальности.

Сторонники технологии считают ее полезным инструментом, помогающим выявлять преступников. Недавно ее использовали для идентификации человека, арестованного за стрельбу в редакции газеты "The Capital Gazette" в Аннаполисе, штат Мэриленд.

Однако группы по защите гражданских прав рассматривают технологию как систему наблюдения, препятствующую возможности людей участвовать в политических протестах или заниматься своей жизнью анонимно.

Последние два месяца Amazon критикуют за продажу технологии Rekognition правоохранительным органам. Компания реализовала услугу полицейским подразделениям как один из методов для идентификации подозреваемых на фотографиях или видео.

В мае десятки групп по защите гражданских прав во главе с A.C.L.U. написали письмо главному исполнительному руководству Amazon Джеффу Безосу, требуя от его компании прекратить продажу технологии распознавания лиц правоохранительным органам. По их словам, программное обеспечение может использоваться для отслеживания протестующих, не имеющих документов иммигрантов или других представителей общественности, а не только подозреваемых преступников.

Аналогичные требования Безосу выставили сотрудники Amazon, инвесторы и ученые. Сноу из A.C.L.U. заявил, что ошибки в распознавании лиц должны подтолкнуть Конгресс наложить мораторий на использование правоохранительными органами Amazon Rekognition.

Генеральный менеджер по искусственному интеллекту Amazon Web Services Мэтт Вуд сообщил, что никаких злоупотреблений технологией правоохранительными органами не было зафиксировано. "Запретить перспективные новые технологии из-за возможности их использования в преступных целях – это неправильно", - убежден Вуд.

В письме Amazon члены Черного кокуса Конгресса США отметили потенциал расовой предвзятости технологии. Этот вопрос недавно подняло исследование M.I.T., согласно которому системы распознавания лиц в большинстве случаев правильно идентифицировали белых мужчин, нежели женщин с темной кожей. Члены Черного кокуса Конгресса США призвали Безоса нанять "больше юристов, инженеров и ученых-специалистов, чтобы помочь в правильной калибровке этой технологии".