Полиция Эссекса приостановила использование камеры распознавания лиц после того, как исследование выявило расовую предвзятость | Распознавание лиц

Полиция Эссекса приостановила использование технологии распознавания лиц в реальном времени (LFR) после того, как исследование показало, что камеры значительно чаще нацелены на чернокожих людей, чем на людей других национальностей.

Решение приостановить использование систем с поддержкой ИИ было раскрытый Управлением комиссара по информации (ICO), которое регулирует использование технологий, развернутых на данный момент как минимум 13 полицейскими силами в Лондоне, южном и северном Уэльсе, Лестершире, Нортгемптоншире, Хэмпшире, Бедфордшире, Саффолке, Большом Манчестере, Западном Йоркшире, Суррее и Сассексе.

В ICO заявили, что полиция Эссекса приостановила развертывание LFR «после выявления потенциальных рисков точности и предвзятости» и предупредила другие силы о необходимости принятия мер по смягчению последствий. Системы LFR либо монтируются в стационарных местах, либо развертываются в фургонах. В январе министр внутренних дел Шабана Махмуд объявлено количество фургонов LFR увеличится в пять раз, и в каждой полиции Англии и Уэльса будет по 50 таких фургонов.

Эссекс поручил ученым Кембриджского университета провести изучатьв котором 188 актеров проходили мимо камер, активно задействованных из отмеченных полицейских фургонов в Челмсфорде. Результаты были опубликованы на прошлой неделе и показали, что около половины людей в списке наблюдения были правильно идентифицированы, а неправильная идентификация была крайне редка, но система с большей вероятностью правильно идентифицировала мужчин, чем женщин, и она «статистически значительно чаще правильно идентифицировала чернокожих участников, чем участников из других этнических групп».

Это «поднимает вопросы о справедливости, которые требуют постоянного мониторинга», говорится в докладе. Один из ее авторов, доктор Мэтт Блэнд, криминолог, рассказал Guardian и Liberty Investigates: “Если вы преступник, проходящий мимо камер распознавания лиц, которые настроены так же, как и в Эссексе, шансы попасть в список наблюдения полиции выше, если вы чернокожий. На мой взгляд, это требует дальнейшего расследования”.

Проблема отличается от более распространенной обеспокоенности общественности по поводу этой технологии, которая заключается в том, что она идентифицирует невиновных людей. В прошлом месяце выяснилось, что полиция арестовал мужчину за кражу со взломом в городе, в котором он никогда не был В 100 милях отсюда после того, как программа ретроспективного сканирования лица спутала его с другим человеком южноазиатского происхождения.

Возможные причины последней проблемы с LFR включают перетренировку алгоритма на лицах чернокожих людей. Эксперты полагают, что это можно исправить, изменив настройки системы. Отдельное исследование той же технологии, проведенное Национальной физической лабораторией правительства. найденный чернокожие мужчины с наибольшей вероятностью были правильно подобраны системой, а белые мужчины — с наименьшей вероятностью, но эффект не был статистически значимым.

Министерство внутренних дел имеет сказал Камеры LFR, установленные в Лондоне с января 2024 года по сентябрь 2025 года, привели к аресту более 1300 человек, разыскиваемых за преступления, включая изнасилование, домашнее насилие, кражу со взломом и нанесение тяжких телесных повреждений. Но противники технологии распознавания лиц утверждают, что последние исследования показали, что предупреждения о предвзятости в технологии LFR подтверждаются.

«Полиция по всей стране должна принять во внимание это фиаско», — сказал Джейк Херфурт, руководитель отдела исследований и расследований Big Brother Watch. «Наблюдению за искусственным интеллектом, которое является экспериментальным, непроверенным, неточным или потенциально предвзятым, нет места на наших улицах».

В полицию Эссекса обратились за комментариями.