Федеральная торговая комиссия запретила Rite Aid использовать систему видеонаблюдения с распознаванием лиц на пять лет

Аптечная сеть Rite Aid получила тайм-аут от технологии наблюдения за распознаванием лиц с помощью искусственного интеллекта благодаря федеральным регулирующим органам. Федеральная торговая комиссия США (FTC) сегодня объявил о мировом соглашении с Rite Aid заявив, что сеть опрометчиво применила биометрическое наблюдение с использованием искусственного интеллекта за клиентами без каких-либо гарантий — и в результате наложила 5-летний запрет на эту спорную практику.

Федеральная торговая комиссия утверждает, что с 2012 по 2020 год Rite Aid сканировала лица покупателей в сотнях мест, пытаясь выявить воров и лиц, подозреваемых в другой незаконной деятельности. Однако агентство утверждает, что технология была внедрена без надлежащего тестирования ее точности и предотвращения потенциального ущерба конфиденциальности.

Предположительно, это привело к тому, что невиновные посетители были ложно обвинены и преследовались со стороны сотрудников, действовавших на основе неправильного соответствия лиц, а также непропорционально часто преследовались женщинам и цветным людям (POC).

«Безрассудное использование Rite Aid систем наблюдения за лицами привело к тому, что ее клиенты столкнулись с унижением и другим вредом, а нарушения правил поставили под угрозу конфиденциальную информацию потребителей», – сказал Сэмюэл Левин, директор Бюро по защите прав потребителей Федеральной торговой комиссии. «Сегодняшний новаторский указ ясно дает понять, что Комиссия будет проявлять бдительность в защите населения от несправедливого биометрического наблюдения и несправедливых методов защиты данных».

В последние годы технология распознавания лиц быстро развивалась, позволяя использовать целый ряд коммерческих и правоохранительных приложений, а также повышая серьезные проблемы конфиденциальности. Исследователи задокументировали потенциал этой технологии для предвзятости, которая может несправедливо повлиять на маргинализированные группы.

Ритейлеры рассматривают такие реализации, как Rite Aid, чтобы помочь обуздать кражу, но критики утверждают, что такое использование часто происходит без достаточного согласия, прозрачности или проверки точности. ФТК имеет все более тщательно изучается сектор биометрии, особенно когда розничные торговцы и другие компании используют инструменты для идентификации людей в общественных местах, не уточняя, какие данные могут быть собраны или как их можно использовать и передавать.

Это знаменует собой одну из самых решительных на сегодняшний день мер против биометрической практики компании, отражающую растущее признание того, что новые возможности наблюдения требуют тщательного надзора.

Множественные сбои в реализации приводят к бану

По данным агентства, Rite Aid заключила контракт с продавцами на создание базы данных, содержащей фотографии и личную информацию лиц, подозреваемых в прошлой преступной деятельности в магазинах.

Оспаривая конкретные обвинения, Rite Aid признала в заявление работать «для решения этого вопроса» с регулирующими органами и совершенствовать методы выполнения соглашения.

«Мы рады достичь соглашения с Федеральной торговой комиссией и оставить этот вопрос позади. Мы уважаем запрос Федеральной торговой комиссии и согласны с миссией агентства по защите конфиденциальности потребителей. Однако мы в корне не согласны с утверждениями о распознавании лиц в жалобе агентства», — говорится в заявлении аптечной сети из Пенсильвании.

«Обвинения касаются пилотной программы технологии распознавания лиц, которую компания развернула в ограниченном количестве магазинов. Rite Aid прекратила использовать эту технологию в этой небольшой группе магазинов более трех лет назад, до того, как Федеральная торговая комиссия начала расследование относительно использования этой технологии Компанией».

Однако Федеральная торговая комиссия сообщает, что в систему были включены десятки тысяч изображений низкого качества, полученных из таких источников, как записи с камер видеонаблюдения и социальные сети. В жалобе говорится, что такое большое количество изображений низкого качества увеличивает вероятность неточного совпадения.

Эта технология давала тысячи ложных срабатываний, иногда идентифицируя клиентов как подозреваемых на расстоянии тысяч миль или отмечая одного и того же человека в нескольких местах. В жалобе говорится, что Rite Aid не всегда обеспечивала соблюдение сотрудниками политики, позволяющей им отмечать проблемные результаты идентификации.

Кроме того, Федеральная торговая комиссия заявляет, что Rite Aid не смогла должным образом протестировать технологию на точность перед ее внедрением и не установила процедуры для оценки частоты ошибок совпадения с течением времени. Сотрудники, руководящие программой в магазинах, также не прошли достаточного обучения об ограничениях технологии.

Согласно жалобе, в некоторых общинах, принадлежащих к меньшинствам, люди с расовой принадлежностью столкнулись с непропорционально высоким уровнем ошибочной идентификации со стороны систем Rite Aid. Система искусственного интеллекта ошибочно отмечала клиентов, которые затем подвергались публичным стычкам, обыску, вывозу из магазинов или даже задержанию полицией — иногда на глазах у семьи и друзей.

Без предупреждений о том, что проводится биометрическое профилирование, у покупателей было мало шансов избежать несправедливого наблюдения или обратиться в суд против ложных обвинений.

В дополнение к прекращению любого биометрического мониторинга на полдесятилетия в физических и онлайн-магазинах Rite Aid, предлагаемое соглашение требует нового надзора, если такие возможности будут пересмотрены в будущем.

Это включает в себя тщательную предварительную проверку точности, а также постоянные проверки для выявления проблемных развертываний до того, как возникнут проблемы конфиденциальности и дискриминации. Потребители также должны быть уведомлены о любых регистрациях данных или действиях, следующих из выходных данных системы.

Однако урегулирование не ограничивается только биометрией.

Федеральная торговая комиссия также утверждает, что Rite Aid нарушила мандат 2010 года, не сумев гарантировать, что поставщики, которым доверена информация о клиентах, использовали адекватные передовые методы обеспечения безопасности. В рамках исправления прошлых нарушений требований новые положения устанавливают обязательные меры безопасности, такие как многоуровневая аутентификация, непрерывное обучение сотрудников и предоставляют Федеральной торговой комиссии ежегодную сертификацию соблюдения приказа.

Rite Aid настаивает на том, что безопасность остается главным приоритетом при проведении продолжающегося процесса банкротства, вызванного давлением Уолл-стрит на больную сеть на фоне потрясений в отрасли.