Rite Aid запретили использовать распознавание лиц с помощью искусственного интеллекта после того, как Федеральная торговая комиссия заявила, что ритейлер внедрил технологию без разумных гарантий

Rite Aid будет запрещено использовать технологию распознавания лиц в целях наблюдения в течение пяти лет, чтобы урегулировать обвинения Федеральной торговой комиссии в том, что ритейлер не смог внедрить разумные процедуры и предотвратить вред потребителям при использовании технологии распознавания лиц в сотнях магазинов.

«Безрассудное использование Rite Aid систем наблюдения за лицами привело к тому, что ее клиенты столкнулись с унижением и другим вредом, а нарушения порядка поставили под угрозу конфиденциальную информацию потребителей». сказал Сэмюэл Левин, директор Бюро по защите прав потребителей Федеральной торговой комиссии. «Сегодняшний новаторский указ ясно дает понять, что Комиссия будет проявлять бдительность в защите населения от несправедливого биометрического наблюдения и несправедливых методов защиты данных».

предлагаемый порядок потребует от Rite Aid внедрения комплексных мер безопасности для предотвращения такого рода вреда потребителям при развертывании автоматизированных систем, которые используют биометрическую информацию для их отслеживания или помечают их как угрозы безопасности. Это также потребует от Rite Aid прекратить использование любой такой технологии, если она не сможет контролировать потенциальные риски для потребителей. Для урегулирования обвинений он нарушил Приказ Комиссии по безопасности данных 2010 г. не сумев адекватно контролировать своих поставщиков услуг, Rite Aid также будет обязана реализовать надежную программу информационной безопасности, которая должна контролироваться высшим руководством компании.

В жалоба подан в федеральный суд, Федеральная торговая комиссия сообщает, что с 2012 по 2020 год Rite Aid внедрила технологию распознавания лиц на основе искусственного интеллекта, чтобы идентифицировать клиентов, которые могли быть причастны к краже в магазинах или другому проблемному поведению. В жалобе, однако, утверждается, что компания не приняла разумных мер для предотвращения вреда потребителям, которые в результате были ошибочно обвинены сотрудниками в правонарушениях, поскольку технология распознавания лиц ложно помечала потребителей как соответствующих кому-то, кто ранее был идентифицирован как магазинный вор или другой нарушитель спокойствия.

Предотвращение неправомерного использования биометрической информации является первоочередной задачей Федеральной торговой комиссии. который вынес предупреждение ранее в этом году что агентство будет внимательно следить за этим сектором. Согласно жалобе, действия Rite Aid подвергли потребителей смущению, преследованиям и другому вреду. Компания не информировала потребителей о том, что использует эту технологию в своих магазинах, а сотрудникам не рекомендовалось раскрывать такую ​​информацию. Сотрудники, действуя по ложным срабатываниям, следовали за покупателями по магазинам, обыскивали их, приказывали им уйти, вызывали полицию, чтобы противостоять или удалить потребителей, и Согласно жалобе, публично обвинял их, иногда перед друзьями или семьей, в краже в магазине или других правонарушениях. Кроме того, Федеральная торговая комиссия заявляет, что действия Rite Aid непропорционально сильно повлияли на цветных людей.

Согласно жалобе, Rite Aid заключила контракт с двумя компаниями на помощь в создании базы данных изображений людей, которые считаются «лица, представляющие интерес», поскольку Rite Aid считала, что они участвовали или пытались участвовать в преступной деятельности в одном из ее торговых точек, а также их имена и другую информацию, такую ​​​​как любые данные о преступном прошлом. Согласно жалобе, компания собрала десятки тысяч изображений людей, многие из которых были низкого качества и были получены с камер видеонаблюдения Rite Aid, камер телефонов сотрудников и даже из новостей.

По данным FTC, система сгенерировала тысячи ложноположительных совпадений. Например, согласно жалобе, технология иногда сопоставляла клиентов с людьми, которые изначально были внесены в базу данных на основе активности за тысячи миль от них, или помечала одного и того же человека в десятках различных магазинов по всей территории Соединенных Штатов, согласно жалобе. В частности, в жалобе говорится, что Rite Aid не смогла:

• Рассмотрите и смягчите потенциальные риски для потребителей, связанные с их неправильной идентификацией, включая повышенные риски для некоторых потребителей из-за их расы или пола. Например, технология распознавания лиц Rite Aid с большей вероятностью давала ложные срабатывания в магазинах, расположенных в сообществах с большинством чернокожих и азиатов, чем в сообществах с большинством белых;
• Тестируйте, оценивайте, измеряйте, документируйте или спрашивайте о точности технологии распознавания лиц перед ее развертыванием, включая отказ от запроса какой-либо информации от любого поставщика, которого он использовал для предоставления технологии распознавания лиц, о степени, в которой эта технология была протестирована. точность;
• Предотвратить использование изображений низкого качества в связи с технологией распознавания лиц, увеличивая вероятность ложноположительных предупреждений о совпадениях;

• Регулярно отслеживать или тестировать точность технологии после ее внедрения, в том числе не внедряя и не применяя какие-либо процедуры для отслеживания количества ложноположительных совпадений или действий, предпринятых на основе этих ложноположительных совпадений; и
• Адекватно обучайте сотрудников, которым поручено использовать технологию распознавания лиц в своих магазинах, и отмечайте, что эта технология может генерировать ложные срабатывания. Даже после того, как Rite Aid перешла на технологию, которая позволяла сотрудникам сообщать о «плохом совпадении» и требовала от сотрудников использовать ее, компания не предприняла никаких действий для обеспечения соблюдения сотрудниками этой политики.

В своей жалобе Федеральная торговая комиссия также утверждает, что Rite Aid нарушила свои Приказ о безопасности данных 2010 г. с Комиссией из-за неспособности адекватно реализовать комплексную программу информационной безопасности. Среди прочего, приказ 2010 года требовал от Rite Aid обеспечить наличие у своих сторонних поставщиков услуг соответствующих мер безопасности для защиты личных данных потребителей. Например, в жалобе утверждается, что компания провела множество оценок безопасности поставщиков услуг в устной форме и что ей не удалось получить или владеть резервной документацией таких оценок, в том числе для поставщиков услуг Rite Aid, которые считаются «высокорисковыми».

Помимо запрета и необходимых мер безопасности для автоматизированных систем биометрической безопасности или наблюдения, другие положения предлагаемого приказа запрещают Rite Aid искажать информацию о своих методах обеспечения безопасности данных и конфиденциальности, а также требуют от компании:

• Удалить и поручить третьим лицам удалитьлюбые изображения или фотографии, которые они собрали с помощью системы распознавания лиц Rite Aid, а также любые алгоритмы или другие продукты, которые были разработаны с использованием этих изображений и фотографий;
• Уведомить потребителей когда их биометрическая информация занесена в базу данных, используемую в связи с биометрической системой безопасности или наблюдения, и когда Rite Aid предпринимает против них какие-либо действия на основании результатов, генерируемых такой системой;
• Расследовать и ответить при написании жалоб потребителей на действия, предпринятые в отношении потребителей, связанные с автоматизированной биометрической системой безопасности или наблюдения;
• Предоставьте четкое и заметное уведомление потребителям об использовании распознавания лиц или других технологий биометрического наблюдения в своих магазинах;
• Удалить любую биометрическую информацию он собирается в течение пяти лет;
• Внедрить программу безопасности данных для защиты и защиты личной информации, которую он собирает, хранит и передает своим поставщикам;
• Получите независимые сторонние оценки своей программы информационной безопасности; и
• Предоставить Комиссии ежегодную сертификацию от ее генерального директора, документально подтверждающего соблюдение Rite Aid положений приказа.

Комиссия проголосовала со счетом 3:0 за уполномочить сотрудников подать жалобу и предложенный предусмотренный приказ против Rite Aid. . . . Комиссар Альваро Бедойя опубликовал заявление.

Жалоба и приказ были поданы в Восточном округе Пенсильвании. В настоящее время Rite Aid находится в стадии процедуры банкротства, и приказ вступит в силу после одобрения суда по делам о банкротстве и федерального окружного суда, а также изменения постановления Комиссии от 2010 года.

Основными адвокатами по этим делам являются Робин Уэтерилл, Лия Фрейзер, Дайана Чанг, Кристофер Эриксон и Брайан Уэлке из Бюро по защите прав потребителей Федеральной торговой комиссии.