В США сети аптек запретили использовать распознавание лиц на пять лет

Регулятор запретит американской сети аптек Rite Aid использовать приложения по распознаванию лиц для выявления подозрительных клиентов в течение пяти лет из-за способа внедрения этой технологии.

Федеральная торговая комиссия США (FTC) заявила сегодня, что предлагаемый ею приказ урегулирует обвинения в том, что ритейлер не смог внедрить разумные процедуры и предотвратить вред потребителям при использовании технологии распознавания лиц в сотнях магазинов.

Решение также включает в себя утверждение о том, что неправомерное использование Rite Aid технологии распознавания лиц также нарушило приказ Федеральной торговой комиссии от 2010 года о том, что компания должна адекватно контролировать своих поставщиков услуг.

«Безрассудное использование Rite Aid систем наблюдения за лицами привело к тому, что ее клиенты столкнулись с унижением и другим вредом. [2010] нарушения порядка ставят под угрозу конфиденциальную информацию потребителей», сказал Сэмюэл Левин, директор бюро по защите прав потребителей Федеральной торговой комиссии. «Сегодняшний новаторский указ ясно дает понять, что Комиссия будет проявлять бдительность в защите населения от несправедливого биометрического наблюдения и несправедливых методов защиты данных».

Rite Aid Corp., владеющая более чем 1900 магазинами в 16 штатах, в настоящее время находится в процедуре банкротства, и приказ вступит в силу после одобрения суда по делам о банкротстве и федерального окружного суда.

Это решение является предупреждением американским организациям о том, что они рискуют подвергнуться санкциям за внедрение технологии распознавания лиц, если они не учтут и не снизят потенциальные риски для потребителей от их неправильной идентификации, не протестируют и не оценят точность технологии распознавания лиц перед ее внедрением и не будут регулярно контролировать или проверить точность технологии после ее развертывания.

В своем заявлении Rite Aid сообщила, что достигла соглашения с Федеральной торговой комиссией. Однако в нем добавили: «Мы принципиально не согласны с утверждениями о распознавании лиц в жалобе агентства. Обвинения касаются пилотной программы технологии распознавания лиц, которую компания развернула в ограниченном количестве магазинов. Rite Aid прекратила использовать эту технологию в этой небольшой группе магазинов более трех лет назад, до того, как Федеральная торговая комиссия начала расследование по поводу использования этой технологии компанией».

Если объявленный сегодня приказ будет одобрен федеральным судом, Rite Aid будет иметь внедрить комплексные меры безопасности для предотвращения такого рода вреда потребителям при развертывании автоматизированных систем, которые используют биометрическую информацию для их отслеживания или помечают их как угрозы безопасности. Это также потребует от Rite Aid прекратить использование любой такой технологии, если она не сможет контролировать потенциальные риски для потребителей. Компании также придется реализовать надежную программу информационной безопасности, которую должны контролировать высшие руководители.

Федеральная торговая комиссия заявила, что с 2012 по 2020 год Rite Aid внедрила технологию распознавания лиц на основе искусственного интеллекта для выявления клиентов, которые могли быть причастны к краже в магазинах или другому проблемному поведению. В жалобе утверждается, что компания не приняла разумных мер для предотвращения вреда потребителям, которых сотрудники ошибочно обвинили в правонарушениях, поскольку технология распознавания лиц ложно помечала потребителей как соответствующих людей, которые ранее были идентифицированы как магазинные воры или другие нарушители спокойствия.

Сотрудники, действуя по ложным срабатываниям, следовали за покупателями по магазинам, обыскивали их, приказывали им уйти, вызывали полицию, чтобы противостоять или удалять потребителей, и публично обвиняли их, иногда перед друзьями или семьей, в краже в магазине или других правонарушениях. согласно жалобе FTC. Кроме того, Федеральная торговая комиссия заявляет, что действия Rite Aid непропорционально сильно повлияли на цветных людей.

Действия Rite Aid «подвергли потребителей смущению, преследованиям и другому вреду», заявил регулятор в своей жалобе. Компания не сообщила потребителям, что использует эту технологию в своих магазинах, а сотрудникам не хотелось раскрывать ее.

Ранее в этом году Федеральная торговая комиссия выпустила предупреждение фирмам о потенциальном злоупотреблении биометрической информацией.

Согласно жалобе, Rite Aid заключила контракт с двумя компаниями на помощь в создании базы данных изображений лиц, которые считались «лицами, представляющими интерес», поскольку считали, что Rite Aid участвовали или пытались участвовать в преступной деятельности в одном из ее торговых точек. вместе с их именами и другой информацией, такой как данные о криминальном прошлом. Согласно жалобе, компания собрала десятки тысяч изображений людей, многие из которых были низкого качества и были получены с камер видеонаблюдения Rite Aid, камер телефонов сотрудников и даже из новостей.

По данным FTC, система сгенерировала тысячи ложноположительных совпадений. Например, согласно жалобе, технология иногда сопоставляла клиентов с людьми, которые изначально были внесены в базу данных на основе активности за тысячи миль от них, или помечала одного и того же человека в десятках различных магазинов по всей территории Соединенных Штатов, согласно жалобе.

Проблемы, связанные с распознаванием лиц, также решаются в Канаде. В прошлом году канадский парламентский комитет рекомендовал правительству создать федеральную правовую основу для распознавания лиц и искусственного интеллекта.

В апреле комиссар Британской Колумбии по вопросам информации и конфиденциальности заявил, что четыре независимых дочерних магазина Canadian Tire нарушили закон провинции о конфиденциальности в том, как было реализовано их решение по распознаванию лиц.

Базирующаяся в Калгари правозащитная организация «Центр правосудия за конституционные свободы» (JCCF) опубликовала в августе отчет, в котором говорится, что приложения для цифровой идентификации, такие как распознавание лиц, «подрывают неприкосновенность личности или человеческое достоинство своих пользователей».