Выпущено руководство по безопасному и этичному использованию инструментов распознавания лиц

BSI опубликовало новое руководство, призванное гарантировать, что технология распознавания лиц (FRT) действует как сила добра в обществе, с целью помочь организациям справиться с этическими проблемами, связанными с использованием этой технологии, и в результате укрепить доверие к ее использованию.

Использование искусственного интеллекта (ИИ) инструменты распознавания лиц становится все более распространенным, в том числе в целях безопасности, например, на Коронация короля Карла или крупных спортивных мероприятий, таких как футбольные матчии чтобы пресечь кражи в магазинах. FRT отображает физические особенности человека на изображении, образуя шаблон лица, который можно сравнивать с другими изображениями, хранящимися в базе данных, чтобы либо подтвердить высокий уровень сходства, либо идентифицировать присутствие человека в определенном месте в данный момент.

недавнее мероприятие BSI исследовать показали, что 40% людей во всем мире планируют использовать биометрическую идентификацию в аэропортах к 2030 году. Ее распространение вызвало обеспокоенность по поводу безопасного и этичного использования, в том числе в отношении частоты ошибок, связанных с расовыми или гендерными различиями, а также громких судебных дел, среди которых один из них связан с программным обеспечением, используемым Uber. 2022 год аудит оценил использование полицией системы распознавания лиц и обнаружил, что такое применение происходит регулярно. не соответствовал минимальным этическим и правовым стандартам.

Новый стандарт был разработан BSI в качестве Национального органа по стандартизации Великобритании, чтобы развеять опасения, помогая организациям ориентироваться в инструментах и ​​завоевывать общественное доверие. Это следует из опроса BSI «Доверие к искусственному интеллекту», который показал, что 77% людей считают, что доверие к искусственному интеллекту является ключевым моментом для его использования в слежке.

Разработанный как для государственных, так и для частных организаций, использующих и/или контролирующих системы видеонаблюдения (VSS) и биометрические лицевые технологии, кодекс практики применим ко всей цепочке поставок, начиная с оценки для определения необходимости использования FRT и заканчивая ее закупками. , установку и правильное использование технологии. Технология распознавания лиц. Этичное использование и внедрение в системах видеонаблюдения. Кодекс практики (BS 9347:2024) устанавливает шесть ключевых всеобъемлющих принципов «надежности». Они подкреплены кратким изложением политик, которые необходимы и должны соблюдаться всеми участниками цепочки поставок. В руководстве рассматривается его применимость в сфере управления и подотчетности, человеческой деятельности и надзора, конфиденциальности и управления данными, технической надежности и безопасности, прозрачности и объяснимости, разнообразия, недискриминации и справедливости.

Поскольку к 2028 году ожидается, что глобальная стоимость отрасли составит 13,4 миллиарда долларов, в стандарте подчеркивается важность регулярного пересмотра этики ИИ и его применения в FRT. Он включает в себя передовой опыт и дает рекомендации по соответствующим мерам безопасного и объективного использования FRT посредством определения двух сценариев: идентификация и проверка. Что касается первых случаев, таких как идентификация людей в толпе на мероприятиях, стандарт требует, чтобы FRT использовалась в сочетании с вмешательством человека или мерами «человек в процессе», чтобы обеспечить точную идентификацию до того, как будут предприняты действия.

В сценариях проверки, когда технология может работать автономно, таких как контроль доступа в здание, аутентификация платежной транзакции или открытие телефона, стандарт устанавливает ограничения для обучения технологии, гарантируя, что обучающие данные включают наборы из различных демографических групп и множества уровней освещения и ракурсов камеры, чтобы исключить неточности и снизить риск предвзятости из-за ложных срабатываний.

Скотт Стидман, генеральный директор по стандартам BSI, сказал: «Инструменты распознавания лиц с поддержкой искусственного интеллекта могут стать движущей силой добра и принести пользу обществу благодаря своей способности обнаруживать и отслеживать потенциальные угрозы безопасности.

«Этот кодекс практики призван помочь организациям справиться с этическими проблемами, связанными с использованием систем FRT, и, как следствие, укрепить доверие к их использованию. Его цель — внедрить передовой опыт и дать рекомендации относительно соответствующих мер, которые организации могут установить для защиты гражданских прав и устранения системной предвзятости и дискриминации».

Дэйв Уилкинсон, директор технических служб Британской ассоциации индустрии безопасности, сказал: «Использование FRT не обошлось без проблем, будь то точность технологии или то, как и где она развернута. Группы по обеспечению конфиденциальности, заинтересованные стороны отрасли и другие заинтересованные стороны задали множество актуальных вопросов о надлежащем и пропорциональном использовании таких технологий. Этот свод правил направлен на обеспечение надежности при использовании FRT путем установления ключевых принципов, охватывающих весь процесс, от оценки необходимости его использования до обеспечения того, чтобы его дальнейшее функционирование оставалось целевым и оправданным.

«Согласно пониманию разработки регулирования как здесь, в Великобритании, так и в более широкой международной нормативной среде, кодекс практики призван укрепить доверие со стороны тех, кто разрабатывает, использует и подвергается его использованию».