почему использование биометрических данных стало самым большим препятствием в законе об искусственном интеллекте

Парламент хотел, чтобы они были запрещены, но правительства настаивали на том, чтобы силы безопасности могли использовать их в обоснованных случаях, таких как предотвращение терроризма, похищений людей или сексуальной эксплуатации, с предварительного разрешения суда и независимого контроля.

Системы распознавания лиц, способные классифицировать человека по чертам лица, жестам и поведению, существуют уже некоторое время. Это та же технология, которую мы используем на нашем мобильном телефоне, чтобы разблокировать его или оплатить в онлайн-банке без необходимости использования цифрового кода. Но законодательство об их публичном использовании является особенно деликатным и вызвало большие этические дебаты из-за возможности того, что эти системы верить предубеждениями используются для отнесения человека к конфликтному на основании его поведения и личностных особенностей.

В 2021 году группа, состоящая из более чем 70 ученых, юристов и деятелей технологической сферы, направила письмо правительству Испании с просьбой ввести мораторий на использование этих систем, поскольку, согласно их жалобам, они могут связать человека с неправильный работодатель. Они утверждали, что «помимо статистических корреляций» не существует общепринятых научных моделей, которые указывали бы на то, что тип носа, гримаса или темп ходьбы являются адекватными предикторами будущего индивидуального поведения.

Предотвращать преступления

Напротив, они подчеркнули, что эта технология все еще имеет «серьезные недостатки», поощряет «расистские, классовые и/или сексистские классификации» и что в некоторых частях мира ее использование ограничивает фундаментальные права. В странах с меньшим количеством признанных прав его можно использовать для мониторинга населения. Китай даже изучил внедрение этих инструментов распознавания лиц в общественных местах, чтобы предсказать совершение преступлений и проведение протестов. Если подозрительный человек (поскольку он имеет судимость, участвовал в протестах или страдает психическим заболеванием) изо всех сил старается, власти могут расследовать возможное совершение преступления. Но это также послужит контролю над этническими меньшинствами или иммигрантами.

Что касается нового европейского права, Клаудио Новелли, постдокторант кафедры юридических исследований Болонского университета (Италия) и международный научный сотрудник Центра цифровой этики Йельского университета (США), объясняет Научный медиацентр (SMC) отказ от саморегулирования моделей ИИ и выбор прямого надзора был «необходимым шагом», а запрет большинства биометрических систем — «разумной мерой».

«Если закон эффективен, мы увидим это со временем. В принципе, регулирование должно быть достаточно гибким, чтобы адаптироваться к новым технологическим достижениям, которые происходят все быстрее, и в то же время достаточно конкретным, чтобы иметь возможность избегать ситуаций, которые могут быть очень серьезными, и применять санкции, когда это необходимо», — говорит он. SMC Лусии Ортис де Сарате, научному сотруднику в области этики и управления искусственным интеллектом на факультете политологии и международных отношений Мадридского автономного университета: «В любом случае, — продолжает она, — это хорошая новость, что ЕС решил регулировать ИИ и наложить некоторые ограничения на технологии, которые, если их не контролировать, могут быть ужасно вредными, даже если мы об этом не подозреваем».