Что предусматривает регламент ЕС об искусственном интеллекте? Первый в мире

AGI – Европейский парламент приняла свою переговорную позицию по закону об искусственном интеллекте (ИИ) 499 голосами против 28 при 93 воздержавшихся и готова начать переговоры со странами ЕС по окончательному тексту. Правила направлены на то, чтобы искусственный интеллект, разработанный и используемый в Европе, соответствует правам и ценностям ЕСнапример, в человеческом надзоре, безопасности, конфиденциальности, прозрачности, недискриминации, социальном и экологическом благополучии.

Правила следуют риск-ориентированный подход и установить обязательства для поставщиков и системных операторов в зависимости от уровня риска, который может генерировать Искусственный интеллект. Поэтому системы искусственного интеллекта, представляющие неприемлемый уровень риска для безопасности людей, например, используемые для социальная оценка (классифицировать людей в соответствии с их социальным поведением или их личными характеристиками).

Депутаты Европарламента расширили список, включив в него запреты на навязчивое и дискриминационное использование ИИ, например:

• Использование систем удаленной биометрической идентификации «в режиме реального времени» и «постфактум» в общедоступных местах;
• Системы биометрической категоризации на основе чувствительных характеристик (например, пол, раса, этническая принадлежность, гражданство, религия, политическая ориентация); предиктивные полицейские системы (на основе профилей, местонахождения или прошлого преступного поведения);
• Системы распознавания эмоций, используемые в правоохранительных органах, пограничных службах, на рабочих местах и ​​в учебных заведениях;
• Нецелевой сбор биометрических данных из Интернета или видеозаписей с камер видеонаблюдения для создания баз данных распознавания лиц (нарушение прав человека и права на неприкосновенность частной жизни).

Депутаты Европарламента также хотят, чтобы классификация приложений с высоким риском включала системы искусственного интеллекта, которые наносят значительный вред здоровью людей, безопасности, основным правам или окружающей среде.

Системы искусственного интеллекта внесены в список повышенного риска используется для влияния на избирателей и исход выборов и системы рекомендаций, используемые платформами социальных сетей (более 45 миллионов пользователей).

Поставщики базовых моделей нового и быстро развивающегося сектора искусственного интеллекта должны будут оценить и снизить возможные риски (для здоровья, безопасности, основных прав, окружающей среды, демократии и верховенства закона) и зарегистрировать свои модели в ЕС. базе данных перед размещением их на европейском рынке.

Системы генеративного ИИ, основанные на таких моделях, как ЧатGPTдолжны будут соответствовать требованиям прозрачности (объявить, что контент был сгенерирован искусственным интеллектом), а также помочь отличить так называемые фальшивые изображения от реальных и обеспечить меры безопасности, чтобы избежать создания незаконного контента.

Также следует публиковать подробные сводки данных, защищенных авторским правом, которые используются для обучения. Чтобы стимулировать инновации в области ИИ и поддерживать МСП, депутаты Европарламента ввели исключения для исследовательской деятельности и компонентов ИИ, поставляемых по лицензиям с открытым исходным кодом.

Новый закон продвигает так называемые нормативные тестовые пространства или реальную среду, созданную государственными органами для тестирования искусственного интеллекта до его внедрения.

Наконец, депутаты Европарламента намерены укрепить право граждан подавать жалобы на системы и получать разъяснения по решениям, основанным на системах искусственного интеллекта с высоким уровнем риска, которые существенно влияют на их основные права. Депутаты Европарламента также реформировали роль Управления искусственного интеллекта ЕС, которому будет поручено следить за соблюдением правил искусственного интеллекта.