Европарламент хочет лучше регулировать ChatGPT

Это важный шаг. Европейский проект по регулированию искусственного интеллекта получил в четверг, 11 мая, первое одобрение депутатов Европарламента, которые призвали к новым запретам и более тщательному рассмотрению феномена ChatGPT. Европейский союз (ЕС) хочет первым в мире принять всеобъемлющую правовую базу для ограничения чрезмерного использования искусственного интеллекта (ИИ) и обеспечения инноваций.

Два года назад Брюссель предложил амбициозный проект постановления, но его рассмотрение затягивается из-за разногласий по поводу опасностей генеративного ИИ, способного создавать текст или изображения. Страны-члены ЕС определили свою позицию только в конце 2022 года.

Депутаты Европарламента одобрили свой вариант в ходе голосования в комитете в четверг утром в Страсбурге, который должен быть утвержден на пленарном заседании в июне. Затем начнутся трудные переговоры между различными учреждениями. «Мы получили более 3000 поправок. Просто включите телевизор, каждый день мы видим важность этого дела для горожан»сказал Драгош Тудораче, содокладчик текста. «Европа хочет этического, человеческого подхода»подытожил Брандо Бенифеи, также содокладчик.

Системы искусственного интеллекта, обладающие большой технической сложностью, очаровывают не меньше, чем беспокоят. Хотя они могут спасать жизни, обеспечивая качественный скачок в медицинской диагностике, они также используются авторитарными режимами для осуществления массового наблюдения за гражданами.

Прочитайте опрос: Статья зарезервирована для наших подписчиков От ChatGPT до Midjourney генеративный искусственный интеллект завоевывает популярность в компаниях

Список налагаемых правил

Широкая публика открыла их огромный потенциал в конце года с выпуском генератора редакционного контента ChatGPT от калифорнийской компании OpenAI, который может писать оригинальные эссе, стихи или переводы за считанные секунды. Но распространение в социальных сетях фальшивых изображений, более реальных, чем жизнь, созданных из приложений, таких как Midjourney, насторожило о рисках манипулирования мнением.

Научные деятели даже призвали ввести мораторий на разработку самых мощных систем, пока они не будут лучше регулироваться законом. Позиция парламента в целом подтверждает подход Комиссии. Текст опирается на существующие правила безопасности продукции и будет предусматривать проверки, основанные в первую очередь на предприятиях.

Сердце проекта состоит из списка правил, налагаемых только на приложения, признанные “высокий риск” самими компаниями на основе критериев законодателя. Для европейского руководителя это будут все системы, используемые в таких чувствительных областях, как критическая инфраструктура, образование, человеческие ресурсы, правоохранительные органы или управление миграцией…

Среди обязательств: предусмотреть контроль человека над машиной, создание технической документации или даже внедрение системы управления рисками. Их соблюдение будет контролироваться назначенными надзорными органами в каждой стране-члене. Депутаты Европарламента хотят ограничить обязательства только продуктами, которые могут угрожать безопасности, здоровью или основным правам.

Читайте также: Статья зарезервирована для наших подписчиков «ChatGPT, рассказывающий истории интеллект, тем более грозный, что он производит весьма замечательные научные подделки»

Запрет систем распознавания

Европейский парламент также намерен лучше учитывать генеративный ИИ типа ChatGPT, призывая к конкретной системе обязательств, которые по существу повторяют те, которые предусмотрены для систем с высоким уровнем риска.

Мир

Специальное предложение для студентов и преподавателей

Получите доступ ко всему нашему неограниченному контенту за 8,99 евро в месяц вместо 10,99 евро.

Подписаться

Депутаты Европарламента также хотят заставить провайдеров установить защиту от нелегального контента и раскрыть данные (научные тексты, музыку, фотографии и т. д.), защищенные авторским правом и используемые для разработки их алгоритмов.

Предложение Комиссии, обнародованное в апреле 2021 года, уже обеспечивает основу для систем ИИ, которые взаимодействуют с людьми. Это обяжет их информировать пользователя о том, что он находится в контакте с машиной, и заставит приложения, генерирующие изображения, указывать, что они были созданы искусственно. Баны будут редко. Они будут касаться приложений, которые противоречат европейским ценностям, таких как системы оценки граждан или массовое наблюдение, используемые в Китае.

Депутаты Европарламента хотят добавить запрет на системы распознавания эмоций и убрать отступления, разрешающие правоохранительным органам удаленную биометрическую идентификацию людей в общественных местах. Также они намерены запретить массовый сбор фотографий в Интернете для обучения алгоритмов без согласия заинтересованных лиц.

Читайте также: Статья зарезервирована для наших подписчиков ChatGPT: почему Интернет все еще далек от вторжения контента, созданного генеративным ИИ

Мир с АФП