Габриэла Рамос: «Вопрос не в том, регулировать ли искусственный интеллект, а в том, как» | Технологии

Габриэла Рамос прибыла в ЮНЕСКО, агентство ООН по образованию, науке и культуре, в 2020 году с миссией: она должна двигаться вперед своего рода Всеобщая декларация искусственного интеллекта (ИИ). Документ, который впоследствии был назван Рекомендация по этике в области искусственного интеллектабыл представлен в 2021 году и подписан 193 странами, хотя только 24 осуществляют его. Не имеющий обязательной силы, он предлагает рекомендации по действиям по таким вопросам, как управление данными, технологии массового шпионажа, злоупотребление когнитивными предубеждениями, контроль над нейротехнологиями. Среди прочего, он одобрен Европейской комиссией или Японией, а также такими компаниями, как Microsoft или Telefónica.

Инициатива ЮНЕСКО рисковала потерять актуальность. Но потом Прибыл ChatGPT. Опасения, вызванные этим инструментом, привели к публикации три недели назад письма, подписанного тысячами экспертов по искусственному интеллекту, в котором содержится призыв ввести мораторий на разработку этой технологии. Этот тревожный звонок от некоторых родителей дисциплины возродил интерес к работе агентства ООН. «Был экспоненциальный рост числа консультаций со странами, которые хотят встретиться с нами. Мы продвинулись в переговорах с 18 странами. По запросу мы разрабатываем меру этического воздействия ИИ. Мы помогаем ставить диагнозы, оценивать правительственные команды и думать о том, какое учреждение должно контролировать разработку этих правил», — объясняет Рамос, родившийся в Мичоакане 59 лет назад, в ходе видеоконференции.

У мексиканца обширная карьера международного государственного служащего, состоявшаяся в основном в ОЭСР и G20. С 2020 года она является заместителем генерального директора ЮНЕСКО. «Вся неопределенность, связанная с ChatGPT в отношении его влияния и развития, помогает нам повышать осведомленность о ключевой проблеме. Это единственная серебряная подкладка во всем этом».

Просить. Что вы думаете о ChatGPT и буме генеративного искусственного интеллекта?

Отвечать. ChatGPT подтверждает то, о чем мы говорили: существует экспоненциальный рост этих технологий. Раньше нас очень беспокоило понимание того, что алгоритмы машинного обучения [aprendizaje automático] Они были сильны в своих определениях и в обеспечении того, чтобы данные, которые они использовали, были качественными. Большие языковые модели, на которые опираются чат-боты, еще больше усложняют понимание того, как они работают. И я думаю, что это принципиальный вопрос. Очень жаль, потому что мы сталкиваемся с эффектными технологиями. Но он страдает от тех же проблем, что и менее массовый ИИ: когда они появляются на рынке, они не всегда безопасны, заслуживают доверия или прозрачны. Все эти разработки происходят в общем нормативном вакууме. Европа продвигает свои директивы. Сам президент Байден сейчас созвал консультацию, чтобы выяснить, они должны сертифицировать эти разработки до того, как они появятся на рынке. Китай установил правила для тех, кто хочет выпускать продукцию на основе этой технологии.

П. Нужно ли регулировать ИИ?

Р. Нам нужна структура, позволяющая измерять раньше. Необходима оценка этического воздействия на свободы, права, инклюзивные результаты, и все это должно произойти до того, как продукт появится на рынке. Должны быть определенные процедуры, которые позволяют нам гарантировать, что эти разработки полностью проверены и что мы, по крайней мере, понимаем, каково их влияние. Но мы продолжаем жить в мире с ног на голову: сначала отпускаешь их, а потом удивляешься, каковы их последствия. Мне кажется смешным говорить, что нам нужны правила. Все рынки регулируются. Представьте, если бы фармацевтические компании могли продавать любое лекарство без какой-либо проверки. Или если бы вы могли открыть ресторан и подавать любую качественную еду, которую вы хотите. Вопрос не в том, будет ли регулирование, а в том, какое.

П. Тысячи экспертов подписались три недели назад письмо с призывом ввести мораторий на исследования генеративного ИИ. Вы согласны с ней?

Р. Это письмо подтверждает нам, что мы не чувствуем себя способными обращаться с этими системами. Я думаю, письмо имеет смысл. Все сделали акцент на паузе, но также просят, чтобы не было больше никаких разработок, пока у нас не будет прочной нормативно-правовой базы. ЮНЕСКО работала над этим в течение последних двух лет, с тех пор как 193 страны-члена одобрили Рекомендация по этике в области искусственного интеллекта. Вопрос, который подходит здесь, заключается в том, есть ли у правительств полномочия, институты и законы для модерации и управления ИИ. Письмо от экспертов означает, что теперь многие люди получают больше информации по этому вопросу. То, что эти господа, разработавшие эту технологию, говорят, что нужна пауза, означает, что они сами не верят, что справятся. Я не считаю, что мораторий — это реальный вариант. Что у нас есть, так это ускорить правила. И здесь я согласен: нам нужны механизмы управления искусственным интеллектом.

Мы хотим создать дорожную карту того, как понимать ИИ, как подходить к этим разработкам, как предотвращать негативные последствия, как их определять и как продвигать правила и институты».

П. Что предлагает Рекомендация ЮНЕСКО по этике ИИ?

Р. Мы говорим, что технологии должны поддерживать права человека, они должны способствовать изменению климата и приносить справедливые и надежные результаты. Они также должны быть прозрачными, и должна быть подотчетность. 60% этих технологий разрабатываются американскими акторами, а еще 20% — китайскими компаниями. Затем эта концентрация возникает из-за отсутствия разнообразия, дискриминационных результатов и предубеждений. Вся эта бизнес-модель должна измениться.

П. Подход ЮНЕСКО к ИИ должен регулироваться каждым государством или им должен заниматься какой-то наднациональный орган?

Р. Наша Рекомендация не имеет обязательной силы, но ее подписали 193 страны. В конце концов, именно правительства должны определить свою нормативно-правовую базу. Что мы делаем сейчас в ЮНЕСКО, основываясь на уже имеющемся у нас определении стандартов и лучших практик, так это размышляем о том, какие институты и правила помогают странам сближаться. Соединенные Штаты, которые рассматривает возможность возвращения в ЮНЕСКО, также сказал, что наши дебаты о том, какие международные правила должны регулировать ИИ, важны. Когда кто-то видит, что его основные права нарушаются, когда кто-то подвергается дискриминации и ему не показывают предложение о работе, потому что его нет в базе данных ИИ, когда технология распознавания лиц не обнаруживает вас, потому что вы цветной или женщина Таким образом, независимо от того, сколько существует многосторонних соглашений, правительства обязаны действовать.

П. Реально ли пытаться добиваться того, чтобы международные режимы регулировали такие технологии, как ИИ?

Р. Миллионы решений принимаются при поддержке искусственного интеллекта без какой-либо прозрачности. Если вас дискриминируют, вы даже не знаете, было ли это из-за человека или алгоритма. Мы должны предоставить контекст, а затем страны будут двигаться вперед в принятии собственных решений. За свой 20-летний опыт работы в многосторонних организациях я понял, что прогресса можно добиться при наличии конкретных данных, показывающих, каковы прогнозы для определенных событий, и указывающих, как страны с хорошим регулированием не остаются позади в технологической конкуренции.

П. Договоры о нераспространении ядерного оружия времен холодной войны имели смысл, поскольку в них участвовали Соединенные Штаты и Советский Союз. Что произойдет в случае с ИИ, если какой-то ключевой игрок будет исключен?

Р. Когда я приехал в ЮНЕСКО три года назад, многие люди говорили мне: какой смысл работать в этических рамках ИИ, если США, которые являются основным разработчиком, не являются членами ЮНЕСКО? Рекомендацию подписали 193 страны, включая Китай. США примут к сведению, потому что то, что мы делаем, не навязывает единую модель, а повышает осведомленность. Мы хотим создать дорожную карту того, как понимать ИИ, как подходить к этим разработкам, как предотвращать негативные последствия, как их определять и как продвигать правила и институты.

П. В развитии ИИ важна геополитическая плоскость.

Р. Да, мы находимся в центре технологической гонки. В настоящее время решается, какая технология будет принята. Все страны приобретают пакеты ИИ для управления образованием, здравоохранением или безопасностью. Как убедиться, что они понимают, что покупают? Те, кто являются производителями этих технологий и заинтересованы в увеличении числа пользователей своих технологий, обращают внимание на то, что происходит с точки зрения регулирования. Китай является частью консенсуса ЮНЕСКО. Будете ли вы соблюдать соглашение? Ну, они подписали его, не так ли?

П. ChatGPT, которому едва исполнилось шесть месяцев, поместил генеративный ИИ в число актуальных тем. Сколько времени у нас есть, чтобы разработать надлежащие механизмы управления для регулирования этой технологии?

Р. Мы уже на нем. Европейский Союз уже добился достаточного прогресса со своими директивами, с риск-ориентированный подход. Это другой подход, чем у ЮНЕСКО, но он очень дополняет анализ того, какие события несут наибольший риск. Я бы сказал, что если бы директивы Евросоюза уже полностью действовали, ChatGPT не вышел бы на рынок. Потому что? Потому что это будет иметь характеристики событий, связанных с большими рисками и требующих особого внимания со стороны регулирующего органа. То, что произошло с ChatGPT, заставило нас придать этому ощущению безотлагательности то, что мы уже делали. Рекомендация ЮНЕСКО была принята в период с 2020 по 2021 год. Директивы ЕС — в период с 2020 по 2022 год. У нас все хорошо.

Вы можете следить СТРАНА Технологии в Фейсбук у Твиттер или зарегистрируйтесь здесь, чтобы получать наши информационный бюллетень.