AMNC23: Как мы успеваем за темпами развития ИИ?

Руководители правительства, технологической индустрии и научных кругов признали огромный потенциал генеративного ИИ, но призвали к созданию ряда защитных ограждений для обеспечения безопасного развертывания интеллектуальных технологий с целью принести пользу всем.

Эксперты выступили на двух сессиях Всемирного экономического форума Ежегодная встреча новых чемпионов в Тяньцзине, Китай.

Обрамляя дискуссию, Кэти Ли, руководитель отдела искусственного интеллекта, данных и метавселенной на форуме и член исполнительного комитета, сказала в недавнем выпуске Radio Davos: «Для всех крайне важно понять огромный потенциал, который мы видим в этой новой технологии. но также и проблемы и обязанности, которые приходят с этим».

Вот основные моменты двух сессий, посвященных будущему ИИ.

Примечание: Эта статья основана на автоматических стенограммах, и некоторые цитаты были отредактированы по длине и грамматике.

Выступление на сессии Генеративный ИИ: друг или враг?Паскаль Фунг, профессор кафедры электронной и вычислительной техники Гонконгского университета науки и технологий, сказал, что мир сталкивается с мощными и творческими моделями, которые знаменуют собой «квантовый скачок в человеческой цивилизации».

Фунг продолжил: «У нас должна быть основа для разработки ответственных моделей генеративного ИИ, не только для того, чтобы держать человека в курсе, но и для того, чтобы глубоко понять эти модели и привести их в соответствие с тем, чего хотят люди».

Хотя участники дискуссии согласились с тем, что ограждения необходимы для безопасного развертывания ИИ, было также признано, что опасения по поводу потенциальных негативных последствий ИИ не должны замедлять разработку.

Эмилия Стойменова Дух, министр цифровой трансформации Словении, сказала: «ИИ действительно может стимулировать инновации», добавив, что опасения не должны мешать этим инновациям. «Конечно, есть страхи, но я считаю, что если мы будем все время говорить о страхах, то мы можем потерять этот потенциал». Далее Стойменова Дух рассказала о своих самых больших опасениях по поводу ИИ, его роли в образовании и предвзятости, присущей системам ИИ.

«Я вижу огромный потенциал, моя забота [is] что я не совсем уверен, будут ли учителя знать, как использовать ИИ, понимают ли они, что означает генеративный ИИ и как они могут его использовать. Но мой самый большой [concern is] предубеждения в ИИ. В мире уже есть стереотипы и предубеждения. Нам нужно найти способ устранить стереотипы и предубеждения, связанные с ИИ, и убедиться, что они не вызовут дополнительных разногласий в наших сообществах».

По мнению Дарко Матовски, генерального директора CausaLens, преимущества инноваций, основанных на искусственном интеллекте, должны быть подкреплены прозрачностью. Он сказал, что для укрепления доверия люди должны понимать, как работают системы ИИ и какие решения они принимают. «Около 85% проектов ИИ никогда не покидают лабораторию, и для этого есть фундаментальная причина… люди на самом деле не доверяют алгоритмам. У генеративного ИИ много применений, но когда дело доходит до принятия решений, людям действительно нужно понимать что делает алгоритм. ИИ должен объяснить, почему он принял решение. Он должен быть в состоянии объяснить, что он будет делать, если обнаружится точка данных, которую он никогда не видел в прошлом».

На втором сеансе, Идти в ногу со временем: готовность ИИ в условиях революции ИИ, члены группы обсудили, кто должен взять на себя ответственность за регулирование ИИ. Должна ли эта ответственность возлагаться на правительства или технологическая отрасль должна быть предоставлена ​​самой себе?

«Как правительства, мы не можем регулировать то, чего не знаем», — заявила Паула Ингабире, министр информационно-коммуникационных технологий и инноваций Руанды. Далее Ингабире описал, как государственно-частный подход к регулированию может дать наилучший результат, заявив группе: «Для всех естественно думать, что правительства должны взять на себя инициативу, и я согласен с этим. Что здесь очень важно понять. Правительство в одиночку не может сделать это самостоятельно. Вам нужно своего рода партнерство и сотрудничество, чтобы выяснить, кто играет более важную роль».

Эмилия Стойменова Дух указала на опасность того, что правительства торопятся с регулированием, не полностью понимая риски и потенциал ИИ, заявив панели: «Если мы хотим что-то регулировать, хорошо бы потратить некоторое время и посмотреть, что мы хотим регулировать». . Министр предупредил, что скорость развития ИИ может застать законодателей врасплох и привести к регулированию, которое либо неадекватно для контроля рисков, либо подавляет позитивные инновации.

Джоанна Брайсон, профессор этики и технологий в Школе Херти, сказала группе, что крайне важно, чтобы разработчики ИИ и регулирующие органы задавали себе правильные вопросы о потенциальном воздействии ИИ. Она предлагает больше сосредоточиться на том, чтобы люди чувствовали себя в безопасности в мире с ИИ, а не на попытках убедить их доверять ему.

«Нам нужно очень много думать о людях, которые были перемещены [by AI]. Когда у людей случается неожиданное событие в жизни, смогут ли они продолжать платить арендную плату или ипотеку? Правительства играют важную роль, помогая всем нам справиться с изменениями. Одна из причин, по которой у нас сейчас есть проблемы с доверием, заключается в том, что мы знаем, что не получаем информацию, которую должны, и у нас недостаточно прозрачности. Я думаю, что важно признать, что мы живем в век информации и что мы должны делать то, что приносит пользу людям».

Всемирный экономический форум запустил Альянс управления ИИ, специальная инициатива, ориентированная на ответственный генеративный искусственный интеллект. Эта инициатива расширяет существующую структуру и опирается на рекомендации из Responsible AI Leadership: A Global Summit on Generative AI.