Искусственный интеллект: ООН беспокоится о прибылях, а не о правах

МОНРЕАЛЬ –

Высокопоставленный представитель ООН в сфере технологий опасается, что корпоративные интересы могут подорвать стремление обуздать искусственный интеллект, усугубляя социальные разногласия и посягая на права человека.

Страны могут почувствовать давление, требующее удовлетворения потребностей бизнеса в большей свободе действий, а не в ограничении излишеств в отрасли, сказал Амандип Гилл в интервью перед глобальной конференцией по искусственному интеллекту в Монреале, которая начинается в среду.

«Честно говоря, я очень обеспокоен», — сказал он.

На карту поставлены права человека и демократические ценности, сказал Гилл, технический посланник генерального секретаря ООН.

Исследователи и политические лидеры подчеркивают проблемы, варьирующиеся от предвзятых наборов данных и расширения глобального неравенства до экзистенциальных угроз, связанных с масштабными кибератаками и биологическим оружием, разработанным с помощью искусственного интеллекта.

Пионер искусственного интеллекта Йошуа Бенджио, основавший институт искусственного интеллекта Mila, забил тревогу по поводу непосредственных опасностей, таких как «подделка людей» с использованием ботов, управляемых искусственным интеллектом.

Учёные, правозащитники, бизнес-лидеры и политики прибыли в Монреаль на трёхдневную встречу под названием «Защита прав человека в эпоху искусственного интеллекта», организованную Милой.

Консолидация власти, предрассудки и конфиденциальность — три основные темы.

«Поскольку потенциально существует большая концентрация богатства и технологической мощи в руках нескольких компаний, это имеет последствия для социальной справедливости, для нашего социального контракта», — сказал Гилл.

По его словам, стремление получить преимущество в глобальной технологической гонке может противоречить необходимости снизить риски, связанные с быстрым развитием ИИ, с помощью законов и правил. Гилл также подчеркнул, что олигополии ИИ или концентрация в нескольких странах поставят в невыгодное положение более мелкие фирмы и развивающиеся страны.

Дальнейшая поляризация внутри государств и между ними является еще одним возможным результатом выхода из-под контроля ИИ.

«Если ИИ будет использоваться для глубоких фейков, дезинформации, дезинформации в больших масштабах, это может подорвать легитимность политических процессов в нашем обществе», — сказал Гилл.

Встроенная предвзятость также является постоянной проблемой в этом секторе, поскольку алгоритмы, опирающиеся на массивы данных, иногда усиливают существующие предрассудки, а не отсеивают их. «Это может быть даже хуже, — сказал он, — будь то решения о жилье, условно-досрочном освобождении, судебной системе или распределении социальных пособий».

Дискриминационные последствия не ограничиваются национальным уровнем, добавил Гилл, отметив, что информация, вводимая в модели машинного обучения, поступает в основном из Северной Америки или Западной Европы.

«Это означает, что подавляющее большинство мировых культур, языков и контекстов не отражены должным образом в этих наборах данных».

Между тем, возможность отслеживать онлайн-активность граждан и пользователей социальных сетей рискует привести к нарушению прав на неприкосновенность частной жизни.

Несмотря на острую необходимость контроля над новейшим искусственным интеллектом, Гилл сказал, что Организация Объединенных Наций должна занять «скромный» подход к установлению правил, чтобы побудить как можно больше государств присоединиться к ним.

В прошлом месяце консультативный орган ООН опубликовал предварительный отчет, в котором изложены руководящие принципы структуры управления ИИ, подчеркнув, что ни одна страна не должна «оставаться позади», поскольку темпы инноваций приближаются к скорости света.

В Канаде федеральное правительство в июне 2022 года приняло закон, ограничивающий использование ИИ, но он томился на стадии комитета почти 10 месяцев.

Руководители крупных технологических компаний заявили на прошлой неделе, что Закон об искусственном интеллекте и данных в настоящее время является слишком расплывчатым, утверждая, что он не может адекватно разграничить системы ИИ с высоким и низким уровнем риска.

Либералы заявили, что внесут поправки в закон, введя новые правила, в том числе требуя от компаний, ответственных за генеративные системы искусственного интеллекта (алгоритмический механизм, лежащий в основе чат-ботов, таких как ChatGPT OpenAI, который может выдавать что угодно, от математических задач до советов по браку), предпринимать шаги для обеспечения их контент можно идентифицировать как созданный искусственным интеллектом.

Законодательство по-прежнему направлено на более общий, основанный на принципах подход к управлению ИИ, который обеспечивает гибкость в условиях постоянного развития технологии, оставляя большинство деталей на более поздний срок.

Оттава заявила, что закон, известный как законопроект C-27, вступит в силу не раньше 2025 года.

Этот отчет The Canadian Press был впервые опубликован 14 февраля 2024 года.