Мнение: Тихая милитаризация канадского ИИ

Мелина Пулен является аспирантом в области общества, культуры и цифровых технологий в INRS, Квебек.

Николя Шартье-Эдвардс является кандидатом наук в области политики, науки и технологий в INRS, Квебек. Оба являются руководителями исследований в области цифровых технологий франкоязычных стран и искусственного интеллекта в Квебеке.

В прошлом месяце Министерство инноваций, науки и экономического развития Канады (ISED) опубликовало результаты 30-дневного национальный спринт направленный на обновление канадского ИИ стратегия. ISED пропагандирует результаты спринта как результат участия общественности. Мы считаем, что существуют серьезные подводные камни, которые подрывают доверие к этой инициативе как с демократической, так и с научной точки зрения. Но определенное молчание в канадской экосистеме искусственного интеллекта заставляет нас усомниться в ее позиции по деликатным вопросам, связанным с автоматизацией вооружений и других военных технологий. Такое молчание, похоже, предполагает отношение, которое отличается от исторического позиционирования канадского ИИ как «ответственного» и «этичного».

Правительство использует эти консультации, которые должны стать механизмом демократического участия, как способ освободить себя и канадскую экосистему искусственного интеллекта от этических обязательств.

В работе ISED приняли участие 28 консультантов по искусственному интеллекту и онлайн-опрос, на который было получено более 11 000 ответов от представителей промышленности, научных кругов и гражданского общества. Объем ответов был большим, и ISED задал четкий тон своим решением передать анализ и синтез данных четырем большим языковым моделям (LLM). Как профессора Блер Аттард-Фрост и Джонатан Роберж Как отметили, сомнительная методология ISED создает иллюзию консенсуса за счет преимущественного выбора консультантов, связанных с отраслью, и представления поверхностных объяснений, генерируемых LLM.

Отчет содержит противоречивые утверждения, которые следуют друг за другом без явного подтверждения; Например, призывы к регулированию конфликтуют с призывами к дерегулированию. Заявление от Жоэль Пиноведущая фигура в этической экосистеме искусственного интеллекта Монреаля, которая покинул Мету стать директором по искусственному интеллекту в Cohere, воплощает эту двусмысленность, когда она утверждает, что мы «должны активно бороться с негативным общественным мнением по поводу искусственного интеллекта». Больше всего ее беспокоит сокращение инвестиций, но ее заявление, кажется, отражает более широкое желание заставить общественное мнение придерживаться ориентации правительства и промышленности (массивное государственное и частное финансирование инфраструктуры), а не прислушиваться ко всем высказанным опасениям.

Более глубокое противоречие заключается в повторяющихся «этические» обязательства канадского искусственного интеллекта, в то время как экосистема постепенно реорганизуется в сторону технологий двойного назначения как в гражданской, так и в военной промышленности. Этот сдвиг, оправданный во имя суверенитета Канады, начался с введения концепции двойного использования в Федеральный бюджет на 2025 год и создание Управления передовых инноваций и научных исследований, инженерии и лидерства. (БОРЕАЛИС) в рамках Национальной обороны.

В контексте национального спринта Сэм Рамадори, вице-президент и исполнительный директор Law Zero, призвал правительство увеличить капитальные вложения BOREALIS, чтобы приблизить канадские стартапы к нуждам обороны.

СВЯЗАННЫЙ: Мы читаем все материалы канадской целевой группы по искусственному интеллекту: вот что они сказали

LawZero — это некоммерческая организация, основанная и возглавляемая ведущим экспертом в области искусственного интеллекта Йошуа Бенгио, которая специализируется на технических решениях для разработки «этичного и безопасного» искусственного интеллекта. Бенджио сыграл центральную роль в развитии экосистемы Монреаля, будучи бывшим научным директором MILA и пропагандистом Монреаль Декларация«разоблачитель» на экзистенциальные риски созданный ИИ, и участник «кампании против роботы-убийцы». Удивительное позиционирование LawZero и его недавний успех в убеждении Оттавы субсидировать его работу Это можно объяснить растущим использованием риторики о «суверенитете» индустриями искусственного интеллекта для легитимизации своего интереса к военному рынку.

Другой пример — Cohere, правительственный последняя дорогаячто обеспечило массовое государственное финансирование и наладил новые связи с оборонная промышленность. исторически спорный Конвергенция этих отраслей тем более поразительна в экосистеме, которая уже давно гордится своей этикой.

Мы не удивлены тем, что национальный спринт, координируемый в основном представителями канадской индустрии искусственного интеллекта, привел к появлению отчета, который поощряет инвестиции в искусственный интеллект, основанные, среди прочего, на военно-промышленных связях. Что нас действительно беспокоит, так это этический и демократический маскарад канадского ИИ, о чем свидетельствует энтузиазм в отношении технологий двойного назначения со стороны LawZero.

Проблема в том, что правительство использует эти консультации, которые должны стать механизмом демократического участия, как способ освободить себя и канадскую экосистему искусственного интеллекта в целом от своих этических обязательств. Еще большую тревогу вызывает «тихая милитаризация» ИИ, которая происходит в условиях нормативного вакуума, как это сделала Канада. нет законодательства на искусственном интеллекте или автономном оружии и действует в этическом вакууме, который служит корпоративному оппортунизму и государственному самоуспокоению.

Мнения и анализ, выраженные в вышеуказанной статье, принадлежат ее автору и не обязательно отражают позицию BetaKit или ее редакции. Он был отредактирован для ясности, длины и стиля.

Художественное изображение предоставлено Джошем Скоттом из BetaKit.