Ответственный ИИ в заголовках ALL IN, когда министр шампанского объявляет о новом кодексе поведения ИИ

Министр инноваций Франсуа-Филипп Шампань сегодня утром объявил о новом добровольном кодексе поведения, который определяет меры, касающиеся ответственной разработки и управления передовыми генеративными системами искусственного интеллекта.

Об этом он сделал заявление на ALL IN, двухдневной конференции в Монреале, организованной Scale AI, которая собирает представителей отрасли из более чем 20 стран для обсуждения канадского ИИ.

«Прорывы в области генеративного искусственного интеллекта оказывают важное влияние на общество», — сказал Шампейн. «Мы находимся на этапе, когда мы должны принять меры. Чтобы гарантировать, что мы укрепляем доверие, необходимы четкие рамки».

Кодекс описывает меры, основанные на следующих принципах:

1. Подотчетность – Внедрить четкую систему управления рисками, пропорциональную масштабу и воздействию деятельности. Обменивайтесь информацией о лучших практиках управления рисками и используйте несколько линий защиты, включая сторонние аудиты.
2. Безопасность – Провести оценку воздействия, принять меры по снижению рисков, злонамеренного или ненадлежащего использования.
3. Справедливость и равенство – Тестировать системы на предмет предвзятости на протяжении всего их жизненного цикла, внедрять разнообразные методы обучения.
4. Прозрачность – Публиковать информацию о возможностях и ограничениях систем ИИ, разрабатывать методы определения результатов, генерируемых ИИ, раскрывать типы используемых обучающих данных и обеспечивать, чтобы системы, которые можно принять за людей, четко идентифицировались как ИИ.
5. Человеческий надзор – Обеспечить мониторинг систем, сообщение об инцидентах и ​​принятие соответствующих мер.
6. Валидность и надежность – Проводить тестирование, Красная команда и сравнение с признанными стандартами для обеспечения эффективной работы систем и защиты от атак.

Эти меры, как сообщило Министерство инноваций, науки и экономического развития Канады (ISED), станут важным мостом между настоящим моментом и моментом вступления в силу законопроекта C-27, предложенного правительством Закона об искусственном интеллекте и данных (AIDA).

Предложенный более года назад законопроект C-27 призван содействовать ответственному проектированию, разработке и использованию систем искусственного интеллекта в частном секторе Канады с упором на высокоэффективные системы, влияющие на здоровье, безопасность и права человека.

Законодательство подверглось тщательному анализу, в том числе вчера в Постоянном комитете Палаты общин по промышленности и технологиям, где критики призывали министра исправить формулировки, плохо определенные в AIDA, взять на себя обязательство проводить более активные консультации с заинтересованными сторонами, помимо инсайдеров отрасли, и распространить регулирование ИИ на общественность. секторы тоже.

Шампейн объяснил на ALL IN: «После встречи с экспертами мы поняли, что пока мы разрабатываем закон здесь, в Канаде, это займет время», добавив: «Если вы спросите людей на улице, они хотят, чтобы мы приняли меры сейчас, чтобы убедитесь, что у нас есть конкретные меры, которые компании могут предпринять уже сейчас, чтобы создавать и доверять своим продуктам искусственного интеллекта».

Такие компании, как Cohere, OpenText, Appen, Blackberry и другие, подписали Кодекс поведения.

В ближайшие дни правительство опубликует краткий обзор отзывов, полученных в ходе консультаций с заинтересованными сторонами по разработке кодекса поведения.