Правительству следует рассмотреть национальную базу данных об инцидентах с искусственным интеллектом: технический документ | Новости Индии

Правительству следует рассмотреть возможность создания национальной базы данных для регистрации, классификации и анализа нарушений безопасности, предвзятых результатов, нарушений безопасности и неправильного использования искусственного интеллекта (ИИ), предложил офис главного научного консультанта (PSA).

В официальном документе о технико-правовых мерах по управлению ИИ в стране офис PSA предложил, чтобы в национальной базе данных были отчеты о таких инцидентах, представленные государственными органами, частными предприятиями, исследователями и организациями гражданского общества.

«В рамках технико-правовой базы эта база данных позволит обеспечить подотчетность после развертывания посредством таких мер, как классификация рисков, специфичная для Индии, выявление системных тенденций и возникающих угроз, аудит на основе данных и целенаправленное нормативное вмешательство, а также научно обоснованное совершенствование технического и юридического контроля», — говорится в официальном документе.

Помимо этого, отрасль должна публиковать отчеты о прозрачности, проводить регулярные проверки на честность и надежность, проводить проверки безопасности и проводить учения «красной команды», говорится в официальном документе.

“Эти шаги позволяют организациям ознакомиться с процессами соответствия и документацией до того, как требования станут обязательными. Добровольные меры также помогают выявлять риски на ранней стадии, повышать готовность и развивать общесекторальный потенциал для ответственного развертывания ИИ”, – говорится в официальном документе.

Для поддержки функционирования группы управления ИИ, которую возглавляет PSA, Министерству электроники и информационных технологий следует создать специальный экспертный комитет по технологиям и политике (TPEC), который мог бы объединить междисциплинарных экспертов в области права, государственной политики, машинного обучения, безопасности ИИ, кибербезопасности и государственного управления, среди прочего, как предлагается в официальном документе PSA.

В официальном документе говорится, что технико-правовая база, которая, вероятно, будет принята правительством, также должна тщательно сбалансировать гарантии конфиденциальности с соображениями инклюзивности, справедливости и полезности моделей.

На практике конфиденциальность, справедливость и производительность моделей ИИ часто существуют в «структурном напряжении», а это означает, что усиление одного аспекта может привести к автоматическому ослаблению других. В белой книге говорится, что для страны, которая столь же лингвистически и демографически разнообразна, как Индия, эти решения не должны оставаться на усмотрение неявных инженерных решений.

“Чтобы смягчить эти риски, необходимы механизмы изъятия данных с учетом последствий, а не безоговорочное удаление. Крупномасштабные запросы на отказ от обучения должны подвергаться оценке воздействия на справедливость и репрезентативность, с применением мер безопасности, когда удаление данных рискует ухудшить производительность недостаточно представленных групп”, – говорится в официальном документе.