Новости AI: Нет единого мнения о рисках: отчет

В крупном международном отчете о безопасности искусственного интеллекта говорится, что эксперты не могут прийти к единому мнению относительно риска, который представляет эта технология, и неясно, поможет ли нам ИИ или навредит.

В докладе, подготовленном канадцем Йошуа Бенджио, делается вывод, что «будущая траектория развития искусственного интеллекта общего назначения крайне неопределенна».

В нем говорится, что «широкий диапазон траекторий» возможен «даже в ближайшем будущем, включая как очень положительные, так и очень отрицательные результаты».

Отчет был подготовлен на прошлогоднем саммите по безопасности искусственного интеллекта, организованном Великобританией, который стал первой такой глобальной встречей по искусственному интеллекту.

Великобритания попросила Бенджио, которого называют «крестным отцом» ИИ и который является научным директором Милы, Квебекского института ИИ, возглавить доклад. Он был выпущен в преддверии очередного глобального саммита по искусственному интеллекту, который пройдет в Сеуле, Южная Корея, на следующей неделе.

«Мы знаем, что передовой ИИ развивается очень быстро, и что существует значительная неопределенность относительно того, как эти передовые системы ИИ могут повлиять на то, как мы живем и работаем в будущем», — написал Бенджио в отчете.

Правительство Великобритании заявило в пятницу в пресс-релизе, что этот отчет является «первым в истории независимым международным научным отчетом» о безопасности ИИ и что он «сыграет существенную роль» в информировании дискуссий в Южной Корее на следующей неделе.

В подготовке отчета участвовала группа из 75 экспертов, в том числе группа, назначенная 30 странами, Европейским Союзом и Организацией Объединенных Наций. Отчет, опубликованный в пятницу, является промежуточным, а окончательная версия ожидается к концу года.

Основное внимание уделяется системам искусственного интеллекта общего назначения, таким как ChatGPT OpenAI, которые могут генерировать текст, изображения и видео на основе подсказок.

В отчете говорится, что эксперты «по-прежнему расходятся во мнениях по ряду вопросов, мелких и крупных, касающихся возможностей ИИ общего назначения, рисков и их снижения».

Одной из областей дебатов является вероятность «таких рисков, как крупномасштабное воздействие на рынок труда, взлом с помощью ИИ или биологические атаки, а также потеря обществом контроля над ИИ общего назначения».

В отчете обозначен ряд рисков, в том числе вред, который ИИ может нанести посредством фейкового контента, дезинформации и мошенничества, а также кибератак. Это также указывает на риски, которые может вызвать предвзятость в области ИИ, особенно в «областях с высокими ставками, таких как здравоохранение, набор рабочих мест и финансовое кредитование».

Один из потенциальных сценариев заключается в том, что люди потеряют контроль над искусственным интеллектом и не смогут контролировать технологию, даже если она может причинить вред.

В отчете говорится, что существует консенсус в отношении того, что нынешняя технология общего назначения не представляет такого риска, но некоторые эксперты полагают, что продолжающаяся работа по разработке автономного ИИ, который может «действовать, планировать и достигать целей», может привести к такому результату.

«Эксперты расходятся во мнениях относительно того, насколько правдоподобны сценарии потери контроля, когда они могут произойти и насколько сложно будет их смягчить», — говорится в докладе.

Этот отчет The Canadian Press был впервые опубликован 18 мая 2024 года.