В отчете по безопасности оцениваются усилия компаний, занимающихся искусственным интеллектом, по защите человечества

Смогут ли компании, занимающиеся искусственным интеллектом, защитить человечество от потенциального вреда ИИ? «Не делайте ставку на это», — говорится в новом табеле успеваемости.

Поскольку ИИ играет все более важную роль в том, как люди взаимодействуют с технологиями, потенциальный вред становится все более очевидным: люди используют чат-ботов на базе ИИ для консультирования, а затем смерть от самоубийстваили использовать ИИ для кибератаки. Есть и будущие риски: искусственный интеллект будет использоваться для изготовления оружия или свержения правительств.

Тем не менее, у компаний, занимающихся искусственным интеллектом, недостаточно стимулов для того, чтобы уделять приоритетное внимание обеспечению безопасности человечества, и это отражено в Индекс безопасности ИИ опубликовано в среду некоммерческой организацией Future of Life Institute из Кремниевой долины, целью которой является направить искусственный интеллект в более безопасное русло и ограничить экзистенциальные риски для человечества.

«Это единственная отрасль в США, производящая мощные технологии, которые совершенно не регулируются, что ставит их в гонку друг против друга, где у них просто нет стимулов уделять приоритетное внимание безопасности», — сказал президент института и профессор Массачусетского технологического института Макс Тегмарк в интервью.

Наивысшие общие оценки составили только C+, присвоенные двум ИИ-компаниям из Сан-Франциско: OpenAI, производящей ChatGPT, и Anthropic, известной своей моделью чат-бота с искусственным интеллектом Claude. Подразделение Google по искусственному интеллекту, Google DeepMind, получило оценку C.

Еще ниже оказались материнская компания Facebook Meta из Менло-Парка и компания Илона Маска xAI из Пало-Альто, которым была присвоена оценка D. Китайские фирмы Z.ai и DeepSeek также получили оценку D. Самая низкая оценка была присвоена Alibaba Cloud, которая получила оценку D-.

Общие оценки компаний основывались на 35 показателях в шести категориях, включая экзистенциальную безопасность, оценку рисков и обмен информацией. Индекс собрал доказательства на основе общедоступных материалов и ответов компаний в ходе опроса. Оценка проводилась восемью экспертами по искусственному интеллекту — группой, в которую входили ученые и руководители организаций, связанных с ИИ.

Все компании в индексе получили рейтинг ниже среднего в категории экзистенциальной безопасности, что учитывает меры внутреннего мониторинга и контроля, а также стратегию экзистенциальной безопасности.

«Хотя компании наращивают свои амбиции в области искусственного интеллекта и суперинтеллекта, ни одна из них не продемонстрировала заслуживающего доверия плана по предотвращению катастрофического злоупотребления или потери контроля», — говорится в отчете института AI Safety Index, использующем аббревиатуру, обозначающую общий искусственный интеллект.

И Google DeepMind, и OpenAI заявили, что вкладывают средства в усилия по обеспечению безопасности.

«Безопасность является основой того, как мы создаем и развертываем ИИ», — говорится в заявлении OpenAI. “Мы вкладываем значительные средства в передовые исследования в области безопасности, встраиваем надежные средства защиты в наши системы и тщательно тестируем наши модели как внутри компании, так и с независимыми экспертами. Мы делимся нашими концепциями безопасности, оценками и исследованиями, чтобы помочь усовершенствовать отраслевые стандарты, и мы постоянно укрепляем нашу защиту, чтобы подготовиться к будущим возможностям.»

В своем заявлении Google DeepMind заявила, что использует «строгий, научно обоснованный подход к безопасности ИИ».

“Наш Система пограничной безопасности описывает конкретные протоколы для выявления и смягчения серьезных рисков, связанных с мощными передовыми моделями искусственного интеллекта, до того, как они проявятся», — заявили в Google DeepMind. «Поскольку наши модели становятся более совершенными, мы продолжаем внедрять инновации в области безопасности и управления в соответствии с возможностями».

В отчете Института будущего жизни говорится, что xAI и Meta «не имеют каких-либо обязательств по мониторингу и контролю, несмотря на наличие механизмов управления рисками, и не представили доказательств того, что они инвестируют больше, чем минимально, в исследования безопасности». По данным института, у других компаний, таких как DeepSeek, Z.ai и Alibaba Cloud, отсутствуют общедоступные документы о стратегии экзистенциальной безопасности.

Meta, Z.ai, DeepSeek, Alibaba и Anthropic не ответили на запрос о комментариях.

«Наследие СМИ ложь», — сказал xAI в ответ. Адвокат, представляющий Маска, не сразу ответил на запрос о дополнительных комментариях.

Маск также является советником Института будущего жизни и в прошлом предоставлял финансирование этой некоммерческой организации, но не участвовал в составлении Индекса безопасности ИИ, сказал Тегмарк.

Тегмарк сказал, что он обеспокоен тем, что если не будет достаточного регулирования индустрии искусственного интеллекта, это может привести к тому, что террористы смогут создавать биологическое оружие, манипулировать людьми более эффективно, чем сейчас, а в некоторых случаях даже поставить под угрозу стабильность правительства.

«Да, у нас большие проблемы и дела идут в плохом направлении, но я хочу подчеркнуть, насколько легко это исправить», — сказал Тегмарк. «Нам просто нужно иметь обязательные стандарты безопасности для компаний, занимающихся ИИ».

Правительство предпринимало попытки усилить надзор за компаниями, занимающимися искусственным интеллектом, но некоторые законопроекты получили отпор со стороны групп технологического лоббирования, которые утверждают, что усиление регулирования может замедлить инновации и заставить компании переехать в другое место.

Но были приняты некоторые законы, направленные на лучший мониторинг стандартов безопасности в компаниях, занимающихся искусственным интеллектом, в том числе СБ 53который был подписан губернатором Гэвином Ньюсомом в сентябре. Он требует от предприятий делиться своими протоколами безопасности и сообщать государству о таких инцидентах, как кибератаки. Тегмарк назвал новый закон шагом в правильном направлении, но необходимо гораздо больше.

Роб Эндерле, главный аналитик консалтинговой компании Enderle Group, сказал, что, по его мнению, индекс безопасности ИИ — это интересный способ подойти к основной проблеме недостаточного регулирования ИИ в США. Но есть проблемы.

«Мне не ясно, способны ли США и нынешняя администрация на данный момент иметь хорошо продуманные правила, а это означает, что правила могут в конечном итоге принести больше вреда, чем пользы», — сказал Эндерле. «Также неясно, придумал ли кто-нибудь, как внедрить правила, чтобы обеспечить их соблюдение».