Сопротивление Anthropic Министерству обороны США, запись OpenAI: объяснение

История до сих пор: Министерство обороны США (в стиле Военное ведомство при второй администрации Трампа) вступил в публичную ссору с фирмой Anthropic, занимающейся искусственным интеллектом, которая производит продукт Claude AI. Министерство обороны имеет пригрозил назвать антропным «риск цепочки поставок», отговаривающий широкий круг фирм, работающих с правительством США, от покровительство продуктам Anthropic. Компания OpenAI, производитель ChatGPT, впоследствии вмешалась в дело, заключив соглашение, которое, по ее словам, не радикально отличалось от того, чего хотела Anthropic.

Что такое Клод?

Клод — чат-бот с искусственным интеллектом это помогает организациям и отдельным пользователям создавать и изменять код. Продукт Claude Code был принят чрезвычайно хорошо благодаря своим возможностям. Claude Code — один из немногих продуктов искусственного интеллекта. который запускается с использованием чрезвычайно мощных моделей больших языков (LLM), а также поддерживает создание и редактирование инструментов на устройстве, как только он получит доступ к ряду программных библиотек для работы.

Этот продукт очень привлекателен для оборонного ведомства, поскольку он может использовать высокотехнологичное оружие и системы защиты. Набор программистов для этих систем, как правило, происходит медленно, поскольку любая критическая система вооружения защищена несколькими уровнями секретности, что требует прохождения проверок безопасности, что может занять много времени.

Claude Code стал привлекательным предложением для Министерства обороны, поскольку он, вероятно, позволяет им быстро разрабатывать программы, которые используют его технологию. Хотя Claude Code не всегда идеально выполняет задачи программирования, он работает достаточно хорошо, поэтому многие сроки разработки были сокращены в организациях, которые широко его внедрили, особенно среди сотрудников, которые уже являются опытными разработчиками программного обеспечения.

Почему Anthropic вступил в конфликт с Министерством обороны?

Anthropic был передан Министерству обороны в рамках контракта на 200 миллионов долларов в июне прошлого года, который позволил правительству США использовать услуги Клода из выделенной инфраструктуры, размещенной на Amazon Web Services.

Проблемы между фирмой и Министерством обороны начались 9 января, когда министр обороны Пит Хегсет опубликовал меморандум под названием «Ускорение доминирования американского военного ИИ», в котором он призвал к устранению «блокировщиков обмена данными, разрешений на эксплуатацию (ATO), испытаний, оценки и сертификации, заключения контрактов, найма и управления талантами, а также других политик, которые препятствуют быстрому экспериментированию и внедрению».

У Anthropic есть широко разрекламированная «конституция» Клода, которая не позволяет этой модели поддерживать широкое наблюдение и обеспечивать полностью автономное вооружение. Дарио Амодей, соучредитель фирмы, настаивал на использовании резких формулировок в соглашении между Министерством обороны и Anthropic, чтобы обеспечить защиту от внутреннего наблюдения за жителями США и обеспечить возможность использования полностью автономного оружия.

Фирме было дано время до прошлой пятницы пойти на уступки и предоставить Министерству обороны совершенно неограниченный доступ к своим моделям. Он отказался, заявив в своем блоге, что это поможет Министерству обороны перейти к новому провайдеру.

Министерство обороны приступило к классификации Anthropic как риска цепочки поставок. Это определение обычно применяется к фирмам, которые используют настолько хитрые методы, что их продукты могут предоставить иностранным противникам лазейку в критически важные системы. Хотя это обозначение только запрещает поставщикам и партнерам Министерства обороны не использовать Claude в системах, предназначенных для Министерства обороны, есть опасения, что руководители могут проявить осторожность и полностью прекратить связи с Claude.

Каково соглашение OpenAI? Чем это отличается?

OpenAI заключила соглашение с Министерством обороны, согласно которому, как утверждает первое, оно имеет ту же защиту от наблюдения и полностью автономное вооружение, что и Anthropic. Не совсем понятно, почему OpenAI удалось заключить эту сделку, в то время как Anthropic была исключена. «Министерство войны может использовать систему искусственного интеллекта для всех законных целей, в соответствии с применимым законодательством, оперативными требованиями и устоявшимися протоколами безопасности и надзора», — говорится в части соглашения, обнародованного OpenAI.

«Система искусственного интеллекта не будет использоваться для независимого управления автономным оружием в любом случае, когда закон, постановление или политика Департамента требуют человеческого контроля, а также не будет использоваться для принятия других важных решений, требующих одобрения человека, принимающего решения в тех же органах власти». Сообщается, что Anthropic стремилась к большей ясности в юридических формулировках соглашения, которая запрещала бы описанные выше варианты использования, даже если бы они были легализованы.

«Мы считаем, что наши красные линии здесь более осуществимы, потому что развертывание ограничивается только облаком (а не на периферии), обеспечивает работу нашего стека безопасности так, как мы считаем лучшим, и держит в курсе допущенный персонал OpenAI», — говорится в заявлении OpenAI. «Мы не знаем, почему Anthropic не смогла заключить эту сделку, и мы надеемся, что они и другие лаборатории рассмотрят ее».