OpenAI запретила использование в военных целях. Пентагон все равно тестировал свои модели через Microsoft

Генеральный директор OpenAI Сэм Альтман на этой неделе все еще находится в напряжении после того, как его компания подписала соглашение с военными США. Сотрудники OpenAI раскритиковали этот шаг, который последовал после того, как Anthropic получила около 200 миллионов долларов. Контракт с Пентагоном распалсяи попросил Альтмана предоставить дополнительную информацию о соглашении. Альтман признал, что в социальных сетях это выглядело «небрежно». почта.

Хотя этот инцидент стал главной новостью, он, возможно, является лишь последним и наиболее публичным примером того, как OpenAI создает расплывчатую политику в отношении того, как военные США могут получить доступ к своему ИИ.

В 2023 году политика использования OpenAI прямо запретила военным доступ к ее моделям ИИ. Но некоторые сотрудники OpenAI обнаружили, что Пентагон уже начал экспериментировать с Azure OpenAI, версией моделей OpenAI, предлагаемой Microsoft, сообщили два источника, знакомых с этим вопросом. В то время Microsoft уже несколько десятилетий заключила контракт с Министерством обороны. Он также был крупнейшим инвестором OpenAI и имел широкую лицензию на коммерциализацию технологии стартапа.

В том же году сотрудники OpenAI видели, как чиновники Пентагона прогуливались по офисам компании в Сан-Франциско, сообщили источники. Они говорили на условиях анонимности, поскольку не имеют лицензии комментировать вопросы частных компаний.

Некоторые сотрудники OpenAI опасались сотрудничать с Пентагоном, в то время как другие просто не понимали, что означает политика использования OpenAI. Применялась ли эта политика к Microsoft? Хотя источники сообщают WIRED, что большинству сотрудников в то время это было непонятно, представители OpenAI и Microsoft говорят, что продукты Azure OpenAI не подпадают и не подпадают под действие политик OpenAI.

«У Microsoft есть продукт под названием Azure OpenAI Service, который стал доступен правительству США в 2023 году и на него распространяются условия обслуживания Microsoft», — сказал представитель Фрэнк Шоу в заявлении для WIRED. Microsoft отказалась конкретно комментировать, когда она предоставила Пентагону доступ к Azure OpenAI, но отмечает, что услуга не была одобрена для «Совершенно секретноЗадачи правительства до 2025 года.

«ИИ уже играет значительную роль в национальной безопасности, и мы считаем, что важно иметь место за столом переговоров, чтобы обеспечить его безопасное и ответственное развертывание», — заявила в своем заявлении представитель OpenAI Лиз Буржуа. «Мы были прозрачны с нашими сотрудниками, когда подходили к этой работе, предоставляя регулярные обновления и специальные каналы, где команды могут задавать вопросы и напрямую взаимодействовать с нашей командой национальной безопасности».

Министерство обороны не ответило на запрос WIRED о комментариях.

К январю 2024 года OpenAI обновила свою политику, сняв полный запрет на использование в военных целях. По словам источников, несколько сотрудников OpenAI узнали об обновлении политики из статьи в The Intercept. Позже руководители компании обсудили это изменение на общем собрании, объяснив, как компания будет осторожно действовать в этой области, продвигаясь вперед.

В декабре 2024 года OpenAI объявила о партнерстве с Anduril для разработки и внедрения систем искусственного интеллекта для «миссий национальной безопасности». В преддверии объявления OpenAI сообщила сотрудникам, что партнерство будет узким по своим масштабам и будет заниматься только несекретными рабочими нагрузками, сообщили те же источники. Это контрастировало с соглашением, которое Anthropic подписала с Palantir, согласно которому ИИ Anthropic будет использоваться для секретных военных работ.

Осенью 2024 года компания Palantir обратилась в OpenAI, чтобы обсудить участие в их программе «FedStart», подтвердил WIRED представитель OpenAI. В конечном итоге компания отклонила предложение и заявила сотрудникам, что это было бы слишком рискованно, сообщили WIRED два источника, знакомых с ситуацией. Однако теперь OpenAI работает с Palantir другими способами.

Примерно в то время, когда было объявлено о сделке с Anduril, несколько десятков сотрудников OpenAI присоединились к общедоступному каналу Slack, чтобы обсудить свои опасения по поводу военного партнерства компании, сообщают источники и подтвердил представитель. Некоторые считали, что модели компании слишком ненадежны, чтобы обрабатывать информацию о кредитных картах пользователей, не говоря уже о помощи американцам на поле боя.