OpenAI будет работать с Пентагоном после того, как Трамп отказался от Anthropic из-за проблем этики компании | ОпенАИ

OpenAI заявила, что заключила сделку с Пентагоном на поставку ИИ для секретных военных сетей США, спустя несколько часов после того, как Дональд Трамп приказал правительству прекратить пользоваться услугами одного из главных конкурентов компании.

Сэм Альтман, генеральный директор OpenAI, объявил об этом шаге в пятницу вечером. Это произошло после того, как соглашение между Anthropic, конкурирующей компанией по искусственному интеллекту, которая управляет системой Клода, и администрацией Трампа рухнуло после того, как Anthropic потребовала гарантий, что ее технология не будет использоваться для массового наблюдения, а также для автономных систем оружия, которые могут убивать людей без участия человека.

Объявляя о сделке, Альтман настаивал на том, что соглашение OpenAI с правительством включает гарантии того, что оно не будет использоваться в этих целях.

«Два наших важнейших принципа безопасности — это запрет на массовое наблюдение внутри страны и ответственность человека за применение силы, в том числе для автономных систем вооружения», — написал Альтман на X. Он добавил, что Пентагон «согласен с этими принципами, отражает их в законах и политике, и мы включаем их в наше соглашение».

Альтман также выразил надежду, что Пентагон «предложит такие же условия всем компаниям, занимающимся искусственным интеллектом», как способ «отойти от юридических и правительственных действий и перейти к разумным соглашениям».

Если соглашение OpenAI действительно запрещает использование ее систем в неэтичных целях, то, похоже, компании удалось получить гарантии там, где Anthropic не смогла. Альтман объявил о сделке с правительством вскоре после того, как президент заявил, что прикажет всем федеральным агентствам «НЕМЕДЛЕННО ПРЕКРАТИТЬ» любое использование антропных технологий.

Пентагон потребовал от Anthropic ослабить этические принципы в отношении своих систем искусственного интеллекта, иначе им грозят серьезные последствия.

Трамп заявил на своей платформе «Социальная правда»: «Левые психопаты в Anthropic совершили катастрофическую ошибку, пытаясь СИЛЬНО РУКИТЬ [Pentagon]и заставить их подчиняться своим Условиям обслуживания, а не нашей Конституции».

Еще неизвестно, как сотрудники OpenAI отреагируют на правительственную сделку. В борьбе с администрацией Трампа Anthropic заручилась поддержкой своих самых яростных соперников. Около 500 сотрудников OpenAI и Google подписались под открытым письмом, в котором говорилось: «Мы не будем разделены».

«Пентагон ведет переговоры с Google и OpenAI, чтобы попытаться заставить их согласиться на то, от чего Anthropic отказалась», — говорится в письме. «Они пытаются разделить каждую компанию, опасаясь, что другая сдастся».

Альтман попытался успокоить сотрудников OpenAI в памятке, отправленной в пятницу вечером.

«Независимо от того, как мы сюда попали, это уже не просто проблема между Anthropic и [Pentagon]; это проблема всей отрасли, и важно прояснить нашу позицию», — написал Альтман в записке, которую получил Axios.

“Мы давно считали, что ИИ не следует использовать для массового наблюдения или автономного летального оружия, и что люди должны оставаться в курсе автоматизированных решений с высокими ставками. Это наши основные красные линии”.

Альтман добавил: «Мы посмотрим, будет ли заключена сделка с [Pentagon] это позволяет использовать наши модели в секретных средах и соответствует нашим принципам. Мы хотели бы попросить, чтобы контракт охватывал любое использование, кроме тех, которые являются незаконными или неподходящими для облачных развертываний, таких как домашнее наблюдение и автономное наступательное оружие».

Anthropic, которая позиционирует себя как наиболее уверенная в безопасности из ведущих компаний в области искусственного интеллекта, увязла в многомесячных разногласиях с Пентагоном. Представители Министерства обороны США настаивали на беспрепятственном доступе к возможностям Клода, которые, по их словам, могут помочь защитить страну. Между тем, Anthropic сопротивляется использованию своего продукта для массового наблюдения или систем вооружения, которые могут убивать людей автономно.

«Никаких запугиваний и наказаний со стороны [Pentagon] изменит нашу позицию в отношении массового внутреннего наблюдения или полностью автономного оружия», — говорится в заявлении Anthropic в пятницу вечером.

«Мы добросовестно пытались достичь соглашения с [Pentagon]«Насколько нам известно, эти исключения на сегодняшний день не затронули ни одну правительственную миссию», — продолжила компания.

OpenAI в пятницу заявила, что привлекает $110 млрд в рамках раунда финансирования, который оценивает компанию в $840 млрд.