Трамп поручил всем федеральным агентствам прекратить использовать технологию искусственного интеллекта Anthropic

Президент США Дональд Трамп заявил в пятницу, что он приказывает всем федеральным агентствам прекратить использование технологий Anthropic после необычно публичного спора компании с Пентагоном по поводу использования искусственного интеллекта для наблюдения и автономного оружия.

Комментарии Трампа прозвучали чуть более чем за час до крайнего срока, установленного Пентагоном для Anthropic, чтобы разрешить неограниченное военное использование своей технологии искусственного интеллекта или столкнуться с последствиями — и почти через 24 часа после того, как генеральный директор Дарио Амодей заявил, что его компания «не может с чистой совестью согласиться» на требования Министерства обороны.

Президент заявил, что большинство агентств должны немедленно прекратить использование антропных технологий, но дал Пентагону шестимесячный период для поэтапного отказа от технологии, которая уже встроена в военные платформы.

«Нам это не нужно, мы этого не хотим и больше не будем иметь с ними дело!» Трамп написал.

Anthropic не сразу ответил на просьбу прокомментировать высказывания Трампа.

В оборонном контракте речь шла о разногласиях по поводу роли искусственного интеллекта в национальной безопасности и опасениях по поводу того, как все более мощные машины могут быть использованы в ситуациях с высокими ставками, связанных со смертоносной силой, конфиденциальной информацией или государственным наблюдением.

Этот шаг, вероятно, пойдет на пользу конкурирующему чат-боту Илона Маска Grok, которому Пентагон планирует предоставить доступ к секретным военным сетям, и может послужить предупреждением двум другим конкурентам, Google и OpenAI, у которых также есть контракты на поставку своих инструментов искусственного интеллекта военным.

Если Amodei не сдвинется с места, военные чиновники заявили, что они не только расторгнут контракт с Anthropic, но и «сочтут их угрозой для цепочки поставок» – определение, которое обычно ставится на иностранных противников, что может подорвать важнейшие партнерские отношения компании с другими предприятиями. Трамп не сделал такого заявления в своем заявлении в пятницу, но сказал, что Anthropic может столкнуться с «серьезными гражданскими и уголовными последствиями», если это не поможет в период поэтапного отказа.

И если бы Амодей сдался, он мог бы потерять доверие к быстро развивающейся индустрии искусственного интеллекта, особенно со стороны лучших специалистов, привлеченных в компанию из-за ее обещаний ответственно создавать искусственный интеллект, который без мер безопасности может представлять катастрофическую опасность.

Anthropic заявила, что запросила у Пентагона узкие гарантии того, что Клод не будет использоваться для массовой слежки за американцами или в полностью автономном оружии, что противоречило бы политике использования компании, которую она проводит для всех пользователей своих технологий.

Но после нескольких месяцев частных переговоров они переросли в публичные дебаты, говорится в заявлении ведомства. Заявление в четверг что новый язык контракта «представлен как компромиссный и сочетался с юридическим языком, который позволял бы игнорировать эти гарантии по своему желанию».

Это произошло после того, как Шон Парнелл, главный представитель Пентагона, опубликовал в социальных сетях, что военные «не заинтересованы в использовании ИИ для проведения массовой слежки за американцами (что незаконно), и мы не хотим использовать ИИ для разработки автономного оружия, действующего без участия человека».

Он подчеркнул, что Пентагон хочет «использовать модель Anthropic для всех законных целей», но он и другие официальные лица не уточнили, как они хотят использовать эту технологию.

Парнелл также заявил, что открытое использование этой технологии не позволит компании «поставить под угрозу критически важные военные операции».

«Мы не позволим НИ ОДНОЙ компании диктовать нам условия принятия операционных решений», — написал Парнелл.

Реакция технологической индустрии

Эмиль Майкл, заместитель министра обороны по исследованиям и инженерным разработкам, позже набросился на Амодея, заявив на X, что у него «комплекс Бога» и что он «не хочет ничего, кроме как попытаться лично контролировать вооруженные силы США, и что он не против подвергать безопасность нашей нации риску».

Это послание не нашло отклика в большей части Кремниевой долины, где все большее число технических работников из главных конкурентов Anthropic, OpenAI и Google, выразили поддержку позиции Amodei поздно вечером в четверг в открытом письме.

OpenAI и Google, а также xAI Илона Маска также имеют контракты на поставку своих моделей ИИ военным.

В пятницу Маск встал на сторону республиканской администрации Трампа, заявив на своей платформе X в социальных сетях, что «Антропик ненавидит западную цивилизацию» после того, как Майкл обратил внимание на предыдущую версию руководящих принципов Клода, которые поощряли «рассмотрение незападных перспектив».

Генеральный директор OpenAI Сэм Альтман в пятницу неожиданно встал на сторону Anthropic и поставил под сомнение «угрожающий» шаг Пентагона в интервью CNBC, предполагая, что OpenAI и большая часть области ИИ разделяют одни и те же красные линии.

Амодей когда-то работал в OpenAI, прежде чем он и другие лидеры OpenAI ушли и основали Anthropic в 2021 году.

«Несмотря на все мои разногласия с Anthropic, я в основном доверяю им как компании и думаю, что они действительно заботятся о безопасности», — сказал Альтман CNBC. «Я был рад, что они поддерживают наших бойцов. Я не уверен, к чему это приведет».