Крайний срок в борьбе за искусственный интеллект между Anthropic и Пентагоном приближается: –

Пентагон возглавляет для разборок с Anthropicодной из самых влиятельных в мире компаний, занимающихся искусственным интеллектом, по поводу использования ее модели искусственного интеллекта в военных целях после того, как генеральный директор Anthropic отклонил ультиматум Министерства обороны о том, чтобы компания ослабила ограничения безопасности или была занесена в черный список для участия в прибыльной военной работе.

На кону сотни миллионов долларов контрактов и доступ к некоторым из самых передовых инструментов искусственного интеллекта на планете. Вот что нужно знать о драке и возможных последствиях.

Пентагон и Anthropic не пришли к единому мнению относительно того, как следует использовать ИИ в войне.

В течение нескольких месяцев генеральный директор Anthropic Дарио Амодей настаивал что модель искусственного интеллекта Anthropic, Клод, не должна использоваться для массового наблюдения в США или для питания полностью автономного оружия, такого как дрон, который использует искусственный интеллект для уничтожения целей без одобрения человека. Он назвал такое использование «совершенно незаконным» и заявил, что для компании это «яркая красная линия».

Пентагон заявляет, что не намерен использовать инструменты Anthropic для наблюдения или автономное оружие. Но в нем говорится, что такой подрядчик, как Anthropic, не вправе принимать решения о том, как будет использоваться его технология, и заявляет, что компании, занимающиеся искусственным интеллектом, включая Anthropic, должны разрешить правительству США использовать их инструменты «для всех законных целей».

«Законность — это ответственность Пентагона как конечного пользователя», — заявил на этой неделе – высокопоставленный чиновник Пентагона, отказавшийся назвать свое имя.

В четверг Амодей заявил, что Anthropic не может принять последние изменения Пентагона в условиях своего контракта.

«Я глубоко верю в экзистенциальную важность использования ИИ для защиты Соединенных Штатов и других демократий, а также для победы над нашими автократическими противниками», — написал генеральный директор в длинном письме. заявление о тупике. «Anthropic понимает, что военные решения принимает военное министерство, а не частные компании. Мы никогда не возражали против конкретных военных операций и не пытались ограничить использование наших технологий в для этого образом”, – сказал он.

«Однако в узком кругу случаев мы считаем, что ИИ может подорвать, а не защитить демократические ценности», — продолжил Амодей. Он охарактеризовал отечественную массовую слежку и полностью автономное оружие как применение, которое «просто выходит за рамки того, что сегодняшние технологии могут безопасно и надежно делать». Эти виды использования «никогда не были включены в наши контракты с военным министерством, и мы считаем, что их не следует включать сейчас», добавил он.

Отказ Амодеи произошел на фоне того, что отношения Anthropic с Пентагоном становятся все более ожесточенными. На встрече министра обороны Пита Хегсета и Амодеи во вторник Хегсет пригрозил наказать компанию, если она не подчинится требованиям администрации, по словам двух человек, непосредственно знакомых с ходом встречи и не уполномоченных выступать публично.

Один человек, близкий к обсуждению, сказал, что Хегсет рассматривает возможность расторжения контракта Anthropic с Министерством обороны на сумму 200 миллионов долларов, в то время как представитель Пентагона заявил, что последствия могут включать в себя принуждение Anthropic разрешить федеральному правительству использовать свою модель искусственного интеллекта против его воли и фактическое занесение Anthropic в черный список от сотрудничества с вооруженными силами США.

“Эти угрозы не меняют нашей позиции: мы не можем с чистой совестью удовлетворить их просьбу”, – написал Амодей в четверг. «Но, учитывая значительную ценность, которую технология Anthropic предоставляет нашим вооруженным силам, мы надеемся, что они пересмотрят свое решение».

Пентагон поставил Anthropic жесткие сроки

В сообщении на X в четверг официальный представитель Пентагона Шон Парнелл предупредил, что у Anthropic есть время до полудня пятницы, прежде чем Пентагон примет меры.

«У них есть время до 17:01 по восточному времени в пятницу, чтобы принять решение. В противном случае мы прекратим наше партнерство с Anthropic и сочтем их риском для цепочки поставок для DOW». Парнелл написалиспользуя Пентагон ребрендинг Акроним «Военное ведомство».

В четверг Anthropic заявила, что Пентагон накануне вечером направил компании новые формулировки контракта, которые, по мнению компании, «практически не привели к прогрессу в предотвращении использования Клода для массового наблюдения за американцами или в полностью автономном оружии».

В заявлении далее говорится: «Новые формулировки, сформулированные как компромисс, были дополнены юридическими формулировками, которые позволили бы игнорировать эти гарантии по своему желанию. Несмотря на недавние публичные заявления DOW, эти узкие гарантии были сутью наших переговоров в течение нескольких месяцев».

Anthropic заявила, что готова продолжить переговоры и «привержена обеспечению непрерывности деятельности Министерства и американских военных».

Что такое «риск цепочки поставок»?

По мнению Джеффри Герца, старшего научного сотрудника Центра новой американской безопасности, считать антропным риск в цепочке поставок было бы необычно. По его словам, это обозначение «традиционно использовалось для иностранных технологий противника», таких как китайская телекоммуникационная компания. Хуавей.

Пока неясно, насколько далеко идущим будет решение Пентагона. Это может означать, что другим подрядчикам Пентагона будет запрещено использовать инструменты Anthropic в своей работе на Пентагон, или это может вообще запретить им использовать инструменты Anthropic. По словам Герца, второй случай нанесет компании особенно серьезный ущерб.

В то же время Пентагон пригрозил применить Закон об оборонном производстве, чтобы заставить Anthropic убрать ограждения. По словам Герца, это тоже было бы экстраординарным шагом. Закон об оборонном производстве призван предоставить правительству контроль над некоторыми коммерческими секторами в чрезвычайных обстоятельствах. Он «традиционно очень редко вызывается в реальных чрезвычайных кризисных ситуациях», сказал он. Целью в этом случае, по-видимому, будет использование закона, чтобы заставить Anthropic ослабить ограничения на использование своих инструментов искусственного интеллекта.

Герц отметил, что эти две угрозы против Anthropic кажутся несколько противоречивыми: «Это забавная смесь, в которой они оба представляют собой такой риск, что их нужно выгнать из всех систем, и настолько существенный, что их нужно заставить стать частью системы, несмотря ни на что», — сказал он.

Что бы ни случилось в конце сегодняшнего дня, эта битва, вероятно, еще далека от завершения.

Контракт Пентагона с Anthropic стоит целых 200 миллионов долларов, что составляет относительно небольшую часть доходов компании. Выручка 14 миллиардов долларов. Хотя у Пентагона есть аналогичные контракты с другими компаниями, занимающимися искусственным интеллектом, включая Google, OpenAI и xAI, Anthropic была первой компанией, получившей разрешение на секретное использование после того, как представители министерства обороны сочли ее наиболее продвинутой и безопасной моделью для чувствительных военных приложений.

Если бы контракт был просто расторгнут, на этом бы ему и пришел конец, сказал Герц. Но если Пентагон либо попытается заставить Anthropic убрать свои ограждения, либо нанесет ему более широкую оценку риска цепочки поставок, то компании почти наверняка придется дать отпор, предсказывает он.

“Конечно, если Пентагон попытается обострить ситуацию, – сказал Герц, – я подозреваю, что мы увидим больше юридических баталий”.

Бобби Аллин из – внес свой вклад в подготовку этого отчета.