Попытка Пентагона усилить Anthropic вызывает сопротивление и размышления в Кремниевой долине

Битва гиганта искусственного интеллекта Anthropic с Пентагоном вызвала в Кремниевой долине некоторый переоценку ценностей, которая может изменить сложные отношения технологического сектора с войной и Белым домом.

Anthropic — стартап из Сан-Франциско, создающий чат-бота Claude и один из самых мощных ИИ на рынке. В ходе переговоров с военными она потребовала ограничить использование ее технологий.

Военные заявили, что отказались подчиняться корпорации и дали отпор, назвав Anthropic угрозой, сродни вражеской иностранной державе, и блокировка его от некоторых государственных контрактов.

Технологические лидеры незаметно поддержали Anthropic, заявив, что ИИ не готов к некоторым видам оружия и что использование сильных вооружений контрпродуктивно и антидемократично. Президент Трамп назвал Anthropic набором «левых чокнутых работ».

То, как закончится это противостояние, повлияет не только Процветающий бизнес Anthropic но также и то, как технологические гиганты и другие корпорации работают с администрацией, известной своими нападками на участников сопротивления, говорит Алан Розенштейн, доцент юридического факультета Университета Миннесоты.

«С одной стороны, это может привести к тому, что другие государственные поставщики Кремниевой долины станут более сговорчивыми, чтобы с ними не обращались так, как с Anthropic», — сказал он. «С другой стороны, это может привести к тому, что больше компаний вообще будут избегать ведения бизнеса с правительством, чтобы избежать риска, что с ними произойдет что-то подобное».

Поскольку в последние годы некоторые технологические первопроходцы стали более уверенно разрабатывать оружие, Южная Калифорния стала центром стартапов в области оборонных технологий. Имея долгую историю в сфере обороны, она располагает заводами, инженерами и аэрокосмическим опытом, позволяющими превратить венчурное финансирование и военный спрос в оружие, спутники и другие передовые системы.

Последствия противостояния Anthropic с администрацией Трампа помогут определить местных победителей и проигравших в этом секторе в ближайшие годы.

Хотя многие ключевые игроки в сфере технологий неохотно присоединяются к драке на высоком уровне, позиции разных сторон изложены в судебном деле, которое возбудила Anthropic, чтобы выйти из черного списка Пентагона.

антропный подал иск в Окружном суде США в Северном округе Калифорнии и ходатайство о пересмотре в Апелляционном суде США по округу Колумбия 9 марта. Компания просит суд отменить ее определение как «риск цепочки поставок» и помешать администрации Трампа обеспечить соблюдение правительственного запрета на ее технологию.

«Последствия этого дела огромны», — говорится в иске Anthropic. «Федеральное правительство приняло ответные меры против ведущего передового разработчика ИИ за то, что он придерживался своей защищенной точки зрения по вопросу, имеющему большое общественное значение — безопасность ИИ и ограничения собственных моделей ИИ — в нарушение Конституции и законов Соединенных Штатов».

Некоторые из самых больших опасений Anthropic заключаются в том, что ее технология может быть использована для государственного наблюдения или автономного оружия. В своих контрактах она просила предоставить гарантии того, что ее ИИ не будет использоваться для этих целей. Хотя правительство заявило, что не будет использовать эту технологию для этих целей, оно не смогло предоставить Anthropic желаемые гарантии.

Промышленные группы технологических компаний, Microsoft и сотрудники Google и OpenAI поддержали Anthropic в ее юридической борьбе против администрации Трампа, добавив к этому делу свои собственные взгляды.

Во вторник адвокаты правительства США заявили в судебном документе, что министерство обороны начало задаваться вопросом, можно ли доверять Anthropic.

«Anthropic может попытаться отключить свою технологию или упреждающе изменить поведение своей модели до или во время текущих боевых действий, если Anthropic — по своему усмотрению — почувствует, что ее корпоративные «красные линии» пересекаются», — говорится в заявлении правительства.

Министерство обороны и Anthropic отказались от комментариев.

Технологическая индустрия имеет долгую и сложную историю сотрудничества с военными. В 1960-х годах Министерство обороны разработало предшественника Интернета, ARPAnet, для обеспечения безопасности военных и правительственных компьютеров.

На протяжении большей части этого столетия крупные технологические компании, а также их инвесторы часто пытались избегать разработки или продвижения вещей, которые помогали шпионить за людьми или убивать их. Компания Google, когда-то известная своим девизом «Не будь злом», не продлила скандальный контракт Пентагона Project Maven в 2018 году после того, как тысячи сотрудников протестовали из-за опасений, что ИИ будет использоваться для анализа записей наблюдения с дронов.

Ситуация изменилась в последние годы, поскольку теперь можно заработать больше денег на технических решениях военных проблем.

Бенджамин Лоуренс, старший ведущий аналитик CB Insights, сказал, что достижения в области искусственного интеллекта и крупные события, такие как вторжение России в Украину в 2022 году, способствовали росту венчурных инвестиций в оборонные технологии.

«Это вызвало огромный сдвиг: многие традиционные инвесторы стали смотреть на оборонные технологии в более позитивном свете, потому что у нас есть суверенная демократическая нация, подвергшаяся вторжению», — сказал он.

Самые влиятельные технологические компании мира сотрудничают с оборонными технологическими стартапами и получают государственные контракты.

Google предлагает инструменты искусственного интеллекта гражданским и военным для выполнения несекретной работы. Министерство обороны также заключило контракт на 200 миллионов долларов с Google Public Sector, подразделением, которое работает с правительственными учреждениями и образовательными учреждениями, на ускорение развития искусственного интеллекта и облачных технологий.

Приверженность отрасли Белому дому и его военным амбициям укрепилась с приходом второй администрации Трампа. Многие топ-менеджеры мира технологий поддерживали Трампа и давали ему советы.

Однако недавнее применение силы к одному из идейных лидеров революции искусственного интеллекта заставило многих задуматься. Отчасти сопротивление отражает прежнюю эпоху, когда технологическая индустрия с подозрением относилась к тому, как правительства будут использовать ее инновации.

Технологическая индустрия оказалась в сложной ситуации после столкновений Anthropic с Пентагоном. В конце февраля общественная вражда обострилась после того, как Трамп раскритиковал Anthropic и приказал правительственным учреждениям прекратить использование ее технологий. Его администрация назвала Anthropic «риском цепочки поставок», что побудило компанию подать в суд.

Согласно иску Anthropic, действия Трампа могут поставить под угрозу контракты на сотни миллионов долларов, которые он заключил с частными лицами. Федеральные агентства начали расторгать контракты.

На прошлой неделе группы технологических компаний, такие как TechNet, в состав которых входят Anthropic, Meta, OpenAI, Nvidia, Google и другие крупные компании, заявили в отчете amicus, что внесение американской компании в черный список «порождает неопределенность во всей отрасли».

«Отношение к американской технологической компании как к иностранному противнику, а не как к активу, оказывает сдерживающее воздействие на инновации в США и еще больше поощряет усилия Китая по экспорту собственных поддерживаемых правительством технологий искусственного интеллекта», — говорится в сообщении.

Microsoft также поддержала Anthropic, призвав суд временно запретить Трампу вносить компанию, занимающуюся искусственным интеллектом, в черный список. Маркировка Anthropic как риска цепочки поставок означает, что Microsoft и другим государственным поставщикам придется использовать «значительные ресурсы», чтобы определить, как исключение Anthropic повлияет на их контракты.

Правительство США заявило в своем заявлении, что его обеспокоенность по поводу Anthropic сосредоточена на его поведении и не связана с его выступлениями. Но Anthropic и представители технологической отрасли заявляют, что этот шаг нанесет ущерб их бизнесу.

В дополнение к резкой критике компании Трампом министр обороны Пит Хегсет обвинил Anthropic в проведении «мастер-класса по высокомерию и предательству».

Основатель Anduril Палмер Лаки поддержал позицию Пентагона, заявив, что военные решения должны принимать выборные должностные лица, а не руководители корпораций. Anthropic в ответ заявила в своем блоге, что «понимает, что военные решения принимает военное министерство, а не частные компании».

По мере того, как эта битва разворачивается, некоторые эксперты говорят, что Anthropic, вероятно, одержит верх в суде.

В своем иске Anthropic заявила, что администрация Трампа нарушила закон, назвав компанию рискованной для цепочки поставок, отметив, что она не имеет связей с «противником» США, таким как Китай или Иран.

Anthropic также заявила, что администрация Трампа приняла ответные меры против компании за ее выступления и другую защищенную деятельность, нарушив Первую поправку.

«Они просто набрасываются», — сказал Розенштейн с юридического факультета Университета Миннесоты. «Я думаю, это многое из того, что это такое».