Что стоит за столкновением между Anthropic и Пентагоном

AGI – Ситуация становится все более напряженной армрестлинг Между антропныйодна из ведущих компаний искусственный интеллект в Соединенных Штатах и Пентагон навоенное использование своих моделей, в частности для приложений, которые могут подпадать под сферу применения летальное автономное оружие е масштабное наблюдение. В центре спора, как сообщает газета «Вашингтон Пост», также находится противоречивая история конфронтации, имевшей место в последние недели по экстремальному сценарию: возможность ядерная атака против США и использования чат-бот Клод помочь перехватить межконтинентальная баллистическая ракета.

По словам представителя министерства обороны, которого цитирует газета, технический руководитель Пентагона вернул дебаты к прямому вопросу: если межконтинентальная баллистическая ракета будет запущена против США, смогут ли вооруженные силы использовать Клода, чтобы помочь сбить ее? Ответ приписывают генеральному директору Anthropic, Дарио Амодейвызвало бы раздражение военачальников: «Вы можете позвонить нам, и мы будем работать вместе», – по сути сказал бы он, согласно реконструкции источника. Anthropic, однако, отрицает, что Амодей когда-либо реагировал подобным образом.

Версия Anthropic

Представитель компании назвал эту информацию «явно ложной» и заявил, что компания согласна с тем, что Клод может быть нанят для работы. противоракетная оборона. Факт остается фактом: опять-таки согласно официальным источникам, этот эпизод – вместе с другим случаем, приведенным Пентагоном, касающимся использования Клода в операции, связанной с захватом венесуэльского лидера Николаса Мадуро – стал бы одним из переломных моментов в одной столкновение теперь открыто политическое и институциональное.

Ситуация еще больше обострилась после личной встречи Амодеи и министра обороны Пита Хегсета. В этот момент, как утверждает газета Washington Post, стороны начали бы дискуссию о том, за кем останется последнее слово: правительствокоторый требует свободы труда для «всех законные цели“, или частный поставщиккоторый он вызывает договорные ограничения е “красные линии“этический.

Пентагон установил ультиматум: У Anthropic есть время до 17:01 сегодняшнего дня, чтобы отозвать свои возражения против использования Клода в отношении автономное оружие и к формам массовое наблюдение на граждан США. В противном случае, по мнению чиновников, которых цитирует газета, администрация могла бы оценить использование полномочия правительства в любом случае заставить компанию поставить технологию, даже исключив ее из будущих планов контракты с Министерством обороны.

Главный представитель Пентагона Шон Парнелл написал в X, что министерство «не заинтересовано» в проведении массового внутреннего наблюдения или развертывании автономного оружия, но намерено использоватьЯ для «всех законных целей». «Это простой и разумный запрос, который не позволит Anthropic подвергнуть вас риску. критические военные операции и, возможно, наших мужчин и женщин в военной форме», — добавил он. В заявлении, опубликованном поздно вечером во вторник, Amodei ответил, что Anthropic готова продолжать работать с Defense, но не намерена менять свою позицию. По его мнению, нынешняя системы искусственного интеллекта они не были бы достаточно надежными для питания роботизированное вооружение без увеличения риска для войска и гражданские лица. А существующие правила внутреннего наблюдения не будут учитывать новые возможности «слежения», которые сделает возможным ИИ. «В узком кругу случаев мы считаем, что ИИ может ослаблять, а не защищать, т.е. демократические ценности— сказал он, утверждая, что два конкретных варианта использования «никогда не были включены в наши контракты с Министерством обороны» и «не должны быть включены сейчас».

Роль и конкуренция Anthropic в отрасли

антропный был первым великим»лаборатория искусственного интеллекта“подписать договор на работу секретные военные сетив конце 2024 года, но его позиции постепенно снижались, в то время как конкуренты, такие как Google, ОпенАИ е xAI отношения с Министерством обороны активизировались. По словам официальных лиц, на которых цитируется газета, другие компании согласились с пунктом о «законных целях», по крайней мере, для несекретной работы, а xAI также подписалась на секретные системы. Сравнение, отмечают аналитики, может оказать влияние долгосрочное воздействие об отношениях между ИИ-индустрия е Американский военный аппарат: риск для многих компаний заключается в том, что сотрудничество с Пентагоном означает потерю контроля над собственными силами. инновации.

Спор по поводу обмена технологиями и репутации

Особенно спорным моментом является перспектива, поднятая некоторыми должностными лицами, прибегнуть к Закон об оборонном производстве навязать обмен технологиями: гипотеза, по поводу которой эксперты разделились как по ее применимости, так и по ее влиянию на рынок. Тем временем спор тоже стал одним столкновение репутации. Эмиль Майкл, заместитель министра обороны по исследованиям и разработкам, который будет играть ведущую роль в переговорах, утверждал, по словам источника, цитируемого Washington Post, что окончательное решение об использовании должно быть принято на усмотрение правительствоа не отдельным компаниям. Ночью Михаил напал на Амодея на X, обвинив его в «комплексе Бога» и в желании «лично контролировать» армию, поставив национальная безопасность в опасности.

Дебаты «человек в курсе» и будущее военного ИИ

Что касается гарантий, то Пентагон еще раз подчеркнул, что «политикой Департамента остается» поддерживать « человек в цепи“всех решений, касающихся использования ядерное оружие и что «не рассматривается» доверить этот выборЯ. Но, как напоминают нам эксперты по стратегии, даже система, которая не принимает решений, может быстро повлиять на ситуацию. оценки, приоритет е время ответа. И это именно то, что это такое. серое пространство – Между поддержка принятия решений е автоматизация – это играется Столкновение между Anthropic и Пентагоном.