Антропный | Дилемма безопасности – The Hindu

Весь последний год компания Anthropic пыталась попасть в неловкое положение: достаточно близко к аппарату национальной безопасности США, чтобы к ней относились как к приграничному поставщику, но достаточно далеко, чтобы не обжечься. В ходе одной из демонстраций этой репутационной йоги выяснилось, что операция США по похитить президента Венесуэлы Николаса Мадуро 3 января использовал модель искусственного интеллекта Anthropic Claude.

Совсем недавно Anthropic вступил в конфликт с Пентагоном по поводу мер безопасности, направленных на предотвращение полностью автономного нацеливания оружия и внутреннего наблюдения в США. Хотя Anthropic утверждает, что это не подлежащие обсуждению ограничения, Пентагон считает, что коммерческий ИИ должен быть доступен «для всех законных целей». Совсем недавно Пентагон рассматривал возможность присвоить Anthropic «риск цепочки поставок» — ярлык, который может заставить подрядчиков подтвердить, что они не используют Claude.

Почему Anthropic оказалась в такой ситуации?

В 2025 году компания публично заявила о расширении своего присутствия в сфере обороны, объявив о соглашение с Министерством обороны США на сумму 200 миллионов долларов. Это был знак того, что Anthropic хотела стать лабораторией, которая скажет «да» национальной безопасности, продолжая при этом действовать в рамках ограничений, и при этом поддерживать общественную репутацию компании, являющейся частью военной машины. Anthropic также пытается позиционировать себя как компанию, занимающуюся повышением производительности предприятия, а не просто лабораторию с чат-ботом. Например, партнерство с Infosys объединит его модели с фирмой, которая уже продает услуги по обеспечению соответствия и управления отраслям, которые жестко регулируются.

Две амбиции

Причина такой привязки заключается в том, что компания, которая может заявлять, что работает безопасно в условиях правительства с жесткими требованиями безопасности, также может вполне обоснованно продавать себя банкам, производителям и телекоммуникационным компаниям. То есть правительствам Anthropic говорит: «Мы поможем демократическим государствам сохранить технологическое преимущество, но мы не согласимся с такими вариантами развертывания, как автономное нацеливание или обширное внутреннее наблюдение». В результате компания может сказать предприятиям: «Мы можем внедрить передовой искусственный интеллект в средах со строгими требованиями соответствия».

К сожалению, эти две амбиции с тех пор столкнулись. Anthropic, похоже, считает, что уступка в отношении автономного нацеливания и внутреннего наблюдения разрушит линию, которую она пыталась провести с другими приграничными лабораториями и участниками рынка, которые также обхаживают оборонных заказчиков.

Пентагон, однако, похоже, дает понять, что моральные угрызения совести его поставщиков не имеют значения, особенно когда поставщики входят в цепочку поставок оборонной продукции.

Уровень корпоративной автоматизации — то есть системы кодирования и агентные системы, которые позволяют Claude напрямую встраиваться в рабочие процессы, а не хранить его в качестве чат-бота, который предприятия используют от случая к случаю, — по-прежнему остается одним из основных направлений деятельности Anthropic. И компания также пытается представить функции безопасности своих моделей как преимущество, поскольку ее логика, похоже, заключается в том, что регулирующие органы и предприятия будут отдавать предпочтение этим моделям, даже когда конкуренты разработают более мощные альтернативы. Но это также означает, что если Anthropic уступит требованию Пентагона, он может потерять свою фирменную дифференциацию, тогда как если он откажется, Пентагон может подать этому пример.

Дело в том, что, хотя Антропик может попытаться контролировать использование Клода, его контроль ослабнет, как только Клод покинет здание. Anthropic может сказать «вы не можете использовать Claude for x» в условиях обслуживания или обучить модель отклонять определенные запросы, но даже в этом случае крупные клиенты редко используют модель ИИ в качестве автономного чат-бота. Вместо этого они получают доступ к нему через облачные платформы, встраивают его в программные инструменты, например, для анализа данных и автоматизации, и адаптируют его для конкретных задач. Другими словами, клиенты могут обойти условия обслуживания, а вопрос о соучастии Anthropic все еще остается.

В этом смысле недавние решения Anthropic, вероятно, последовательны. Можно сделать ставку на то, что рынок, нервничающий по поводу ИИ (например, правительства, беспокоящиеся о противниках, или предприятия, обеспокоенные ответственностью), будут платить больше за разработчика, который сможет как развернуть, так и сдержать. И спор с Пентагоном — это первая крупная демонстрация того, чего будет стоить Anthropic сделать и то, и другое одновременно.