Безопасность ИИ и военная машина

Когда Антропный в прошлом году стал первым крупным Компания ИИ одобренная правительством США для секретного использования, в том числе для военного применения, эта новость не произвела большого резонанса. Но на этой неделе второе событие ударило как пушечное ядро: Пентагон пересматривая свои отношения с компанией, включая контракт на 200 миллионов долларов, якобы потому, что заботящаяся о безопасности фирма, занимающаяся искусственным интеллектом, возражает против участия в некоторых смертоносных операциях. Так называемое Министерство войны могло бы даже обозначить Anthropic как «риск цепочки поставок». Эта алая буква обычно предназначена для компаний, которые ведут бизнес со странами, контролируемыми федеральными агентствами, такими как Китай. Это означает, что Пентагон не будет вести бизнес с фирмами, использующими ИИ Anthropic в своей оборонной работе. В заявлении для WIRED главный представитель Пентагона Шон Парнелл подтвердил, что Anthropic находится в центре внимания. “Наша страна требует, чтобы наши партнеры были готовы помочь нашим бойцам победить в любой битве. В конечном счете, речь идет о наших войсках и безопасности американского народа”, – сказал он. Это послание и другим компаниям: OpenAI, xAI и Google, которые в настоящее время есть Министерство обороны контракты на несекретную работу, преодолевают необходимые препятствия, чтобы получить свои собственные высокие разрешения.

Здесь есть что распаковать. Во-первых, возникает вопрос, наказывают ли Anthropic за жалобы на то, что ее модель искусственного интеллекта Claude использовалась в рамках рейда по свержению президента Венесуэлы Николаса Мадуро (это о чем сообщается; компания это отрицает). Также существует тот факт, что Anthropic публично поддерживает регулирование ИИ — позиция, выдающаяся в отрасли и противоречащая политике администрации. Но есть более серьезная и тревожная проблема. Сделают ли правительственные требования использования ИИ в военных целях менее безопасным сам по себе?

Исследователи и руководители считают, что искусственный интеллект — самая мощная технология, когда-либо изобретенная. Практически все нынешние компании, занимающиеся искусственным интеллектом, были основаны на предпосылке, что можно достичь AGI, или сверхразума, таким образом, чтобы предотвратить широкомасштабный ущерб. Илон Маск, основатель xAI, когда-то был ярым сторонником обуздания искусственного интеллекта — он стал соучредителем OpenAI, потому что боялся, что технология слишком опасна, чтобы ее можно было оставлять в руках компаний, стремящихся к прибыли.

Компания Anthropic выделила это пространство как самое безопасное из всех. Миссия компании состоит в том, чтобы в их модели были настолько глубоко интегрированы защитные ограждения, чтобы злоумышленники не могли использовать самый темный потенциал ИИ. Айзек Азимов сказал это первым и лучшим в своей книге. законы робототехники: Робот не может причинить вред человеку или своим бездействием допустить причинение вреда человеку. Даже когда ИИ станет умнее любого человека на Земле (в эту возможность горячо верят лидеры ИИ), эти ограждения должны выдержать.

Поэтому кажется противоречивым то, что ведущие лаборатории искусственного интеллекта изо всех сил пытаются внедрить свою продукцию в передовые военные и разведывательные операции. Будучи первой крупной лабораторией с секретным контрактом, Anthropic предоставляет правительству «Индивидуальный набор моделей Клода Гова, созданный исключительно для клиентов национальной безопасности США». Тем не менее, Anthropic заявила, что сделала это, не нарушив собственных стандартов безопасности, включая запрет на использование Claude для производства или разработки оружия. Генеральный директор Anthropic Дарио Амодей специально сказал он не хочет, чтобы Клод участвовал в автономном оружии или правительственном надзоре за искусственным интеллектом. Но это может не сработать с нынешней администрацией. Технический директор Министерства обороны Эмиль Майкл (бывший коммерческий директор Uber) рассказал журналистам на этой неделе что правительство не потерпит, чтобы компания, занимающаяся искусственным интеллектом, ограничивала использование ИИ военными в своем оружии. “Если с военной базы вылетает рой дронов, каковы ваши варианты его уничтожения? Если время реакции человека недостаточно быстрое… как вы собираетесь это сделать?” — риторически спросил он. Вот вам и первый закон робототехники.

Есть веский аргумент в пользу того, что эффективная национальная безопасность требует лучших технологий от самых инновационных компаний. Хотя еще несколько лет назад некоторые технологические компании отказывались сотрудничать с Пентагоном, в 2026 году они, как правило, размахивают флагами потенциальных военных подрядчиков. Я еще не слышал, чтобы кто-либо из руководителей ИИ говорил о том, что их модели связаны со смертоносной силой, но генеральный директор Palantir Алекс Карп не стесняется говоритьс явной гордостью: «Иногда наш продукт используется для убийства людей».