Как на самом деле выглядят модели искусственного интеллекта для войны

Антропный может иметь опасения по поводу предоставления американским военным беспрепятственного доступа к своим моделям искусственного интеллекта, но некоторые стартапы создают продвинутый искусственный интеллект специально для военных приложений.

Смэк Технологиикоторая объявила на этой неделе о раунде финансирования в размере 32 миллионов долларов, разрабатывает модели, которые, по ее словам, вскоре превзойдут возможности Клода, когда дело доходит до планирования и проведения военных операций. И, в отличие от Anthropic, стартап, похоже, меньше озабочен запретом конкретных видов военного использования.

«Когда вы служите в армии, вы даете клятву, что будете служить честно, законно и в соответствии с правилами войны», — говорит генеральный директор Энди Маркофф. «На мой взгляд, люди, которые внедряют технологию и следят за ее этичностью, должны носить униформу».

Маркофф вряд ли можно назвать обычным руководителем ИИ. Бывший командующий Командованием специальных операций морской пехоты США, он помогал проводить важные операции спецназа в Ираке и Афганистане. Он основал Smack вместе с Клинтом Аланисом, еще одним бывшим морским пехотинцем, и Дэном Гулдом, ученым-компьютерщиком, который ранее работал вице-президентом по технологиям в Tinder.

Модели Смэка учатся определять оптимальные планы миссий методом проб и ошибок. аналогично тому, как Google обучал свою программу AlphaGo в 2017 году. В случае Smack стратегия включает в себя прогон модели через различные сценарии военных игр и подачу экспертами-аналитиками сигнала, сообщающего модели, окупится ли выбранная ею стратегия. По словам Маркоффа, у стартапа, возможно, нет бюджета обычной передовой лаборатории искусственного интеллекта, но он тратит миллионы на обучение своих первых моделей искусственного интеллекта.

Боевые линии

Военное использование искусственного интеллекта стало горячей темой в Кремниевой долине после того, как чиновники Министерства обороны столкнулся лицом к лицу с руководителями Anthropic по условиям контракта на сумму около 200 миллионов долларов.

Одна из проблем, которая привела к срыву, в результате которого министр обороны Пит Хегсет объявил антропную риск цепочки поставокзаключалось в желании Anthropic ограничить использование своих моделей в автономном оружии.

Маркофф говорит, что этот фурор затмевает тот факт, что сегодняшние большие языковые модели не оптимизированы для использования в военных целях. По его словам, модели общего назначения, такие как Claude, хорошо подходят для обобщения отчетов. Но они не обучены работе с военными данными и не имеют понимания физического мира на человеческом уровне, что делает их плохо подходящими для управления физическим оборудованием. «Я могу вам сказать, что они абсолютно не способны идентифицировать цель», — утверждает Маркофф.

«Никто, насколько мне известно, в военном министерстве не говорит о полной автоматизации цепочки убийств», — утверждает он, имея в виду этапы принятия решений о применении смертоносной силы.

Объем миссии

США и другие военные уже используют автономное оружие в определенных ситуациях, в том числе в системах противоракетной обороны, которые должны реагировать со сверхчеловеческой скоростью.

«США и более 30 других государств уже развертывают системы вооружений с различной степенью автономии, включая те, которые я бы назвала полностью автономными», — утверждает Ребекка Крутоф, специалист по правовым вопросам, связанным с автономным оружием, в Юридический факультет Ричмондского университета.

По словам Маркоффа, в будущем специализированные модели, подобные той, над которой работает Smack, можно будет использовать и для целей планирования миссий. Модели компании призваны помочь командирам автоматизировать большую часть рутинной работы по составлению планов миссий. По словам Маркоффа, планирование военных миссий по-прежнему обычно осуществляется вручную с помощью досок и блокнотов.

Если США вступят в войну с «близким соперником», таким как Россия или Китай, говорит Маркофф, автоматизированное принятие решений может предложить США столь необходимое «доминирование в принятии решений».

Но вопрос о том, можно ли надежно использовать ИИ в таких обстоятельствах, остается открытым. Один недавний эксперимент, проведенный исследователем из Королевского колледжа Лондона, с тревогой показал, что степень магистра права имел тенденцию к эскалации ядерные конфликты в военных играх.