Что означает вражда американских военных с Anthropic для ИИ, используемого в войне? | ИИ (искусственный интеллект)

Апродолжающаяся борьба nthropic с Министерством обороны по поводу того, что ограничения безопасности оно может надеть свое искусственный интеллект Модели захватили технологическую индустрию, став проверкой того, как ИИ может использоваться в войне, и способности правительства принуждать компании выполнять его требования.

Переговоры вращались вокруг отказа Anthropic разрешить федеральному правительству используйте свой Клод ИИ для внутреннего массового наблюдения или автономных систем вооружения, но этот спор также отражает беспорядочный характер того, что происходит, когда технологические компании интегрируют свою продукцию в конфликт. Пентагон на этой неделе объявил Anthropic риском для цепочки поставок из-за отказа согласиться на условия правительства, в то время как Anthropic пообещал оспорить это определение в суде.

The Guardian поговорила с Сарой Крепс, профессором и директором Института технической политики Корнелльского университета, ранее служившей в ВВС США, о том, как развивалась вражда.

Вы работали некоторое время на проблемы вокруг «технологий двойного назначения»Что происходит, когда появляется потребительская технология, которая также используется в секретных или военных целях?

Я много думал об этом, потому что служил в армии и был на стороне военных, которые разрабатывали и приобретали новые технологии. Нас всегда критиковали по поводу того, почему это занимает так много времени, и теперь, наблюдая за происходящим, я понимаю, почему это занимает так много времени.

То, что вы бы разработали для секретных и военных контекстов, сильно отличается от того, для чего разработал Anthropic, когда я использую Claude. Проблема для военных заключается в том, что эти технологии настолько полезны, что они не могут дождаться появления версии военного уровня. Им необходимо действовать быстро из-за того, насколько ценны эти инструменты, но неудивительно, что они столкнулись с культурными различиями не только между платформой ИИ и военными, но и платформой ИИ, которая пыталась создать репутацию более заботящейся о безопасности.

Один Элементом этой вражды является то, что Anthropic позиционирует себя как компания, ориентированная на безопасность, но затем она подписала контракт договор с военными.

Да, в некотором смысле удивительно, что Anthropic удивился тому, чем это закончилось. Частично проблема заключается в том, что Anthropic, кажется, год или два назад принял решение, что ЧатGPT должен был быть предназначен для индивидуальных пользователей, а Anthropic собиралась попытаться монополизировать корпоративный рынок. Это означает, что они пытаются вести бизнес с организациями, а не продавать индивидуальные планы.

Для меня загадкой является то, что они тогда вели дела с Пентагоном и Палантиром, которые занимаются использованием ИИ в целях, которые некоторые люди назвали бы сомнительными. Так что это решение было для меня неожиданным, потому что оно сильно противоречило бренду, который Anthropic пытался курировать.

Кажется, это был Антропик. Хорошо, с довольно широким использованием своей технологии, но это было красная линия, к которой они подошли с помощью внутреннего массового наблюдения и смертоносного автономного оружия.

Есть несколько возможностей. Во-первых, отчасти это было связано с отношениями между людьми из Anthropic и Администрация Трампачто привело к нисходящей спирали недоверия.

Во-вторых, ситуация в Венесуэла а затем политика вокруг деятельности ICE. Возникает вопрос: что на самом деле означает законное использование этих технологий? Определение законности одним человеком может сильно отличаться от определения другого.

Аргумент Пентагона, в частности, сводился к следующему: что если есть проблемы с национальной обороной, нам не нужно звонить Дарио Амодей чтобы получить одобрение. Похоже, что здесь действительно возникает вопрос о том, какую роль играют частные технологические компании в принятии решений в области национальной безопасности.

Если вспомнить случай с iPhone убийцы из Сан-БернардиноВласти были обеспокоены тем, что это была ситуация с бомбой замедленного действия, и им нужно, чтобы Apple проникла в телефон. [In 2016, the FBI demanded Apple create a backdoor to grant them access to a mass shooter’s phone. Apple refused on privacy grounds, resulting in the FBI seeking out an independent third party to hack into the device].

Разница с ИИ Anthropic заключается в том, что как только вы передадите его военным, вам больше не потребуется одобрение Anthropic, чтобы использовать его по своему усмотрению. Это разница между аппаратным и программным обеспечением. Вы можете перепрофилировать это программное обеспечение и использовать его способами, которые, возможно, не были частью явного соглашения, но теперь вы можете оправдать это соображениями национальной безопасности. Затем Anthropic потеряла все свои рычаги влияния, потому что оказалась в руках профессионалов национальной безопасности.

И Anthropic не сможет сказать, для чего он вообще используется, верно?

Да, совершенно верно. Он попадает не просто в черный ящик, а в секретные операции и закрытые системы.

На этой неделе мне показалось интересным то, что, похоже, многие действительно давние вопросы об использовании ИИ в армии достигают апогея. Вы давно следите за этими выпусками, что думаете о просмотре нынешнего боя?

Когда я слышал выступление генерального директора Anthropic, он говорил об этих экзистенциальных рисках и незаконном присвоении ИИ для биотерроризма. Я всегда думал, что они либо слишком далеки, либо слишком недоступны. Я думал, что подобные, более обыденные дела представляют больший риск.

Были люди, которые уже давно предвосхищают эти вопросы об автономном оружии. Проблема в том, как узнать, действительно ли в процессе участвует человек. Это вызывало беспокойство у Anthropic: как мы узнаем, используются ли эти системы полностью автономно? США заявляют, что мы не собираемся использовать ИИ в полностью автономном режиме, но неясно, как будет выглядеть этот процесс, чтобы этого не произошло. Это было какое-то время, но я думаю, что мы шли в этом направлении было своего рода неизбежным, просто потому, что технологии становились все более и более сложными. Тот факт, что сейчас мы вовлечены в конфликт, лишь ускоряет эти сроки.

Мы много говорим об угрозах со стороны ИИ и об этих красных линиях, от которых люди уклонились, но как ИИ уже используется в войне?

Вы можете видеть, насколько это чрезвычайно полезно в военных условиях. Я поработал над разведкой, и одна из проблем — не недостаток контента, а соотношение сигнал/шум. У вас огромный объем информации, но соединить точки воедино может быть очень сложно, и в этом ИИ так хорош. Вы передаете ему большие объемы информации, и он генерирует выходные данные, которые помогают определить, что это за сигнал.

Если вы ищете распознавание образов, ИИ действительно хорош в распознавании образов. Вы можете определить, какие корреляты или характеристики вы ищете, а затем он может выйти и идентифицировать предметы, скажем, иранский военный корабль, на основе того, что вы запрограммировали его идентифицировать. В каком-то смысле это не вызывает особых споров, поскольку эти цели достаточно конкретны.

Люди чувствуют себя более некомфортно в ситуации, когда США, например, будут наносить контртеррористические удары. У вас есть человек на местах, у которого не так много идентифицируемых характеристик, и поэтому это гораздо более опасная ситуация для ИИ, когда вам действительно нужно убедиться, что вы проводите тройную проверку. Он мог быть комбатантом, мог быть мирным жителем. Это не военное судно и не ракета класса «земля-воздух», где ошибиться труднее.