28 февраля прошлого года в рамках совместного военного наступления государств Объединение и Израиль против Ирана, Ракета попала в начальную школу для девочек Шаджаре Тайебе в Минабена юге страны, около 10 утра, пока шли уроки.
Внутри находилось около 170 учеников — в основном девочки в возрасте от 7 до 12 лет — и в результате удара сгорело более половины конструкции, в результате чего обрушилась крыша. Государственные СМИ Ирана сообщают о 168 погибших и как минимум 95 раненых.
Оно еще не установлено, с уверенностьюкоторый разрушил школу.
ИИ в центре конфликта
Но некоторые предполагают, что если бы взрыв был вызван американским томагавком, вроде того, что упал на иранскую военную базу неподалеку — часть ответственности нужно отнести на неверные расчеты искусственного интеллекта, используемого военными США.
Короче говоря, могла ли резня быть результатом галлюцинации? [vale a dire la tendenza, da parte di un’IA, di produrre un’informazione plausibile e credibile ma totalmente errata, ndr]
Определить будет сложно, но важно спросить себя.
Война на Ближнем Востоке началась в то время, когда военные технологии США достигли критической точки с интеграцией больших языковых моделей (LLM) – тех же самых, которые лежат в основе чат-ботов, таких как Gemini и ChatGpt – в цепочках управления и контроля.
Считается, что за первые двадцать четыре часа атак на Иран Соединенные Штаты широко использовали искусственный интеллект, поразив примерно тысячу целей.
Эта технология, уже использованная в операциях, которые привели к захвату Николаса Мадуро в Венесуэле, сыграла ключевую роль в планировании и осуществлении наступления, которое Вашингтон проводил совместно с Израилем.
Война ИИ
Искусственный интеллект Anthropic стоит за рейдами в Иране: парадокс Пентагона после запрета Трампа
Проект Maven и роль Клода
В основе этой трансформации лежит Maven Smart System (MSS), система, разработанная Palantir. [l’azienda fondata da Peter Thiel e Alex Karp che ha un contratto da 10 miliardi di dollari con il Pentagono per i prossimi dieci anni].
Это платформа, которая вышла за рамки своего первоначального проекта компьютерного зрения и стала «когнитивным двигателем» глобальных операций Министерства обороны США, переименованного Трампом в Министерство войны (DoW).
Проект Maven, первоначально основанный в 2017 году с относительно простой целью применения компьютерного зрения к кадрам с дронов для идентификации объектов, представляющих интерес, в последние годы превратился – благодаря Клоду, искусственному интеллекту Anthropic – в гораздо более широкую архитектуру поддержки принятия решений: он позволяет интерпретировать разрозненные данные – такие как спутниковые изображения, радиолокационные слежения и отчеты электронной разведки – и соединять их с единым логическим объектом на поле боя.
Скорострельность, риски ошибки
В современной войне побеждают те, кто принимает решения лучше и быстрее, чем противник, используя данные, поступающие с поля боя в режиме реального времени.
Вот почему искусственный интеллект является решающим инструментом: он позволяет нам анализировать огромные объемы информации, определять оперативные закономерности и поддерживать командование во все более быстром цикле, который ведет от наблюдения к решению и, наконец, к действию.
Maven при поддержке Клода может предлагать цели, предоставлять точные координаты местоположения и расставлять их приоритеты в зависимости от важности.
Инструменты искусственного интеллекта быстро оценивают атаку даже после ее начала. написал Вашингтон Пост.
Эта исключительная эффективность, позволяющая планировать атаки в короткие сроки, когда раньше требовались встречи, длившиеся несколько недель, и десятки людей, может, однако, создать новые и серьезные проблемы.
В соответствии с источники, недавно услышанные Уолл Стрит Джорнал«Многие военные чиновники, участвующие в проектах искусственного интеллекта, предупреждают, что возможности этой технологии могут привести к чрезмерной зависимости от предоставляемой ею информации, и эта тенденция суммируется фразой «Компьютер сказал, что сделает это».
Кто несет ответственность за ошибки?
Короче говоря, динамика, которая складывается на поле боя, ужасно похожа на то, что происходит – или может случиться – на рабочем месте, когда кто-то слепо доверяет возможностям чат-ботов, забывая, что каждый из них по-прежнему несет мелким шрифтом предупреждение: «Он может совершать ошибки».
Проблема, конечно, в том, что ошибки ИИ могут стоить жизней на войне. Невинные.
Но чья именно «вина» в том, что искусственный интеллект допустит ошибку во время конфликта?
«Несколько законов, посвященных ИИ, от Европейского закона об ИИ до Южнокорейского Основного закона об ИИ, явно исключают оборону из сферы своего применения. Международное гуманитарное право в принципе действует, но его распространение на автономные системы требует толкований, которые еще необходимо разработать». объясняет Мариаросария Таддеопрофессор цифровой этики и оборонных технологий Оксфордского института Интернета, добавив, что «использование искусственного интеллекта в военных целях представляет собой беспрецедентную угрозу правам человека».
В любом случае, технология, лежащая в основе атак, вряд ли будет привлечена к ответственности за военные преступления.
Доктрина обороны государственного подрядчика фактически передает суверенный иммунитет Соединенных Штатов (в данном случае в отношении военной деятельности) частным партнерам при соблюдении трех условий: правительство одобрило спецификации системы; продукт соответствовал этим спецификациям; подрядчик проинформировал правительство об известных рисках.
На практике, если Palantir, Anthropic или любая другая компания разработали ИИ в соответствии со спецификациями Министерства обороны и проинформировали Пентагон о пределах погрешности, практически невозможно успешно подать в суд на нее в США.
Однако, если будет допущена трагическая ошибка – из-за автономного оружия или усовершенствованной системы, которая идентифицирует цели, которые затем преследуют люди-операторы, – Anthropic рискует ответить мировому общественному мнению, даже не осуществляя никакого оперативного контроля над системой.
Репутационный риск для Anthropic
Дарио Амодей, генеральный директор Anthropic, хорошо это знает, и, возможно, именно по этой причине, помимо этических принципов, он попросил Пентагон взять на себя обязательство никогда не использовать его технологии для разработки автономного оружия.
В недавнем интервью CBS Амодей сказал, что он обеспокоен тем, что автономное оружие может по ошибке нацелиться не на тех людей. По словам генерального директора Anthropic, в отличие от оружия, приводимого в действие человеком, неясно, кто несет ответственность за решения, принимаемые управляемыми искусственным интеллектом и сбрасываемыми устройствами.
«Мы не хотим продавать то, что, по нашему мнению, не является надежным, и мы не хотим продавать то, что может привести к гибели наших людей или к гибели невинных людей», Амодей сказал.
В случае, если ИИ поставит неверную цель – как это произошло в случае со школой Минаб – будет очень сложно доказать, что машина – а не вся система, человеческая цепочка командования или окончательное решение оператора – стала причиной смерти и разрушений.
Но если Anthropic предоставит технологию, напрямую интегрированную в автономное оружие, картина может измениться.
Международное гуманитарное право требует, чтобы каждое нападение оценивалось на основе контекстуального суждения (в соответствии с принципами различения и соразмерности), специфичного для людей.
Компания, которая технически позволяет обойти эти принципы, может оказаться на гораздо более опасной территории, по крайней мере, с точки зрения моральной и репутационной ответственности, если не с юридической точки зрения.
Если бы выяснилось, что именно ИИ Anthropic нажал на курок и, следовательно, убил мирных жителей, годы позиционирования компании как «безопасности прежде всего» пойдут прахом.
А корпоративные клиенты, которые для компании из Сан-Франциско стоят гораздо больше, чем контракт на 200 миллионов долларов с Пентагоном, подписанный в июле 2025 года, сбегут.
Если доверие клиентов и инвесторов потерпит неудачу, это станет концом для Anthropic. Однако никакая экономическая потеря не сравнится с той, которую невозможно компенсировать или исправить: человеческой жизнью. Если система искусственного интеллекта приняла гражданских лиц за военную цель, то настоящая неудача связана не с бюджетом. Речь идет о человечности.
2026-03-10 20:13:00
1773190581
#Риски #использования #ИИ #войне #Компьютер #сказал #это #сделать
Читайте также
