ИИ может дать США смертоносное преимущество в войне с Ираном – но есть опасности | Новости науки, климата и технологий

Забудьте о научной фантастике. Настала эпоха искусственного интеллекта в войне.

Израиль использовал системы искусственного интеллекта в Газа чтобы обозначить потенциальные цели и помочь расставить приоритеты в операциях.

Сообщается, что военные США использовали модель Anthropic Claude во время своей операции. операция по похищению Николаса Мадуро из Венесуэлы.

И даже после У Anthropic возникли трудности с администрацией США над тем, как именно ИИ следует использовать в войне, американские военные, по-видимому, все еще использовали Клода при нападении на Иран.

Последние новости Ирана: Трамп критикует Стармера за позицию Великобритании

По мнению экспертов, весьма вероятно, что ракеты, пролетающие сегодня над Тегераном, нацелены на системы, работающие на базе искусственного интеллекта.

«ИИ меняет характер современных войн в 21 веке. Трудно переоценить влияние, которое он оказывает и будет оказывать», — говорит Крейг Джонс, старший преподаватель политической географии из Университета Ньюкасла.

«Это потенциально ужасающий сценарий».

Ужасно это или нет, но кажется, что пути назад нет. Если вы хотите почувствовать важность, которую военные США придают ИИ, хорошей отправной точкой будет записка, разосланная министром обороны Питом Хегсетом, называющим себя военным министром, всем высокопоставленным военным лидерам в начале этого года.

«Я поручаю Министерству войны ускорить доминирование американского ИИ в военной сфере, став боевой силой, ориентированной на искусственный интеллект, во всех компонентах, от фронта до тыла», — написал г-н Хегсет.

Это не эксперимент, это приказ — быстро и в больших масштабах внедрить ИИ.

Или, как говорит Хегсет: «Скорость побеждает».

Однако рассматриваемый сценарий – это не тот сценарий, который может прийти на ум в первую очередь.

Да, в некоторых областях автономность увеличивается. В УкраинаНапример, есть дроны, способные продолжать миссию даже после потери контакта с человеком-оператором.

Но мы не находимся на этапе, когда автономные роботы-убийцы бродят по полю боя.

«Мы еще не живем в эпоху Терминатора», — говорит Дэвид Лесли, профессор этики, технологий и общества в Лондонском университете королевы Марии.

Системы, в которые внедряется ИИ, известные на военном жаргоне как «системы поддержки принятия решений», представляют собой советники, которые отмечают цели, ранжируют угрозы и предлагают приоритеты.

Системы искусственного интеллекта могут собирать воедино спутниковые снимки, перехваченные сообщения, логистические данные и потоки социальных сетей — тысячи, даже сотни тысяч входных данных — и структуры поверхности гораздо быстрее, чем любая человеческая команда.

Идея состоит в том, что они помогают прорваться через туман войны, позволяя командирам сосредоточить ресурсы там, где они наиболее важны, и при этом потенциально более точны, чем уставшие, перегруженные, напряженные солдаты-люди.

Это означает, что они не просто инструмент, говорит доктор Джонс, а новый способ принятия решений.

«ИИ, как мы видим в нашей жизни, больше похож на инфраструктуру», — говорит он. «Это встроено в систему».

«У нас есть возможность собирать данные наблюдения, которыми мы занимаемся уже несколько лет.

«Но теперь ИИ дает стабильность, чтобы действовать в соответствии с этим и убить лидера Ирана, а также уничтожить серьезных противников и серьезных врагов и найти их невероятными способами, которыми они, возможно, не были найдены раньше».

«Очень убедительный инструмент»

Профессор Лесли согласен, что новые системы чрезвычайно эффективны с военной точки зрения.

«Гонка за скоростью — вот что движет этим распространением», — говорит он. «Быстрое принятие решений – это то, что дает военное преимущество летальности».

Важной особенностью систем поддержки принятия решений является то, что ИИ не нажимает кнопку. Человек делает. Это было главным подтверждением в дебатах о военном ИИ. Всегда есть «человек в курсе».

Как ОпенАИкомпания, которая производит ЧатGPTзаявил это после объявления о партнерстве по поставке ИИ в Пентагон: «Мы проверим передовых инженеров OpenAI, помогающих правительству, а также проверим исследователей безопасности и выравнивания в цикле».

OpenAI также подчеркнула, что она добилась соглашения с Пентагоном о том, что ее технология не будет использоваться способами, пересекающими три «красные линии»: массовое внутреннее наблюдение, прямые автономные системы вооружения и автоматизированные решения с высокими ставками.

Но даже если в курсе событий находится человек, остается вопрос.

Читать далее:
Исследование показало, что ИИ готов «стать ядерным» в военных играх
Клод Опус 4.6: Этот ИИ только что прошел «тест торгового автомата»

Когда вы ведете войну, может ли человек действительно проверять каждое решение ИИ? Когда время сжато, а информация неполна, что на самом деле означает «человеческий надзор»?

«Технически люди в курсе происходящего», — говорит доктор Джонс.

«По моему мнению, это не означает, что они достаточно в курсе событий, чтобы иметь эффективные полномочия по принятию решений и точно контролировать то, что происходит. ИИ… является очень убедительным инструментом для людей, которые принимают решения».

Или, как выразился профессор Лесли: «Мы действительно сталкиваемся с потенциально масштабной опасностью… штамповки, когда из-за высокой скорости у вас нет активного, критического человеческого участия для оценки рекомендаций, выдаваемых этими системами».

И тогда возникает вопрос о собственной ошибочности ИИ.

Читать далее:
Великобритания развернет HMS Dragon на Кипре, подтвердил премьер-министр
Вопросы и ответы по Ирану: Почему Трамп может попытаться объявить о быстрой победе

Тестирование Sky News показало, что ни Клод, ни ChatGPT не могли определить, сколько ног у курицы, если курица выглядела не так, как ожидалось.

Более того, ИИ настаивал на своей правоте, даже когда это было явно неправильно.

Пример взят из статьи, в которой проиллюстрированы десятки примеров подобных неудач. «Это не единичный пример ног животного», — сказал ведущий автор Ань Во.

«Проблема является общей для всех типов данных и задач», — добавил Во.

Причина в том, что ИИ на самом деле не видит мир в человеческом понимании — он угадывает, что наиболее вероятно, на основе прошлых данных.

В большинстве случаев такого рода статистические рассуждения оказываются поразительно эффективными. Мир достаточно предсказуем, чтобы вероятности работали.

Но некоторые среды по своей природе непредсказуемы и высоки ставки.

Мы проверяем возможности этой технологии в самых неумолимых обстоятельствах, которые только можно себе представить.