Взгляд The ​​Guardian на искусственный интеллект в войне: конфликт в Иране показывает, что смена парадигмы уже началась | Редакционный

«Нкогда-либо в будущем мы будем двигаться так же медленно, как сейчас», — заявил генеральный секретарь ООН Антониу Гутерриш. предупредил на этой неделе, рассматривая острую необходимость формирования использования искусственного интеллекта. Скорость технологического развития – а также геополитическая турбулентность – стирают грань между теоретическими аргументами и событиями реального мира. Политический скандал По поводу возможностей ИИ в вооруженных силах США совпадает с его беспрецедентным использованием в иранском кризисе.

Компания Anthropic, занимающаяся искусственным интеллектом, настаивала на этом. не удалось снять защиту не дать Министерству обороны использовать свои технологии для внутреннего массового наблюдения или автономного летального оружия. Пентагон заявил, что не заинтересован в таком использовании, но такие решения не должны приниматься компаниями. Как ни странно, администрация не просто уволил Anthropic, но и занес его в черный список как риск цепочки поставок. OpenAI вмешалась, настаивая на том, что она придерживается красных линий, объявленных Anthropic. И все же во внутреннем реакция на негативную реакцию пользователей и сотрудниковее генеральный директор Сэм Альтман признанный что он не контролирует использование Пентагоном своих продуктов и что проведение сделки заставило OpenAI выглядеть «оппортунистическим и неряшливым».

Но, как отмечает Николь ван Ройен, исполнительный директор организации Stop Killer Robots, которая выступает за контроль человека над применением силы, предупредил: «Проблема не только в том, будет ли использоваться это оружие, но и в том, как его системы-предшественники уже меняют способы ведения войн… Человеческий контроль рискует стать второстепенной мыслью или простой формальностью».

Смена парадигмы уже началась. Несмотря на скандал, Клод из Anthropic, как сообщается, способствовал масштабному и усиливающемуся наступлению, в результате которого в Иране уже погибло, по оценкам, более тысячи мирных жителей. Это эра бомбардировок «быстрее скорости мысли», эксперты рассказал Guardian На этой неделе искусственный интеллект определяет и определяет приоритетность целей, рекомендует вооружение и оценивает законные основания для удара.

ИИ не является предпосылкой гибели мирных жителей, военных ошибок или безответственности. Министр обороны США Пит Хегсет хвастается ослаблением правил ведения боевых действий. Это люди в Пентагоне уклоняются от вопросов о гибели 165 школьниц, что, по-видимому, было удар США по школе в Иране 28 февраля.

Но даже если не принимать во внимание вопросы неточности и предвзятости ИИ, последствия очевидны для его пользователей. Один источник израильской разведки наблюдал о его использовании в войне в секторе Газа: “Цели никогда не заканчиваются. Вас ждут еще 36 000 человек”. Другой сказал, что потратил 20 секунд на оценку каждой цели, заявив: «Я не имел никакой добавленной ценности как человек, не считая того, что был знаком одобрения». Массовые убийства облегчаются во всех смыслах благодаря дальнейшему моральному и эмоциональному дистанцированию и уменьшению ответственности.

Демократический надзор и многосторонние ограничения вместо того, чтобы оставлять решения на усмотрение предпринимателей и оборонных ведомств, имеют важное значение. Пока бомбы падали на Иран, государства встретились в Женеве, чтобы решить проблему смертоносных автономных систем вооружения; проект текста, по их мнению, мог бы стать прочной основой для договора, который крайне необходим. Большинство правительств хотят четких указаний по военному использованию ИИ. Сопротивляются крупнейшие игроки – хотя они, по крайней мере, присутствуют. Темпы войны, управляемой искусственным интеллектом, означают, что осторожность может выглядеть как передача контроля противникам. Однако, как понимают сами технологические работники и военные чиновники, опасность неконтролируемой экспансии гораздо выше.

• Есть ли у вас мнение по вопросам, затронутым в этой статье? Если вы хотите отправить ответ объемом до 300 слов по электронной почте, который будет рассмотрен для публикации в нашем буквы раздел, пожалуйста кликните сюда.