Эрик Хазан предупреждает об «алгоритмической банальности», которая ослабляет ответственность людей в ходе войны.
Несколько секунд. Иногда на украинском фронте, в Иране или в секторе Газа у солдата есть время, чтобы проверить цель, обозначенную расчетом. За этот крошечный промежуток времени человеческое решение может стать формальностью. Алгоритм уже все обработал: навигацию, идентификацию и вероятность успеха. Так кто же на самом деле нажимает на курок? Человек, который нажимает кнопку, или инженер, который запрограммировал критерии оптимизации?
С Нам еще предстоит принять решение? Принятие решений человеком в эпоху искусственного интеллекта (Фламмарион, 2026 г.), написанный в соавторстве с Оливье Сибони, Эриком Хазаном, экспертом в области искусственного интеллекта, преподавателем HEC и Sciences Po, анализирует это размывание нашей ответственности. Перенеся выбор с момента действия на холодность строк кода, «алгоритмическая банальность» По его словам, установлено. Поле битвы — это лаборатория этого смирения. Если ИИ обещает войну ” собственный “прежде всего, оно запирает нас в новом тумане. Эрик Хазан предупреждает: желая оптимизировать некоторые из наших решений, мы просто рискуем перестать принимать ни одно из них. Интервью.
Суть: когда алгоритм определяет цель, а солдат подтверждает удар в течение нескольких секунд, кто на самом деле нажимает на спусковой крючок?
Эрик Хазан: Это вопрос, который мы должны задать себе. Потому что решение не исчезает: оно меняет местоположение. Момент выстрела остается в конструкции системы. Однако искусственный интеллект очень хорошо работает в стабильной среде, с огромными данными и четкими целями. Но во время вооруженного конфликта происходит прямо противоположное. Это то, что прусский военный теоретик Карл фон Клаузевиц назвал «туманом войны»: перманентная неопределенность, неполная, манипулируемая, двусмысленная информация. И тем не менее, сегодня там внедряются системы оптимизации. Мы в каком-то смысле переходим от тумана войны к алгоритмическому туману.
И меняет ли это саму суть решения?
Точно. Когда у вас есть три секунды, чтобы нажать клавишу, вы все еще решаете? Мы знаем, что существует очень мощное предубеждение, предубеждение автоматизации: когда машина, более быстрая и предположительно более надежная, предлагает действие, мы склонны следовать ей. В некоторых случаях, например в противоракетной обороне, полная автоматизация имеет смысл, поскольку люди слишком медлительны. Но в атаке все совсем по-другому. Если у вас больше нет времени думать, моральный вопрос становится центральным.
Но на техническом уровне ИИ все равно повышает точность ударов…
Да, это парадокс. С почти циничной точки зрения можно сказать, что эти системы позволяют «лучше» вести войну. ИИ превосходит нас в некоторых задачах: навигация, идентификация целей, интеграция колоссального объема данных. Теоретически это позволяет наносить более точные удары и, следовательно, меньше жертв среди гражданского населения. Сегодня мы в основном говорим о «полуавтономных» системах: человек остается в курсе событий и нажимает кнопку в последний момент. Но разница в скорости. Раньше было время для анализа и подготовки. Сегодня все сжато.
В отличие, например, от ядерной энергетики, которая вызвала многосторонние международные дискуссии, военный ИИ развивается в относительной тишине.
Эрик Хазан
Но тогда разве мы не должны радоваться снижению количества ошибок?
Чтобы понять проблему, мы должны взглянуть на сторону справедливости. Теперь мы знаем, что алгоритм может уменьшить статистический шум в судах и сделать приговоры более последовательными, чем у усталого или вспыльчивого судьи. Однако мы отказываемся это сделать. Потому что в кровавом преступлении мы требуем, чтобы человек судил другого человека с глазу на глаз. Дебаты, катарсис, так же важны, как и приговор.
То же самое и с войной: даже если машина технически более эффективна, делегирование действия по причинению смерти расчету выходит за рамки человечности. Существует «запретная зона», где техническое исполнение никогда не должно заменять сознание. Этот выбор является политическим. Однако сегодня они не являются предметом настоящих демократических дебатов. В отличие, например, от ядерной энергетики, которая вызвала международные дискуссии, военный ИИ развивается в относительной тишине.
Вы также упоминаете риск «алгоритмической тривиализации», имея в виду Ханну Арендт и банальность зла…
Да, потому что есть риск лишения прав. Мы можем перейти от «я нажимаю кнопку» к «это не я, это машина виновата». Это возможный дрейф, даже если он еще не стал общей реальностью. В нашей книге мы говорим о «риске отставки»: о факте полагаться на машину и отказываться от собственного суждения. Кто несет ответственность в случае ошибки? Как писал Ханс Йонас, чем больше увеличивается наша технологическая мощь, тем большей должна быть наша моральная ответственность. Но в этих системах ответственность становится размытой.
Должны ли мы тогда запретить использование ИИ в вооруженных силах?
Я думаю, что это иллюзорно. Эти технологии уже есть, они эффективны и приносят реальную пользу, в том числе с точки зрения снижения человеческих ошибок. Настоящая проблема не в запрете, а в управлении. Кто определяет правила? Мы не можем оставить эти решения на усмотрение инженеров или военных. Они охватывают все общество.
Но не рискуют ли демократии поставить себя в тупик новыми правилами перед лицом менее ограниченных режимов?
Я думаю, что нет. Это ошибка в рассуждениях. Наличие правил и подотчетности — это не слабость, а сила. Именно это позволяет нам восстанавливаться после конфликтов. Настоящая опасность заключается не в том, что мы слишком этичны, а в том, что мы теряем рассудительность. Поскольку эти системы работают хорошо, у нас может возникнуть соблазн больше не подвергать сомнению их результаты. Это то, чего следует избегать. Время имеет решающее значение. Мы очень близки к полностью автономным системам, таким как стаи дронов, способных действовать без вмешательства человека. Сейчас настало время подумать коллективно. Как далеко мы готовы делегировать?
#Насколько #мы #готовы #делегировать #наши #решения #машинам
Читайте также
