США одобряют ответственные меры в области искусственного интеллекта для мировых вооруженных сил > Министерство обороны США > Новости Министерства обороны

Правительство Соединенных Штатов возглавляет глобальные усилия по созданию строгих норм, которые будут способствовать ответственному использованию искусственного интеллекта и автономных систем в военных целях. На прошлой неделе Госдепартамент объявил, что 47 штатов уже одобрили «Политическую декларацию об ответственном военном использовании искусственного интеллекта и автономии», которую правительство впервые представило в Хауге 16 февраля.

Под искусственным интеллектом понимается способность машин выполнять задачи, которые в противном случае потребовали бы человеческого интеллекта, например, распознавать закономерности, учиться на опыте, делать выводы, делать прогнозы или генерировать рекомендации.

Возможности военного ИИ включают не только оружие, но и системы поддержки принятия решений, которые помогают руководителям оборонных ведомств на всех уровнях принимать более качественные и своевременные решения, от поля боя до зала заседаний, а также системы, относящиеся ко всему: от финансов, расчета заработной платы и бухгалтерского учета до набора персонала, удержание и продвижение по службе персонала для сбора и объединения данных разведки, наблюдения и рекогносцировки.

«Соединенные Штаты являются мировым лидером в ответственном военном использовании ИИ и автономии, а Министерство обороны уже более десяти лет отстаивает этические принципы ИИ и политику автономности в системах вооружений. Политическая декларация основывается на этих усилиях. Она продвигает международное сообщество. нормы об ответственном военном использовании ИИ и автономии, обеспечивает основу для построения общего понимания и создает сообщество для всех государств для обмена передовым опытом», — сказала Саша Бейкер, заместитель министра обороны по вопросам политики.

Министерство обороны возглавило мир, опубликовав серию политик по военному ИИ и автономии, совсем недавно Стратегия внедрения данных, аналитики и искусственного интеллекта выпущен 2 ноября.

Декларация состоит из серии не имеющих юридической силы руководящих принципов, описывающих передовой опыт ответственного использования ИИ в военных целях. Эти руководящие принципы включают обеспечение того, чтобы военные системы искусственного интеллекта были проверяемыми, имели четкое и четко определенное использование, подвергались тщательному тестированию и оценке на протяжении всего жизненного цикла, имели способность обнаруживать и избегать непреднамеренного поведения, а также чтобы приложения с серьезными последствиями проходили процедуру старшего уровня. обзор.

Как говорится в пресс-релизе Госдепартамента от 13 ноября: «Эта новаторская инициатива содержит 10 конкретных мер, направленных на ответственное развитие и использование военного применения ИИ и автономии. Декларация и изложенные в ней меры являются важным шагом в построении международного мира. рамки ответственности, позволяющие государствам использовать преимущества ИИ, одновременно снижая риски. США полны решимости работать вместе с другими поддерживающими государствами, чтобы развивать это важное развитие».

10 мер:

1. Государства должны обеспечить, чтобы их военные организации приняли и реализовали эти принципы ответственной разработки, развертывания и использования возможностей ИИ.
2. Государствам следует предпринять соответствующие шаги, такие как юридические проверки, чтобы гарантировать, что их возможности военного ИИ будут использоваться в соответствии с их соответствующими обязательствами по международному праву, в частности международному гуманитарному праву. Государствам также следует подумать о том, как использовать возможности военного ИИ для более эффективного соблюдения международного гуманитарного права и улучшения защиты гражданского населения и гражданских объектов в вооруженном конфликте.
3. Государства должны обеспечить, чтобы старшие должностные лица эффективно и надлежащим образом контролировали разработку и развертывание возможностей военного ИИ с приложениями с высокими последствиями, включая, помимо прочего, такие системы вооружений.
4. Государствам следует предпринять активные шаги, чтобы свести к минимуму непреднамеренную предвзятость в возможностях военного ИИ.
5. Государства должны обеспечить, чтобы соответствующий персонал проявлял должную осторожность при разработке, развертывании и использовании возможностей военного ИИ, включая системы вооружения, включающие такие возможности.
6. Государства должны гарантировать, что возможности военного ИИ разрабатываются с использованием методологий, источников данных, процедур проектирования и документации, которые прозрачны для их соответствующего оборонного персонала и могут быть проверены.
7. Государства должны обеспечить, чтобы персонал, который использует или одобряет использование возможностей военного ИИ, был обучен таким образом, чтобы он в достаточной степени понимал возможности и ограничения этих систем, чтобы выносить соответствующие суждения с учетом контекста об использовании этих систем и снижать риск автоматизации. предвзятость.
8. Государства должны обеспечить, чтобы возможности военного ИИ имели четкое и четко определенное применение и чтобы они были спроектированы и спроектированы для выполнения этих намеченных функций.
9. Государства должны обеспечить, чтобы безопасность, защищенность и эффективность возможностей военного ИИ подвергались соответствующим и тщательным испытаниям и гарантиям в рамках их четко определенного использования и на протяжении всего их жизненного цикла. Для самообучения или постоянного обновления возможностей военного ИИ государства должны гарантировать, что важнейшие функции безопасности не будут ухудшены с помощью таких процессов, как мониторинг.
10. Государствам следует внедрить соответствующие меры защиты для снижения рисков сбоев в возможностях военного ИИ, такие как способность обнаруживать и избегать непредвиденных последствий, а также способность реагировать, например, путем отключения или деактивации развернутых систем, когда такие системы демонстрируют непреднамеренное поведение.