OpenAI удаляет военные запреты из своей политики

ОпенАИ может проложить путь к выяснению его ИИВоенный потенциал России.

Впервые сообщил тот Перехват 12 января новое изменение в политике компании полностью удалило предыдущую формулировку, запрещающую «деятельность, сопряженную с высоким риском физического вреда», включая конкретные примеры «разработки оружия» и «военных и военных действий».

По состоянию на 10 января OpenAI рекомендации по использованию больше не включает запрет на использование слов «военные и военные действия» в существующих формулировках, который обязывает пользователей предотвращать вред. В политике теперь отмечается только запрет на использование технологии OpenAI, такой как модели большого языка (LLM), для «разработки или использования оружия».

Последующие сообщения об изменении политики указали на немедленное возможность выгодного партнерства между OpenAI и оборонными ведомствами, стремящимися использовать генеративный ИИ в административных или разведывательных операциях.

В ноябре 2023 года Министерство обороны США выпустило приказ. заявление в своей миссии по продвижению «ответственного военного использования искусственного интеллекта и автономных систем», ссылаясь на одобрение страной международной политической декларации об ответственном военном использовании искусственного интеллекта и автономии — «передовой практики», объявленной под руководством Америки в феврале 2023 года. который был разработан для мониторинга и управления развитием военного потенциала ИИ.

«Возможности военного ИИ включают не только оружие, но и системы поддержки принятия решений, которые помогают руководителям оборонных ведомств на всех уровнях принимать более качественные и своевременные решения, от поля боя до зала заседаний, а также системы, касающиеся всего: от финансов, расчета заработной платы и бухгалтерского учета до набора персонала. “, удержание и продвижение по службе персонала, сбор и объединение данных разведки, наблюдения и рекогносцировки”, – поясняется в заявлении.

ИИ уже использовался американскими военными в Российско-украинская война и в разработке автономных военных машин с искусственным интеллектом. В других странах ИИ был включен в системы военной разведки и наведения, в том числе в систему ИИ, известную как «Евангелие», которая используется израильскими силами для точного определения целей и, как сообщается, «сокращения человеческих жертв» в ходе атак на сектор Газа.

Наблюдатели и активисты в области искусственного интеллекта постоянно выражают обеспокоенность по поводу растущего внедрения технологий искусственного интеллекта в как киберконфликт, так и боевые действияопасаясь эскалации вооруженного конфликта в дополнение к давно отмеченным предубеждениям в системе ИИ.

В заявлении для ПерехватПредставитель OpenAI Нико Феликс объяснил, что изменение было направлено на оптимизацию руководящих принципов компании: «Мы стремились создать набор универсальных принципов, которые легко запомнить и применять, тем более что наши инструменты теперь используются по всему миру обычными пользователями, которые теперь также могут создайте GPT. Такой принцип, как «Не причиняйте вреда другим», является широким, но легко понятным и актуальным во многих контекстах. Кроме того, мы специально привели в качестве ярких примеров оружие и причинение вреда другим».

OpenAI представляет свою политику использования в столь же упрощенном рефрене: «Мы стремимся к тому, чтобы наши инструменты использовались безопасно и ответственно, одновременно обеспечивая максимальный контроль над тем, как вы их используете».

Темы
Искусственный интеллект
ОпенАИ