Законодатели, возмущенные ядерным оружием, запущенным ИИ, требуют «человеческого контроля» в законопроекте об оборонной политике

Возможность того, что система искусственного интеллекта может начать ядерную атаку сама по себе, побудила законодателей Палаты представителей предложить законодательную формулировку, которая гарантировала бы, что ядерный арсенал Америки останется под контролем человека.

Член палаты представителей Тед Лью, демократ от штата Калифорния, предложил двухпартийную поправку к законопроекту об оборонной политике от 2024 года, которая требует от Пентагона создания системы, обеспечивающей «значительный человеческий контроль для запуска любого ядерного оружия». Он определяет человеческий контроль, говоря, что люди должны иметь последнее слово при выборе и поражении целей, в том числе когда, где и как они будут поражены ядерным оружием.

Это концепция, которой, по словам высшего военного руководства, они уже следуют. В апреле ведущие советники по ИИ в Центральном командовании США сообщили Fox News Digital, что их цель — использовать ИИ для более быстрой оценки данных и предоставления вариантов для военачальников, но не для пусть последнее слово останется за людьми в тактических военных решениях.

КОНГРЕСС ПРИЗЫВАЕТ К АГРЕССИВНОМУ ИСПОЛЬЗОВАНИЮ ИИ В ФЕДЕРАЛЬНОМ ПРАВИТЕЛЬСТВЕ

Тем не менее, двухпартийная поддержка поправки Лье показывает, что законодателей все больше беспокоит идея о том, что сам ИИ может действовать в соответствии с решениями так же быстро, как он может оценить ситуацию. Поправку Лиу к Закону о разрешении на национальную оборону (NDAA) поддерживают депутаты Республиканской партии Хуан Цискомани из Аризоны и Закари Нанн из Айовы, а также демократы Крисси Хулахан из Пенсильвании, Сет Моултон из Массачусетса, Рашида Тлайб из Мичигана и Дон Бейер из Вирджинии.

Ожидается, что уже на следующей неделе республиканцы в Палате представителей примут решение о том, какие из более чем 1300 предложенных поправок к NDAA получат голосование в Палате представителей. Предложение Лью не единственное Поправка к законопроекту, связанная с ИИ — еще один признак того, что, хотя Конгресс еще не принял ничего близкого к широкому законопроекту, регулирующему эту новую технологию, похоже, что он будет подходить к этому вопросу поэтапно.

Член палаты представителей Стивен Линч, демократ от штата Массачусетс, предложил аналогичную поправку к NDAA, которая потребовала бы от министерства обороны соблюдения февральских указаний администрации Байдена по ИИ «Ответственное военное использование искусственного интеллекта и автономии».

РУКОВОДИТЕЛЬ КИТАЙСКОГО ПРАВИТЕЛЬСТВА ОБЯЗЫВАЕТ ПЕКИН НАРАЩИВАТЬ СТРЕМЛЕНИЕ К ГЛОБАЛЬНОМУ ГОСПОДСТВУ ИИ

Среди прочего, в этом не имеющем обязательной силы руководстве говорится, что страны должны «сохранять человеческий контроль и участие во всех действиях, имеющих решающее значение для информирования и выполнения суверенных решений, касающихся применения ядерного оружия».

«Государства должны разрабатывать и внедрять военные средства искусственного интеллекта, чтобы они обладали способностью обнаруживать и предотвращать непреднамеренные последствия, а также отключать или деактивировать развернутые системы, демонстрирующие непреднамеренное поведение», — добавил он. «Государства также должны принять другие соответствующие меры предосторожности для снижения рисков серьезных сбоев».

Однако не все поправки направлены на то, чтобы затормозить ИИ. Одно предложение от члена палаты представителей Джоша Готтеймера, DN.J., заключается в создании американо-израильского центра искусственного интеллекта, предназначенного для совместного исследования ИИ и машинного обучения, которые имеют военное применение.

СЕНАТ ПРИЗЫВАЕТ НАКАЗАТЬ КОМПАНИИ США, КОТОРЫЕ ПОМОГАЮТ КИТАЮ ПОСТРОИТЬ СВОЮ «ГОСУДАРСТВЕННУЮ СЛУЖБУ» НА ОСНОВЕ ИИ

«Государственный секретарь и главы других соответствующих федеральных агентств, при наличии ассигнований, могут заключать соглашения о сотрудничестве, поддерживающие и укрепляющие диалог и планирование с участием международного партнерства между Государственным департаментом или такими агентствами и правительством Израиля и его министерства, ведомства и учреждения», — говорится в поправке.

Другой, от члена палаты представителей Роба Уиттмана, штат Вирджиния, потребует от Пентагона наладить процесс тестирования и оценки больших языковых моделей, таких как ChatGPT, по таким предметам, как то, насколько они соответствуют действительности и в какой степени они предвзяты или продвигают дезинформацию.

НАЖМИТЕ ЗДЕСЬ, ЧТОБЫ ПОЛУЧИТЬ ПРИЛОЖЕНИЕ FOX NEWS

Законопроект, принятый комитетом Палаты представителей по делам вооруженных сил в прошлом месяце, уже содержит формулировку, которая потребует от Пентагона наладить процесс, обеспечивающий «ответственное развитие и использование» ИИ, и изучить возможное использование автономных систем для облегчения работы вооруженных сил. более эффективным.