Anthropic отрицает, что может саботировать инструменты искусственного интеллекта во время войны

Антропный не может манипулировать свою генеративную модель искусственного интеллекта «Клод», как только она будет запущена в вооруженных силах США, написал один из руководителей в судебном заявлении в пятницу. Заявление было сделано в ответ на обвинения администрации Трампа в адрес компании. потенциальное вмешательство в инструменты искусственного интеллекта во время войны.

«Anthropic никогда не имела возможности заставить Клода прекратить работу, изменить его функциональность, закрыть доступ или иным образом повлиять или поставить под угрозу военные операции», — Тиягу Рамасами, глава государственного сектора Anthropic, написал. «У Anthropic нет доступа, необходимого для отключения технологии или изменения поведения модели до или во время текущих операций».

Пентагон уже несколько месяцев спорит с ведущей лабораторией искусственного интеллекта о том, как ее технология может быть использована для национальной безопасности и каковы должны быть ограничения на такое использование. В этом месяце министр обороны Пит Хегсет назвал антропную проблему риск цепочки поставокЭто обозначение, которое не позволит Министерству обороны использовать программное обеспечение компании, в том числе через подрядчиков, в ближайшие месяцы. Другие федеральные агентства также отказываются от Клода.

антропный подал два иска оспаривает конституционность запрета и добивается принятия чрезвычайного приказа об его отмене. Однако клиенты уже начали отмена сделок. Слушание по одному из дел назначено на 24 марта в федеральном окружном суде Сан-Франциско. Вскоре после этого судья может принять решение о временной отмене решения.

В заявлении, представленном ранее на этой неделе, правительственные адвокаты написали, что Министерство обороны «не обязано мириться с риском того, что критически важные военные системы окажутся под угрозой в решающие моменты для национальной обороны и активных военных операций».

Пентагон использовал Клода для анализа данных, написания записок и составления планов боевых действий, WIRED сообщил. Аргумент правительства заключается в том, что Anthropic может сорвать активные военные операции, отключив доступ к Claude или распространяя вредоносные обновления, если компания не одобряет определенные виды использования.

Рамасами отверг такую возможность. «Anthropic не поддерживает никаких задних дверей или удаленных «выключателей»», — написал он. «Антропный персонал не может, например, войти в систему DoW, чтобы изменить или отключить модели во время операции; технология просто не работает таким образом».

Далее он сказал, что Anthropic сможет предоставлять обновления только с одобрения правительства и его облачного провайдера, в данном случае Amazon Web Services, хотя он не уточнил его имя. Рамасами добавил, что Anthropic не может получить доступ к подсказкам или другим данным, которые военные пользователи вводят в Claude.

Руководители Anthropic утверждают в судебных документах, что компания не хочет налагать вето на военно-тактические решения. Сара Хек, руководитель отдела политики, написал в судебном заявлении в пятницу говорится, что Anthropic была готова гарантировать столько же в контракте, предложенном 4 марта. «Во избежание сомнений, [Anthropic] понимает, что эта лицензия не дает и не дает никакого права контролировать или налагать вето на законное принятие оперативных решений Министерства обороны», — говорится в предложении, согласно заявке, в которой упоминается альтернативное название Пентагона.

По словам Хека, компания также была готова принять формулировки, которые развеяли бы ее опасения по поводу использования Клода для нанесения смертельных ударов без присмотра человека. Но переговоры в конечном итоге сорвались.

На данный момент Министерство обороны сказал в судебных документах говорится, что она «принимает дополнительные меры для снижения риска цепочки поставок», создаваемого компанией, «работая со сторонними поставщиками облачных услуг, чтобы гарантировать, что руководство Anthropic не сможет вносить односторонние изменения» в существующие в настоящее время системы Claude.