Генеральный директор Anthropic назвал военные сообщения OpenAI «прямой ложью»

Генеральный директор Anthropic Дарио Амодей обвиняет OpenAI в том, что она вводит общественность в заблуждение относительно своей оборонной работы. Это необычно прямое публичное столкновение между двумя наиболее выдающимися лидерами индустрии искусственного интеллекта.

Спор возникает по мере того, как военное и разведывательное партнерство становится все более заметным в генеративной сфере. Бум искусственного интеллекта и поскольку компании пытаются сбалансировать работу по национальной безопасности с публичными обещаниями о безопасности и ограничениях.

Памятка, затем матч

Об этом сообщает > со ссылкой на The Information. что Амодей заявил сотрудникам, что сообщения OpenAI о военной сделке равнозначны «прямой лжи», и охарактеризовал позицию компании как «театр безопасности».

> также сообщил, что переговоры Anthropic с Министерством обороны прервались после того, как Пентагон потребовал «неограниченного доступа» к технологиям Anthropic. Компания, которая, по словам >, уже имеет военный контракт на 200 миллионов долларов, хотела, чтобы Пентагон подтвердил, что она не будет использовать антропный ИИ для массового домашнего наблюдения или автономного вооружения.

Вместо этого OpenAI в конечном итоге пришла к соглашению, и этот контраст является центральной частью аргументов Амодеи. В меморандуме Амодей сформулировал этот разрыв как вопрос о том, где компании проводят границы и насколько честно они описывают эти линии, когда заказчиком являются военные США.

Линия «законных целей» на песке

Одной из горячих точек является язык контракта, который можно читать широко, даже когда компании заявляют, что они иметь ограждения. Публичное описание сделки OpenAI включает пункт, разрешающий использование «для всех законных целей», а также ряд ограничений, которые OpenAI называет «красными линиями».

В его сообщение о соглашенииOpenAI заявляет, что эти красные линии включают «отсутствие массового внутреннего наблюдения», «отсутствие управления автономными системами вооружения» и «отсутствие автоматизированных решений с высокими ставками». OpenAI также заявляет, что дополнительные формулировки контракта делают явными ограничения на внутреннее наблюдение и что развертывание осуществляется только в облаке с участием допущенного персонала OpenAI.

OpenAI также утверждает, что «законные цели» сочетаются с явными ограничениями в самом контракте, и подчеркивает, что соглашение ссылается на существующие законы и политику в том виде, в каком они существуют сегодня. Другими словами, компания позиционирует свои ограничения как договорные, а не просто обязательства на уровне блога.

Спор заключается не только в том, должны ли поставщики ИИ работать с оборонными заказчиками. Вопрос в том, соответствует ли публичное описание тому, что правительство на самом деле может делать по контракту, и означают ли такие термины, как «законные цели» и «ограждения», одно и то же для поставщиков, сотрудников и контролирующих органов.

Для более широкого рынка этот спор выдвигает на первый план практический вопрос: когда поставщик ИИ описывает ограничения на использование, соблюдаются ли эти ограничения посредством условий контракта, технического контроля или того и другого? Поскольку закупщики оборонной продукции и корпоративные заказчики требуют более подробной информации, компании могут столкнуться с необходимостью более точно описывать, для чего их модели можно и для чего нельзя использовать.

Противостояние также возникает на фоне более широких перестановок в партнерствах в сфере оборонного ИИ, включая Позиция правительства по отношению к антропным и конкурирующим поставщикам.

Также прочитайте: xAI Илона Маска подписывает сделку по внедрению Грока в секретные военные системы.