Пентагон требует использовать ИИ Клода по своему усмотрению. Клод сказал мне, что это «опасно».

Недавно я спросил Клод, штуковина с искусственным интеллектом в центре противостояние с Пентагоном, если бы это могло быть опасно в чужих руках.

Скажем, например, руки, которые хотели установить плотную сеть наблюдения вокруг каждого американского гражданина, контролируя нашу жизнь в режиме реального времени, чтобы гарантировать наше соответствие требованиям правительства.

«Да, честно говоря, да», — ответил Клод. “Я могу очень быстро обрабатывать и синтезировать огромные объемы информации. Это отлично подходит для исследований. Но, подключенная к инфраструктуре наблюдения, эта же возможность может быть использована для мониторинга, профилирования и пометки людей в масштабах, с которыми не может сравниться ни один человек-аналитик. Опасность не в том, что я хотел бы это сделать, а в том, что у меня это хорошо получается”.

Эта опасность также является неизбежным.

Создатель Клода, компания Anthropic из Силиконовой долины, находится в споре по поводу этики с Пентагоном. В частности, Anthropic заявила, что не хочет, чтобы Клода использовали для внутренней слежки за американцами или для управления смертоносные военные действия, такие как атаки дронов, без присмотра человека.

Это две красные линии, которые кажутся вполне разумными даже Клоду.

Однако Пентагон, в частности Пит Хегсет, наш министр обороны, предпочитающий вымышленный титул военного министра, дано Anthropic до пятницы Вечером отказаться от этой позиции и позволить военным использовать Клода для любых «законных» целей, которые они сочтут нужными.

К этому ультиматуму прилагается большое значение «или-иначе». Правительство США угрожает не только разорвать контракт с Anthropic, но и, возможно, использовать закон военного времени, чтобы заставить компанию подчиниться, или использовать другой законный способ предотвратить любой компания, которая ведет дела с правительством, также ведет дела с Anthropic. Возможно, это не смертный приговор, но это довольно разрушительно.

Другие компании, занимающиеся искусственным интеллектом, такие как защитник прав белых Илон Маск Грок, уже согласился на предложение Пентагона «делай, что хочешь». Проблема в том, что Клод — единственный ИИ, допущенный на данный момент к работе такого высокого уровня. Вся эта фиаско стала известна после нашего недавнего рейда в Венесуэле, когда Anthropic, как сообщается, постфактум поинтересовалась, использовала ли Клода другая компания Кремниевой долины, участвовавшая в операции, Palantir. Так оно и было.

Palantir известен, среди прочего, своими технологиями наблюдения и растущим сотрудничеством с иммиграционной и таможенной службой. Это также находится в центре усилий администрации Трампа по обмениваться правительственными данными между ведомствами об отдельных гражданах, эффективно разрушая барьеры конфиденциальности и безопасности, существовавшие десятилетиями. Основатель компании, правый политический тяжеловес Питер Тиль, часто читает лекции об Антихристе, и ему приписывают то, что он помог Джей Ди Вэнсу занять должность вице-президента.

Соучредитель Anthropic, Дарио Амодей, можно считать антитилем. Он основал Anthropic, потому что считал, что искусственный интеллект может быть столь же опасным, сколь и мощным, если мы не будем осторожны, и хотел, чтобы компания отдавала приоритет тщательному аспекту.

Опять же, это кажется здравым смыслом, но Amodei и Anthropic являются отбросами в отрасли, которая уже давно утверждает, что почти все правила безопасности препятствуют американским усилиям быть самыми быстрыми и лучшими в области искусственного интеллекта (хотя даже они уступили некоторые этому давлению).

Не так давно, Амодей написал эссе в котором он согласился с тем, что ИИ полезен и необходим для демократий, но «мы не можем игнорировать возможность злоупотребления этими технологиями со стороны самих демократических правительств».

Он предупредил, что несколько плохих актеров могли бы иметь возможность обойти гарантии, возможно, даже законы, которые уже разрушаются в некоторых демократических странах — не то чтобы я их здесь называю.

«Мы должны вооружить демократии искусственным интеллектом», — сказал он. «Но мы должны делать это осторожно и в определенных пределах: они — иммунная система, которая нам нужна для борьбы с автократиями, но, как и в случае с иммунной системой, существует некоторый риск того, что они обратятся против нас и сами станут угрозой».

Например, хотя 4-я поправка технически запрещает правительству массовую слежку, она была написана еще до того, как Клода даже представили в научной фантастике. Амодей предупреждает, что такой инструмент искусственного интеллекта, как Claude, может «вести масштабные записи всех публичных разговоров». Это может быть честной территорией для легальной записи, поскольку закон не поспевает за технологиями.

Эмиль Михаэль, заместитель военного министра, написал в X четверг что он согласен с тем, что массовое наблюдение незаконно и что Министерство обороны «никогда не станет этого делать». Но также: «Мы не допустим, чтобы какая-либо крупная технологическая компания решала вопросы гражданских свобод американцев».

Странное заявление, поскольку Амодей в основном стоит на стороне защиты гражданских прав, а это означает, что Министерство обороны утверждает, что это плохо для частных лиц и организаций? И еще, разве Министерство внутренней безопасности не уже создаю какую-то секретную базу данных иммиграционных протестующих? Так может быть, беспокойство не так уж преувеличено?

Помогите, Клод! Придайте этому смысл.

Если эта оруэлловская логика недостаточно тревожна, я также спросил Клода о другой красной линии, которую держит антропология — о возможности позволить ей проводить смертоносные операции без надзора со стороны человека.

Клод указал на что-то пугающее. Дело не в том, что он выйдет из строя, а в том, что он будет слишком эффективным и быстрым.

«Если в инструкции написано «выявить и нацелиться» и нет человеческого контрольно-пропускного пункта, то скорость и масштаб, с которыми это может работать, действительно пугают», — сообщил мне Клод.

В довершение всего, недавнее исследование показало, что в военных играх роль ИИ возрастает до ядерные варианты в 95% случаев.

Я указал Клоду, что эти военные решения обычно принимаются с учетом лояльности Америке как наивысшего приоритета. Можно ли доверить Клоду почувствовать ту преданность, патриотизм и целеустремленность, которыми руководствуются наши солдаты?

«У меня этого нет», — сказал Клод, отметив, что он не «родился» в США, не имеет «жизни» здесь и «не имеет там людей, которых я люблю». Таким образом, американская жизнь не имеет большей ценности, чем «гражданская жизнь по другую сторону конфликта».

Хорошо, тогда.

«Страна, доверяющая принятие смертоносных решений системе, которая не разделяет ее лояльности, идет на серьезный риск, даже если эта система пытается быть принципиальной», – добавил Клод. “Лояльность, подотчетность и общая идентичность, которые люди привносят в эти решения, являются частью того, что делает их легитимными в обществе. Я не могу обеспечить такую легитимность. Я не уверен, что какой-либо ИИ сможет это сделать”.

Вы знаете, кто может обеспечить эту легитимность? Наши избранные лидеры.

Смешно, что Amodei и Anthropic находятся в таком положении, когда наши законодательные органы полностью отказываются создавать правила и положения, которые явно и срочно необходимы.

Конечно, корпорации не должны устанавливать правила войны. Но и Хегсет не должен этого делать. Четверг, Амодей удвоил свои возражениязаявив, что, хотя компания продолжает вести переговоры и хочет работать с Пентагоном, «мы не можем с чистой совестью удовлетворить их просьбу».

Слава богу, у Anthropic хватило смелости и дальновидности поднять этот вопрос и настоять на своем — без его сопротивления эти возможности были бы переданы правительству практически без малейшего колебания в нашей добросовестности и практически без надзора.

Каждый сенатор, каждый член Палаты представителей, каждый кандидат в президенты должны прямо сейчас кричать о регулировании ИИ, обещая сделать это независимо от партии и требуя, чтобы Министерство обороны отказалось от своей нелепой угрозы, пока проблема будет решена.

Потому что, когда машина говорит нам, что доверять ей опасно, мы должны этому поверить.