Когда компании, занимающиеся искусственным интеллектом, вступают в войну, безопасность остается позади

Я провел последние несколько дней просил компании, занимающиеся искусственным интеллектом, убедить меня в том, что перспективы Безопасность ИИ не потускнели. Всего несколько лет назад казалось, что существует всеобщее согласие между компании, законодателии широкой общественности, что серьезное регулирование и надзор за ИИ не просто необходимы, но и неизбежны. Люди размышляли о том, что международные организации устанавливают правила, гарантирующие, что к ИИ будут относиться более серьезно, чем к другим новым технологиям, и что это может, по крайней мере, создать препятствия для его наиболее опасных реализаций. Корпорации пообещали поставить безопасность выше конкуренции и прибыли. В то время как думеры все еще выдвигали антиутопические сценарии, формировался глобальный консенсус в отношении ограничения рисков ИИ и одновременного использования его преимуществ.

События последней недели нанесли сокрушительный удар по этим надеждам, начиная с горькая вражда между Пентагоном и Anthropic. Все стороны согласны с тем, что в существующем контракте между ними раньше было указано (по настоянию Anthropic), что Министерство обороны (которое теперь красноречиво называет себя Министерством войны) не будет использовать модели искусственного интеллекта Claude от Anthropic для автономного оружия или массовой слежки за американцами. Теперь Пентагон хочет стереть эти красные линии, и отказ Anthropic не только привел к расторжению контракта, но и побудил министра обороны Пита Хегсета объявить компанию риск цепочки поставок — обозначение, которое не позволяет государственным учреждениям вести дела с Anthropic. Не вдаваясь в подробности условий контракта и личных отношений между Хегсетом и генеральным директором Anthropic Дарио Амодеем, суть в том, что военные полны решимости противостоять любым ограничениям на использование ИИ, по крайней мере, в рамках законности – по их собственному определению.

Более серьезный вопрос, похоже, заключается в том, как мы дошли до того, что выпуск дронов-роботов-убийц и бомб, которые идентифицируют и уничтожают человеческие цели, оказался в разговоре как нечто, что американские военные даже могли бы рассмотреть. Пропустил ли я международные дебаты о преимуществах создания групп смертоносных автономных дронов, сканирующих зоны боевых действий, патрулирующих границы или следящих за контрабандистами наркотиков? Хегсет и его сторонники жалуются на абсурдность того, что частные компании ограничивают возможности военных. Я думаю, что это еще более безумно, когда одна компания рискует применить экзистенциальные санкции, чтобы остановить потенциально неконтролируемую технологию. В любом случае отсутствие международных соглашений означает, что каждое передовое ополчение должно использовать ИИ во всех его формах, просто чтобы не отставать от своих противников. Прямо сейчас гонка вооружений в области искусственного интеллекта кажется неизбежной.

Риски выходят далеко за рамки военных. Драма Пентагона была омрачена тревожное объявление Об этом Anthropic сообщило 24 февраля. Компания заявила, что вносит изменения в свою систему смягчения катастрофических рисков, связанных с ИИ, под названием «Политика ответственного масштабирования». Это было ключевой основополагающей политикой Anthropic, согласно которой компания обещала связать график выпуска моделей искусственного интеллекта с процедурами безопасности. В политике говорилось, что модели не следует запускать без ограждений, предотвращающих использование в худшем случае. Это послужило внутренним стимулом, чтобы гарантировать, что безопасность не будет пренебрегаться в стремлении к запуску передовых технологий. Что еще более важно, Anthropic надеялась, что принятие этой политики вдохновит или пристыдит другие компании сделать то же самое. Он назвал этот процесс «гонка на вершину». Ожидалось, что воплощение таких принципов поможет повлиять на общеотраслевые правила, устанавливающие ограничения на хаос, который может вызвать ИИ.

Поначалу этот подход казался многообещающим. DeepMind и OpenAI переняли аспекты структуры Anthropic. Совсем недавно, когда инвестиционные доллары резко выросли, конкуренция между лабораториями искусственного интеллекта усилилась, а перспектива федерального регулирования стала выглядеть все более отдаленной, Anthropic признала, что ее политика ответственного масштабирования не оправдала ожиданий. Пороговые значения не привели к консенсусу относительно рисков ИИ, на который они надеялись. Как отметила компания в своем блоге: «Политическая среда сместилась в сторону приоритета конкурентоспособности искусственного интеллекта и экономического роста, в то время как дискуссии, ориентированные на безопасность, еще не получили значимого развития на федеральном уровне».

Между тем, конкуренция между компаниями, занимающимися искусственным интеллектом, становится все более ожесточенной. Вместо гонки к вершине соперничество ИИ больше похоже на беспощадную версию «Царя горы». Когда Пентагон запретил Anthropic, OpenAI поспешила восполнить пробел, заключив собственный контракт с Министерством обороны. Генеральный директор OpenAI Сэм Альтман настаивал на том, что он заключил поспешное соглашение с Пентагоном, чтобы ослабить давление на Anthropic, но Амодей этого не хотел. «Сэм пытается подорвать нашу позицию, хотя и делает вид, что поддерживает ее», — сказал Амодей в своем заявлении. внутренняя записка. «Он пытается дать администратору возможность наказать нас, подорвав нашу общественную поддержку». (Амодей позже извинился за его тон в сообщении.)