Чему углеродные рынки могут научить нас управлению передовым искусственным интеллектом

В 2005 году Европейский Союз запустил крупнейшую в мире систему торговли выбросами углерода. Идея была проста: установить ограничение на общий объем выбросов, раздать разрешения и позволить загрязнителям торговать ими. Те, кто дешево сократит выбросы, смогут продать свои излишки; те, кто не мог, должны были заплатить. Поначалу система была несовершенной. Разрешений было выделено слишком много, цены упали, а критики объявили эксперимент неудачным. Затем регуляторы ужесточили ограничения. Сегодня, выбросы, охватываемые схемой ЕС, сократились примерно на 47%.

Управление искусственным интеллектом (ИИ) застряло там, где климатическая политика была до введения ограничений и торговли квотами. Больше, чем 60 стран опубликовали национальные стратегии в области ИИи сотни компаний подписали добровольные обязательства по обеспечению безопасности. Тем не менее, передовые разработки в области искусственного интеллекта продолжают концентрироваться в руках горстки компаний, инвестиции в безопасность остаются в значительной степени дискреционными, и у большинства стран нет практических рычагов влияния на системы, которые изменят их экономику. Благие намерения не изменили лежащие в основе стимулы.

Углеродные рынки решили эту проблему, определив измеримые показатели регулирования. Управление ИИ может сделать то же самое, и у него есть еще лучший измерительный инструмент.

Самые мощные системы искусственного интеллекта больше не ограничиваются одними идеями. Они ограничены чипами, центрами обработки данных, электричеством, водой и цепочками поставок. Международное энергетическое агентство По оценкам, потребление электроэнергии в центрах обработки данных в мире достигнет примерно 415 тераватт-часов в 2024 году и может превысить 945 тераватт-часов к 2030 году, что сопоставимо с общим потреблением электроэнергии в Японии. Это сдвиг в промышленном масштабе, а не история нишевой технологии.

Эта физическая нагрузка – это возможность для управления. Вычисления измеряются, регистрируются и выставляются счета. Поставщики облачных услуг уже отслеживают использование графического процессора в часе. В то время как регулирование содержания или возможностей моделей ИИ предполагает субъективные суждения, регулирование вычислений означает работу с физической величиной, которую можно проверить независимо, подобно тому, как выбросы углерода можно измерить в дымовой трубе.

Представьте себе структуру, созданную по принципу ограничения и торговли квотами. Регулирующий орган определяет, какие тренировочные прогоны являются наиболее важными, используя пороговые значения вычислений и соответствующие сигналы о возможностях. Он устанавливает совокупный лимит вычислительных ресурсов, доступных для этих запусков в течение определенного периода. Разработчики получают разрешения, выраженные в вычислительных единицах.

Важно отметить, что разрешения взвешены с учетом риска. Независимые оценки определяют множитель риска, который увеличивает или уменьшает требования к разрешениям. Разработчики, которые демонстрируют более строгие меры защиты и меньший риск неправомерного использования, сталкиваются с более низкими фактическими обязательствами на единицу вычислений. Те, кто не сталкивается с высшим. Это превращает усилия по обеспечению безопасности из заявления по связям с общественностью в затратные затраты, которые компании могут сократить, инвестируя в оценку, безопасность и гарантии развертывания.

Поскольку разрешения являются предметом торговли, рынок распределяет ограниченные передовые вычислительные мощности для наиболее выгодных видов использования и находит путь к соблюдению требований с наименьшими затратами, избегая жесткости предписывающих правил, которые устаревают по мере развития технологий. Правоприменение зависит от случайных проверок и ужесточения штрафов. Цель состоит не в том, чтобы контролировать каждую пробежку в режиме реального времени. Это делается для того, чтобы сделать соблюдение требований дешевле, чем уклонение от них.

Альянс управления искусственным интеллектом Всемирного экономического форума подчеркнул, что значимое глобальное управление ИИ требует широкого участия. Тем не менее, большинство дискуссий по вопросам управления по-прежнему ограничиваются небольшой группой богатых стран и крупных технологических компаний. Большая часть мира в настоящее время принимает цены на ИИ и зависит от нескольких юрисдикций в отношении чипов и доступа к облаку.

Разрешительные аукционы приносят доход. Эти доходы могут финансировать возможности аудита, инфраструктуру оценки и общественные блага, связанные с безопасностью, в странах, которые в настоящее время их не имеют. Коалиции могут договориться о взаимном признании проверок, что снизит трудности с соблюдением требований для ответственных разработчиков. Для средних держав и развивающихся стран Юго-Восточной Азии, Африки и Латинской Америки это уменьшает ложный выбор между неуправляемой зависимостью и дорогостоящим, нереалистичным стремлением к самодостаточности.

Не следует заходить слишком далеко в аналогии между углеродом и вычислениями. Вычисления не наносят вреда, и система разрешений будет одним из уровней в более широком стеке управления, который включает в себя оценки, отчеты об инцидентах и правила для конкретных приложений. На калибровку углеродных рынков ушли годы, поскольку они страдали от чрезмерного распределения и сомнительных компенсаций. Система разрешений на вычисления столкнется со своими собственными проблемами: определение того, какие тренинги квалифицируются как наиболее важные, предотвращение фрагментации рабочей нагрузки разработчиками, чтобы она оставалась ниже пороговых значений, и обеспечение того, чтобы инфраструктура мониторинга не стала инструментом государственного надзора за частными инновациями.

Это серьезные проблемы проектирования, а не причины отказаться от этого подхода. Финансовые регуляторы уже справляются с аналогичной напряженностью. Требования к капиталу, взвешенные с учетом риска в банковском деле предполагают те же компромиссы между измеримостью, игрой и правоприменением. Урок как углеродных рынков, так и финансового регулирования заключается в том, что несовершенное ценообразование по-прежнему превосходит отсутствие ценообразования вообще.

Следующие два-три года представляют собой узкое окно. Цепочки поставок компьютерных технологий перестраиваются под воздействием экспортного контроля, промышленной политики и рекордные капитальные затраты. Системы управления, созданные в этот период, определят условия для нового поколения. Если международное сообщество будет ждать, пока приграничный потенциал станет еще более сконцентрированным, политическая экономия реформ станет намного сложнее.

Углеродные рынки преподали политикам урок, который остается в силе до сих пор: вам не нужен идеальный контроль, чтобы создать значимые стимулы. Вам нужна измеримая единица, четкие правила мониторинга и система, которая сделает соблюдение требований проще, чем уклонение от них. Управление ИИ может адаптировать этот урок. Разрешения на вычисления с учетом рисков не решат всех проблем. Но они могут помочь миру перейти от лозунгов к масштабируемым стимулам именно в тот момент, когда возможности ИИ и инфраструктура ускоряются вместе.