Американский план обеспечения безопасности ИИ сталкивается с бюджетным кризисом

В письме законодателей также утверждается, что NIST торопится определить стандарты, хотя исследования по тестированию систем искусственного интеллекта находятся на ранней стадии. В результате среди экспертов по ИИ существуют «серьезные разногласия» по поводу того, как работать или даже измерять и определять проблемы безопасности с помощью этой технологии, говорится в докладе. «Текущее состояние области исследований в области безопасности искусственного интеллекта создает проблемы для NIST, поскольку он играет лидирующую роль в этом вопросе», — говорится в письме.

Представитель NIST Дженнифер Уэрго подтвердила, что агентство получило письмо, и заявила, что «отреагирует по соответствующим каналам».

NIST предпринимает некоторые шаги, которые повысят прозрачность, включая выпуск запрос информации 19 декабря, собирая мнения внешних экспертов и компаний по стандартам оценки и объединения моделей ИИ. Неясно, был ли это ответ на письмо, отправленное членами Конгресса.

Обеспокоенность, высказанную законодателями, разделяется некоторыми экспертами в области ИИ, которые потратили годы на разработку способов исследования систем ИИ. «Как беспристрастный научный орган, NIST — лучшая надежда развеять шумиху и спекуляции вокруг рисков ИИ», — говорит Румман Чоудхури, специалист по данным и генеральный директор компании. Паритетный консалтинг кто специализируется на тестирование моделей ИИ на предмет предвзятости и других проблем. «Но для того, чтобы хорошо выполнять свою работу, им нужно нечто большее, чем просто мандаты и добрые пожелания».

Ясин Джернит, руководитель отдела машинного обучения и общества в Hugging Face, компании, которая поддерживает проекты искусственного интеллекта с открытым исходным кодом, говорит, что у крупных технологических компаний гораздо больше ресурсов, чем у агентства, играющего ключевую роль в реализации амбициозного плана Белого дома по искусственному интеллекту. «NIST проделал потрясающую работу по управлению рисками, связанными с искусственным интеллектом, но необходимость найти немедленные решения долгосрочных проблем делает их миссию чрезвычайно сложной», — говорит Джернит. «У них значительно меньше ресурсов, чем у компаний, разрабатывающих наиболее эффективные технологии. видимые системы искусственного интеллекта».

Маргарет Митчелл, главный специалист по этике Hugging Face, говорит: растущая секретность вокруг коммерческих моделей искусственного интеллекта делает измерения более сложными для такой организации, как NIST. «Мы не можем улучшить то, что не можем измерить», — говорит она.

Указ Белого дома призывает NIST выполнить несколько задач, включая создание нового Института безопасности искусственного интеллекта для поддержки разработки безопасного ИИ. В апреле британская рабочая группа, занимающаяся вопросами безопасности искусственного интеллекта, была объявлено. Он получит стартовое финансирование в размере 126 миллионов долларов.

Распоряжение дало NIST жесткие сроки для разработки, среди прочего, рекомендаций по оценке моделей ИИ, принципов Модели «красной команды» (состязательного тестирования)разрабатывая план по привлечению стран-союзников США к согласию со стандартами NIST, а также разрабатывая план «продвижения ответственных глобальных технических стандартов для разработки ИИ».

Хотя неясно, как NIST взаимодействует с крупными технологическими компаниями, в дискуссиях по системе управления рисками NIST, которые проходили до объявления указа, участвовала Microsoft; Anthropic, стартап, созданный бывшими сотрудниками OpenAI и создающий передовые модели искусственного интеллекта; Партнерство по искусственному интеллекту, которое представляет крупные технологические компании; и Институт будущего жизни, некоммерческая организация, занимающаяся экзистенциальным риском, среди прочих.

«Как количественный социолог, я одновременно люблю и ненавижу то, что люди осознают, что сила в измерении», — говорит Чоудхури.