Тран Нгуен
Сакраменто, Калифорния. (AP) – губернатор Калифорнии Гэвин Ньюсом в понедельник подписал закон, направленный на то, чтобы предотвратить использование людей Мощные модели искусственного интеллекта Для потенциально катастрофических мероприятий, таких как создание биологического набора или закрытие банковской системы.
Этот шаг произошел, когда Newsom объявил Калифорнию в качестве лидера в области регулирования искусственного интеллекта и раскритиковал бездействие на федеральном уровне в недавнем разговоре с бывшим президентом Биллом Клинтоном. Новой законодательство установит некоторые правила первой в нации на крупномасштабных моделях искусственного интеллекта, не причиняя вреда доморощенной индустрии штата, сказал Newsom. Многие из лучших компаний ИИ в мире расположены в Калифорнии и должны будут следовать требованиям.
«Калифорния доказала, что мы можем установить правила для защиты наших сообществ, а также гарантировать, что растущая индустрия ИИ продолжает процветать. Это законодательство достигает баланса», – говорится в заявлении Newsom.
Законодательство требует, чтобы компании ИИ внедрили и раскрывали публичные протоколы безопасности, чтобы предотвратить использование их наиболее продвинутых моделей для нанесения значительного вреда. Правила предназначены для охвата систем искусственного интеллекта, если они соответствуют «пограничному» порогу, который сигнализирует, что они работают на огромном количестве вычислительной мощности.
Такие пороги основаны на том, сколько вычислений выполняют компьютеры. Те, кто разработал правила, признали, что числовые пороги являются несовершенной отправной точкой, чтобы отличить сегодняшние генеративные системы ИИ с самым высоким показателем от следующего поколения, которые могут быть еще более мощными. Существующие системы в значительной степени производятся калифорнийскими компаниями, такими как Anpropic, Google, Metaflamts и Openai.
Законодательство определяет катастрофический риск как что -то, что нанесет ущерб не менее 1 миллиарда долларов или более 50 травм или смертей. Он предназначен для защиты от ИИ, используемого для действий, которые могут вызвать массовые сбои, такие как взламывание в силовую сетку.
Компании также должны сообщить штату о любых критических инцидентах безопасности в течение 15 дней. Закон создает защиту от информаторов для работников ИИ и устанавливает общественное облако для исследователей. Он включает в себя штраф в размере 1 миллиона долларов за нарушение.
Это вызвало оппозицию со стороны некоторых технологических компаний, которые утверждали, что законодательство искусственного интеллекта должно быть выполнено на федеральном уровне. Но Антропик сказал, что правила являются «практическими гарантиями», которые делают официальные методы безопасности, которые многие компании уже делаю добровольноПолем
«Несмотря на то, что федеральные стандарты остаются необходимыми, чтобы избежать лоскутной работы государственных правил, Калифорния создала сильную основу, которая уравновешивает общественную безопасность с постоянными инновациями»,-заявил в своем заявлении Джек Кларк, соучредитель и глава отдела политики.
Подписание поступило после того, как в прошлом году Newsom в прошлом году наложил вето на более широкую версию законодательства, вставая на сторону технологических компаний, которые заявили, что требования были слишком жесткими и затрудняли бы инновации. Вместо этого Newsom спросил группу из нескольких отраслевых экспертов, включая AI Pioneer Fei-fei liчтобы разработать рекомендации по ограждениям вокруг мощных моделей ИИ.
По словам сторонников, новый закон включает в себя рекомендации и отзывы от группы экспертов по ИИ Newsom и отрасли. Законодательство также не устанавливает такого же уровня требований к отчетности на стартапы, чтобы избежать повреждения инноваций, сказал сенатор штата Скотт Винер из Сан -Франциско, автор законопроекта.
«С этим законом Калифорния, опять же, усиливается как мировой лидер как в области технологических инноваций, так и в безопасности», – говорится в заявлении Винера.
Решение Newsom принято, поскольку президент Дональд Трамп в июле объявил о плане устранения того, что его администрация считает «обременительными» правилами для ускорения инноваций ИИ и укрепить позицию США как мирового лидера ИИ. Республиканцы в Конгрессе в начале этого года безуспешно пытались запретить государства и населенные пункты от регулирования ИИ в течение десяти лет.
Без более сильных федеральных правил штаты по всей стране провели последние несколько лет, пытаясь обуздать технологию, заняв все: от Deepfakes на выборах до AI «Терапия». В Калифорнии законодательный орган в этом году принял ряд счетов для решения проблем безопасности вокруг чат -ботов ИИ для детей и использования ИИ на рабочем месте.
Калифорния также была ранним воспитателем технологий ИИ. У штата есть Развернутые генеративные инструменты искусственного интеллекта Помимо того, чтобы обнаружить лесные пожары и рассмотреть застой на шоссе и безопасность дорожного движения, среди прочего.
Репортер Associated Press Мэтт О’Брайен внес свой вклад в отчет.
Первоначально опубликовано:
2025-09-29 23:27:00
1759193102
#Калифорнийский #губернатор #Gavin #Newsom #подписывает #знаменательный #законопроект #создавая #меры #безопасности #искусственного #интеллекта
Ещё по этой теме
