Почему California SB 53 может предоставить значимую проверку на крупные компании ИИ

Сенат штата Калифорния недавно дал окончательное одобрение нового законопроекта о безопасности искусственного интеллекта, SB 53, Отправка его губернатору Гэвину Ньюсом либо подписать, либо вето.

Если все это звучит знакомо, это потому, что Newsom Наложил вето на другой счет за безопасность искусственного интеллектатакже написанный сенатором штата Скоттом Винером, в прошлом году. Но SB 53 более узкий, чем предыдущий SB 1047 Wiener, с акцентом на крупные компании по искусственному искусству, получающие годовой доход более 500 миллионов долларов.

У меня была возможность обсудить SB 53 с моими коллегами Максом Зеффом и Кирстеном Коросеком в последнем эпизоде Флагманский подкаст >Полем Макс считает, что новый законопроект Винера имеет лучший удар по закону, отчасти из -за этой большой компании, и потому что это было Одобрена компанией AI AnpropicПолем

Прочитайте предварительный просмотр нашего разговора о безопасности ИИ и законодательства на уровне штата ниже. (Я отредактировал стенограмму для длины и ясности, и чтобы мы звучали немного умнее.)

Макс: Почему вы должны заботиться о законодательстве по безопасности искусственного интеллекта, который проходит камеру в Калифорнии? Мы вступаем в эту эпоху, когда компании ИИ становятся самыми мощными компаниями в мире, и это будет потенциально одним из немногих проверок их власти.

Это намного уже, чем SB 1047, который получил много отталкивания в прошлом году. Но я думаю, что SB 53 по -прежнему вкладывает некоторые значимые правила в лаборатории ИИ. Это заставляет их публиковать отчеты о безопасности для своих моделей. Если у них инцидент, это в основном заставляет их сообщить об этом правительству. И это также, для сотрудников этих лабораторий, если у них есть опасения, дает им канал, чтобы сообщить об этом правительству, а не отказываться от компаний, хотя многие из них подписали NDAS.

Для меня это похоже на потенциально значимую проверку власти технологических компаний, чего у нас на самом деле не было за последние пару десятилетий.

Кирстен: По вашему мнению, почему это имеет значение на государственном уровне, важно подумать о том, что это Калифорния. Каждая крупная компания ИИ в значительной степени, если не здесь, она основана здесь, она имеет серьезную площадку в этом штате. Не то чтобы другие штаты не имели значения – я не хочу получать электронные письма от людей в Колорадо или что -то в этом роде – но важно, чтобы это специально Калифорния, потому что это действительно центр деятельности ИИ.

Мой вопрос к вам, хотя, макс, просто кажется, что есть много исключений и вырезанных. Это уже, но это сложнее, чем предыдущий [bill]?

Макс: В некотором смысле, да. Я бы сказал, что основной вырез этого законопроекта является то, что он действительно пытается не относиться к небольшим стартапам. И в основном, одна из главных противоречий в последних законодательных усилиях сенатора Скотта Вайнера, который представляет Сан -Франциско, который является автором этого законопроекта, многие люди сказали, что это может нанести ущерб экосистеме стартапов, с которой многие люди не согласны с этим, потому что это такая процветающая часть экономики Калифорнии.

Этот законопроект специально относится к разработчикам ИИ [generating] более 500 миллионов долларов [from] их модели ИИ. Это действительно пытается нацеливаться на Openai, Google DeepMind, эти крупные компании, а не ваш стартап.

Энтони: Насколько я понимаю, если вы меньший стартап, вам нужно поделиться информацией о безопасности, но не так много.

Его [also] Стоит поговорить о более широком ландшафте вокруг регулирования ИИ и о том, что одно из больших изменений между прошлым годом, и в этом году теперь у нас есть новый президент. Федеральная администрация заняла гораздо большую позицию в отношении никакого регулирования, и компании должны иметь возможность делать то, что они хотят, в той степени, в которой они фактически включили [language] в финансировании счетов говорят У штатов не может быть собственного регулирования ИИПолем

Я не думаю, что что -то из этого прошло до сих пор, но потенциально они могли бы попытаться пройти это в будущем. Так что это может быть еще один фронт, в котором борются администрация Трампа и голубые государства.

Equity – это флагманский подкаст >, созданный Терезой Локонсоло, и посты каждую среду и пятницу.

Подписаться на нас на Яблочные подкастыВ ПасмурноеВ Spotifyи все актеры. Вы также можете следовать капиталу на Х и Нитьна @equitypod.