Технологические компании под давлением, как губернатор Калифорнии весит счета

Калифорнийские законодатели хотят, чтобы губернатор Гэвин Ньюсом утвердил законопроекты, которые они приняли, которые направлены на то, чтобы сделать чат -боты искусственного интеллекта более безопасными. Но когда губернатор весит, следует ли подписывать законодательство в закон, он сталкивается с знакомым препятствием: возражения со стороны технологических компаний, которые говорят, что новые ограничения будут препятствовать инновациям.

Калифорнийские компании являются мировыми лидерами в ИИ и потратили сотни миллиардов долларов, чтобы оставаться впереди в гонке, чтобы создать самых мощных чат -ботов. Быстрый темп встревожил родителей и законодателей обеспокоенность тем, что чат-боты наносят ущерб психическому здоровью детей, подвергая их содержанию самоповреждения и другими рисками.

Родители, которые утверждают, что чат -боты поощряют своих подростков нанести себе вред до того, как они умерли от самоубийств, подали в суд на технологические компании, такие как Openai, персональные технологии и Google. Они также подтолкнули к большему количеству ограждений.

Призывы к большему количеству регулирования ИИ отразились по всей столице страны и различных штатов. Даже когда администрация Трампа «План действий ИИ» Предлагает сократить красную ленту, чтобы поощрять развитие ИИ, законодатели и регуляторы обеих сторон решают проблемы безопасности детей, связанные с чат -ботами, которые отвечают на вопросы или выступают в качестве цифровых компаньонов.

Калифорнийские законодатели в этом месяце приняли два счета за безопасность AI чат -ботов, с которыми лоббировала технологическая индустрия. Newsom должен до середины октября одобрить или отвергнуть их.

Решение с высокими ставками ставит губернатора в сложное место. Политики и технологические компании хотят заверить общественность, что они защищают молодых людей. В то же время технологические компании пытаются расширить использование чат -ботов в классах и выступают против новых ограничений, которые, по их словам, заходят слишком далеко.

Между тем, если Newsom будет баллотироваться на пост президента в 2028 году, ему может понадобиться больше финансовой поддержки со стороны богатых технических предпринимателей. 22 сентября Newsom продвигал партнерские отношения штата с технологическими компаниями в отношении усилий по ИИ и рекламировала, как технологическая индустрия подпитывала экономику Калифорнии, назвав штат «эпицентром американских инноваций».

В прошлом он наложил вето на законодательство о безопасности ИИ, включая счет В прошлом году это разделило технологическую индустрию Силиконовой долины, потому что губернатор думал, что это дало общественности «ложное чувство безопасности». Но он также дал понять, что пытается найти баланс между решением проблем безопасности и обеспечением того, чтобы калифорнийские технологические компании продолжали доминировать в ИИ.

«У нас есть чувство ответственности и подотчетности, чтобы вести, поэтому мы поддерживаем риск, но не безрассудство»,-сказал Ньюсом в дискуссия с бывшим президентом Клинтоном на мероприятии по глобальной инициативе Клинтона в среду.

Два законопроекта, отправленные губернатору – законопроект об Ассамблее 1064 и законопроект Сената 243 – стремятся сделать AI чат -ботов более безопасными, но столкнулись с жесткой оппозицией со стороны технологической индустрии. Неясно, подпишет ли губернатор оба законопроекта. Его офис отказался от комментариев.

AB 1064 запрещает человеку, бизнесу и другому организации от создания компаньонов-чат-ботов, доступных для жителя Калифорнии в возрасте до 18 лет, если только чат-бот не «предвидно способен» к вредному поведению, такому как поощрение ребенка к самоповреждению, насилию или беспорядочному питанию.

SB 243 требует, чтобы операторы компаньонов чат -ботов уведомили определенных пользователей о том, что виртуальные помощники не люди.

В соответствии с законопроектом, операторы чат-ботов должны были бы иметь процедуры для предотвращения производства самоубийства или содержания самоповреждений и поставки ограждений, таких как направление пользователей на горячую линию самоубийства или текстовую линию кризиса.

Они должны были бы уведомлять о незначительных пользователях, по крайней мере, каждые три часа, чтобы сделать перерыв, и что чат -бот не является человеком. Операторы также потребуются для реализации «разумных мер», чтобы предотвратить создание явного контента в сексуальном отношении.

Tech Lobby Group Technet, членами которой включают OpenAI, Meta, Google и другие, заявила в своем заявлении, что «соглашается с намерением законопроектов», но остается против них.

AB 1064 «накладывает смутные и неработающие ограничения, которые создают широкие юридические риски, в то же время вырезая студентов от ценных инструментов обучения ИИ», – заявил Роберт Бойкин, исполнительный директор Technet в Калифорнии и юго -западе. «SB 243 устанавливает более четкие правила, не блокируя доступ, но у нас по -прежнему возникают проблемы с его подходом».

Представитель Meta сказал, что у компании «обеспокоены непреднамеренные последствия, которые будут иметь такие показатели, как AB 1064». Техническая компания запустила новый Супер Пак Для борьбы с государственным регулированием, которое компания считает слишком обременительным, и стремится к большему родительскому контролю над тем, как дети используют искусственный интеллект, Аксиос сообщил во вторник.

Противники во главе с компьютерной и коммуникационной отраслью Assn. Агрессивно лоббировал AB 1064, заявив, что это угрожает инновациям и не затрагивает калифорнийские компании, которые столкнулись бы с большим количеством судебных процессов и должны решить, хотят ли они продолжать работать в штате.

Группы адвокации, в том числе здравый смысл СМИ, некоммерческая организация, которая спонсировала AB 1064 и рекомендует несовершеннолетним не использовать компаньонов ИИ, призывают Newsom подписать законопроект. Калифорния Атти. Генерал Роб Бонта также поддерживает счет.

Фонд Electronic Frontier сказал, что SB 243 слишком широкий и сталкивается с проблемами свободной речи.

Несколько групп, в том числе здравый смысл в СМИ и технологическом надзоре в Калифорнии, удалили свою поддержку SB 243 после того, как были внесены изменения в законопроект, который, по их словам, ослабил защиту. Некоторые из изменений Limited, которые получают определенные уведомления и включали исключения для определенных чат -ботов в видеоиграх и виртуальных помощников, используемых в интеллектуальных динамиках.

Законодатели, которые ввели законодательство о безопасности чат -ботов, хотят, чтобы губернатор подписывал оба законопроекта, утверждая, что они могут «работать в гармонии».

Сенатор Стив Падилья (D-Chula Vista), который представил SB 243, сказал, что даже с изменениями, которые он все еще считает, что новые правила станут более безопасным.

«У нас есть технология, которая имеет большой потенциал для добра, невероятно мощный, но развивается невероятно быстро, и мы не можем пропустить окно, чтобы обеспечить здесь ограждения здравого смысла, чтобы защитить людей», – сказал он. «Я доволен тем, где находится счет».

Ассамблера Ребекка Бауэр-Кахан (D-Orinda), которая написала AB 1064, сказала, что ее законопроект уравновешивает преимущества искусственного интеллекта, защищая от опасностей.

«Мы хотим убедиться, что, когда дети взаимодействуют с каким -либо чат -ботом, это не создает нездоровую эмоциональную привязанность, направляя их к самоубийству, беспорядочному питанию, любые вещи, которые, как мы знаем, вредны для детей», – сказала она.

Во время законодательной сессии законодатели слышали от скорбящих родителей, которые потеряли своих детей. AB 1064 подчеркивает два громких судебных процесса: один против производителя San Francisco Chatgpt Openai и другого против персонажей Technologies, разработчика Platform Platform.ai.

Персонаж это платформа, где люди могут создавать и взаимодействовать с цифровыми персонажами, которые имитируют реальных и вымышленных людей. В прошлом году в федеральном судебном иске Флорида Мама Гарсия утверждала, что чат -боты персонажа. Повреяли психическое здоровье ее сына Сьюэлла Сетцера III и обвинили компанию в том, что он не уведомил ее или предложил помощь, когда он выразил мысли о самоубийстве виртуальным персонажам.

Больше семей подали в суд на компанию в этом году. А Персонаж Пресс -секретарь сказал, что они очень глубоко заботятся о безопасности пользователей и «поощряют законодателей надлежащим образом создавать законы, которые способствуют безопасности пользователей, а также позволяют достаточно места для инноваций и свободного выражения».

В августе калифорнийские родители Адама Рейна подали в суд на Openai, утверждая, что CHATGPT предоставил подростку информацию о методах самоубийства, в том числе тот, который подросток использовал для себя.

Openai заявила, что укрепляет гарантии и планирует выпустить родительский контроль. Его исполнительный директор Сэм Альтман написал в сентябрьском блоге, что компания считает, что несовершеннолетним нуждаются в «значительной защите», а компания распределяет «безопасность перед конфиденциальностью и свободой для подростков». Компания отказалась комментировать калифорнийские счета за чат -бот.

Для калифорнийских законодателей часы тикают.

«Мы делаем все возможное»,-сказал Бауэр-Кахан. «Тот факт, что мы уже видели, как дети теряют свою жизнь из -за ИИ, говорит мне, что мы не двигаемся достаточно быстро».