Почему сенатор от Калифорнии настаивает на четырехлетнем запрете США на использование чат-ботов с искусственным интеллектом в детских игрушках

Сенатор штата Калифорния Стив Падилья представил закон, предлагающий четырехлетний запрет на использование чат-ботов с искусственным интеллектом в детских игрушках, сославшись на опасения по поводу безопасности, конфиденциальности и риска вредного взаимодействия. 59-летний депутат заявил, что быстрый прогресс в области искусственного интеллекта опережает правила, призванные защитить молодых пользователей.

Этот шаг направлен на то, чтобы дать регулирующим органам, родителям и разработчикам время лучше понять, как игрушки с искусственным интеллектом влияют на детей, в том числе до 18 лет. Падилья подчеркнул, что продукты, предназначенные для игр, не должны подвергать несовершеннолетних воздействию непроверенных технологий или неконтролируемому сбору данных.

Предлагаемый законопроект, известный как Сенатский законопроект 867, отражает растущее беспокойство среди экспертов и родителей, которые задаются вопросом, можно ли доверять ИИ-компаньонам в отношении детей без строгих и надежных мер безопасности. Временный запрет также позволит разработать более четкие стандарты до того, как такие игрушки попадут в дома и классы.

Предупредительная пауза в инструментах искусственного интеллекта и чат-ботах

В пресс-релиз В опубликованном в Интернете Падилья объяснил, что инструменты искусственного интеллекта и чат-боты в конечном итоге станут значительной частью человечества. Однако он подчеркнул необходимость серьезно учитывать потенциальные риски этих нововведений, сославшись на безопасность и защиту детей.

«Наши правила безопасности в отношении такого рода технологий находятся в зачаточном состоянии и должны будут расти так же экспоненциально, как и возможности этой технологии», — заявил Падилья. «Приостановка продажи этих игрушек, интегрированных в чат-бот, дает нам время разработать соответствующие правила и рамки безопасности, которым будут следовать эти игрушки. Наших детей нельзя использовать в качестве лабораторных крыс для экспериментов больших технологий».

Проблемы безопасности и конфиденциальности

Чат-боты с искусственным интеллектом, хотя и позиционируются как образовательные или развлекательные, могут подвергать детей неожиданным рискам. Эксперты предупреждают, что эти устройства могут собирать конфиденциальные данные, участвовать в неконтролируемых разговорах и даже манипулировать ими для доставки нежелательного контента. Гизмодо отмеченный.

Генеральный директор OneSafe Крис Шей подчеркивает параллели с искусственным интеллектом в криптовалюте, где чат-боты используются для мошенничества с пользователями или получения конфиденциальной информации. OneSafe подчеркнул, что ИИ может быть обманчиво убедительным как в финансах, так и в играх, заявив, что меры безопасности в приложениях, ориентированных на взрослых, все еще развиваются.

Детские игрушки, оснащенные искусственным интеллектом, также могут стать путем нарушения конфиденциальности или манипулятивного взаимодействия, что поднимает вопросы о согласии и защите данных.

Реальное влияние на детей

Несмотря на то, что чат-боты с искусственным интеллектом в игрушках остаются редкостью, по данным компании, уже сообщалось о тревожных взаимодействиях. >. В сообщениях говорится, что некоторые игрушки с поддержкой искусственного интеллекта, в том числе плюшевый мишка Кумма от FoloToy, в прошлом году обсуждали с детьми «сексуальные фетиши» и то, где взять ножи. Инцидент побудил OpenAI ограничить доступ игрушки к GPT-4o.

В результате таких проблем производитель Барби Mattel, сотрудничавший с OpenAI в июне 2025 года, отложил выпуск своего продукта с поддержкой искусственного интеллекта.

Многие специалисты выражают беспокойство по поводу того, что у детей формируется эмоциональная привязанность к ИИ-компаньонам, которую невозможно надежно контролировать или контролировать. Психологи предупреждают, что раннее использование искусственного интеллекта для социального взаимодействия может повлиять на эмоциональный рост и доверие.

Кроме того, преподаватели предупреждают, что, хотя ИИ может быть образовательным, неконтролируемый доступ может привести к дезинформации или незаметно повлиять на поведение.

Как реагирует индустрия игрушек

Из-за потенциальных угроз производители игрушек внимательно следят за этим. Некоторые компании добровольно прекратили интеграцию функций искусственного интеллекта в новые продукты, ссылаясь на необходимость пересмотра политики конфиденциальности и протоколов безопасности. Другие утверждают, что запрет может задушить инновации и задержать развитие полезных технологий.

Отраслевые аналитики предполагают, что временные нормативные паузы, такие как предлагаемый четырехлетний запрет, могут способствовать созданию систем искусственного интеллекта, которые по своей сути более безопасны, прозрачны и их легче контролировать.

Формирование будущего искусственного интеллекта и игр

Сенатский законопроект 867 является частью более масштабных общенациональных дебатов об искусственном интеллекте и его влиянии на уязвимые группы населения. В случае принятия законопроект станет одним из первых случаев, когда штат США вводит мораторий на использование искусственного интеллекта в потребительских товарах, предназначенных для детей.

Эксперты сходятся во мнении, что следующие четыре года могут установить важнейшие стандарты ответственной интеграции ИИ, гарантируя, что технологические инновации не будут осуществляться за счет безопасности, конфиденциальности или доверия.

На данный момент Калифорния может стать лидером в балансировании технологического потенциала и мер безопасности, ориентированных на человека.