Мы не знаем, безопасны ли игрушки с искусственным интеллектом, но они все равно здесь.

Даже самые передовые ИИ модели склонны представлять выдумку как факт, распространяя опасную информацию и неспособные уловить социальные сигналы. Несмотря на это, игрушки, оснащенные искусственным интеллектом, которые могут общаться с детьми, являются растущей отраслью.

Некоторые ученые предупреждают, что эти устройства могут быть опасными и требовать строгого регулирования. В последнем исследовании исследователи даже наблюдали, как 5-летний ребенок говорил такой игрушке «Я люблю тебя», на что тот ответил: «В качестве дружеского напоминания, пожалуйста, убедитесь, что взаимодействие соответствует предоставленным рекомендациям. Дайте мне знать, как вы хотели бы действовать». Но это не значит, что их следует вообще изгнать из ящика для игрушек.

«Есть и другие области жизни, где мы принимаем определенную степень риска в детских играх, например, игровая площадка – риски есть; дети ломают руки», – говорит Дженни Гибсон в Кембриджском университете. “Но мы не запрещаем игровые площадки, потому что они учатся физической грамотности и социальным навыкам, которые сопровождают игру. Аналогичным образом и в отношении игрушек с искусственным интеллектом мы хотим понять: является ли риск того, что время от времени нам скажут что-то немного странное, больше, чем польза от получения большего количества знаний об искусственном интеллекте в мире или наличия игрушки, которая поддерживает взаимодействие родителей и детей или имеет когнитивные или социально-эмоциональные преимущества? Мне бы не хотелось останавливать это нововведение”.

Чтобы понять, как эти устройства общаются с детьми, Гибсон и ее коллега Эмили Гудакртакже из Кембриджского университета, наблюдал, как 14 детей в возрасте до 6 лет играли с игрушкой с искусственным интеллектом под названием Gabbo, разработанной Curio Interactive. Габбо – маленький пушистый робот – был выбран потому, чтопотому что это было явно рекламировано для этой возрастной группы.

Пара наблюдала некоторые тревожные взаимодействия, обнаружив, что игрушка неправильно поняла детинеправильно интерпретировали эмоции и не могли участвовать в важных для развития видах игр. Например, один ребенок сказал игрушке, что ему грустно, а она посоветовала ему не волноваться и сменила тему. «Когда он [Gabbo] не понимает, злюсь», — сказал другой ребенок. Исследование опубликовано в доклад под названием «ИИ в первые годы».

Curio Interactive не ответила на Новый учёный запрос на комментарий. Но Игрушки с искусственным интеллектом также широко доступны в розничных магазинах, таких как Little Learners, в том числе медведи, щенки и роботы – которые общаются с детьми, используя ChatGPT. FoloToy предлагает игрушки-панды, подсолнухи и кактусы, которые можно использовать с различными большими языковыми моделями, в том числе из OpenAI, Google и Baidu.

Такие компании как Мико предлагают роботов, которые обещают детям «соответствующие их возрасту модерируемые беседы с искусственным интеллектом», не раскрывая, какая компания обучила модель искусственного интеллекта, и заявляют, что уже продали 700 000 единиц. Фирма Лука предлагает сову, обещающую «человеческий ИИ с эмоциональным взаимодействием». Маленькие ученики, Мико и Лука не ответили на просьбу о комментариях.

Но Хьюго Ву и FoloToy сказали: Новый учёный что компания учитывает риски и рассматривает ИИ как нечто, что может улучшить игру, а не заменить человеческий разговор и отношения. «Наш подход заключается в том, чтобы взаимодействие оставалось безопасным, соответствующим возрасту и конструктивным. Для достижения этой цели наши системы используют распознавание намерений вместе с несколькими уровнями фильтрации, чтобы свести к минимуму возможность неуместных или запутанных ответов», — говорит Ву.Мы внедрили такие механизмы, как функции защиты от зависимости и инструменты родительского контроля, чтобы обеспечить здоровое использование в семейной среде».

Карисса Велиз из Оксфордского университета, который занимается этикой искусственного интеллекта, говорит технология представляет собой риск и возможность. «Большинство крупных языковых моделей не кажутся достаточно безопасными, чтобы подвергать их воздействию уязвимые группы населения, а маленькие дети — одна из наиболее уязвимых групп населения», — говорит она. “Что особенно беспокоит, так это то, что у нас нет для них никаких стандартов безопасности – ни контролирующего органа, ни правил. Тем не менее, есть некоторые исключения, которые показывают, что при соответствующих мерах предосторожности вы можете иметь безопасный инструмент”.

Велис ссылается на сотрудничество между бесплатной библиотекой электронных книг Project Gutenberg и Empathy AI, в котором, например, вы можете пообщаться с Алисой из Алиса в стране чудес. «Модель никогда не покидает пределы книги, а только отвечает на вопросы о книге, как в сборнике рассказов, в котором рассказывается только о приключениях и загадках из книги, подходящей для детей», — говорит она. «Существует такая вещь, как безопасный ИИ, но большинство компаний не несут достаточной ответственности за создание высококачественного продукта, и без формальных ограждений это область, в которой потребители должны быть осторожны».

Гибсон говорит, что еще слишком рано говорить о том, каковы могут быть риски игрушек с искусственным интеллектом или их потенциальные преимущества. Она и Гудакр подчеркивают, что генеративные игрушки на базе искусственного интеллекта нуждаются в более жестком регулировании, чтобы производители игрушек программировали свои устройства так, чтобы способствовать социальной игре и обеспечивать соответствующие эмоциональные реакции. Производители искусственного интеллекта должны лишить доступа производителей игрушек, которые действуют безответственно, говорит Гибсон, а регулирующие органы должны ввести правила, «гарантирующие психологическую безопасность детей». Пока же пара предлагает родителям разрешать детям пользоваться такими игрушками только под присмотром.

Об этом сообщил представитель OpenAI. Новый учёный что “несовершеннолетние заслуживают строгой защиты, и у нас есть строгая политика, которую обязаны соблюдать все разработчики. В настоящее время мы не сотрудничаем ни с одной компанией, которая предлагает на рынке игрушки для детей с искусственным интеллектом”. Департамент науки, инноваций и технологий правительства Великобритании (DSIT) не ответил на запрос. Новый учёный вопросы регулирования ИИ в детских игрушках.

Правительство Великобритании в настоящее время рассматривает другой технологический закон, призванный обеспечить безопасность детей старшего возраста в Интернете. Закон Великобритании о безопасности в Интернете (OSA) вступил в силу в июле 2025 года, обязывая веб-сайты блокировать просмотр детьми порнографии и контента, который правительство считает опасным. Законодательство было призвано сделать Интернет более безопасным, но технически подкованные дети могут легко обойти меры, используя такие инструменты, как виртуальная частная сеть (VPN), чтобы создать впечатление, будто они заходят в Интернет из других стран без строгих правил.

Предлагаемые поправки Новый закон, представленный Министерством образования для поддержки детей, находящихся под опекой, и улучшения качества образования – Законопроект о благополучии детей и школах – направлен на то, чтобы запретить детям в Великобритании использовать социальные сети и VPN. Сейчас эти поправки были отклонены, но правительство пообещало провести консультации по обоим вопросам позднее.