Игрушки отвечают благодаря искусственному интеллекту, но безопасны ли они для детей?

Мягкие игрушки, которые разговаривают. Шахматные доски с фигурами, которые движутся самостоятельно. И болтливая голографическая фея в хрустальном шаре.

Ваша следующая покупка игрушки может быть оснащена искусственным интеллектом и способна общаться с вашими детьми.

Чат-боты и помощники на базе искусственного интеллекта, которые могут быстро отвечать на вопросы и генерировать тексты, стали более распространенными после появления ChatGPT от OpenAI. По мере того, как ИИ становится все более переплетенным в нашей работе и личной жизни, он также меняет времяпрепровождение.

К праздникам стартапы уже выпустили игрушки с искусственным интеллектом. В новом году на прилавках появится еще больше игрушек для детей и взрослых.

Некоторые родители с нетерпением ждут возможности протестировать игрушки, надеясь, что общение с ботами будет обучать и развлекать их детей. Другие не хотят, чтобы казалось бы разумная технология находилась рядом с их близкими, пока она не будет иметь больше ограждений и не пройдет дальнейшее тестирование.

Исследователи из Образовательного фонда США PIRG говорят, что уже обнаружили проблемы с некоторыми игрушками, которые они тестировали. По словам группы, среди проблем: плюшевый мишка с искусственным интеллектом, которого можно будет побудить к обсуждению сексуальных фетишей и извращений.

Производители игрушек утверждают, что ИИ может сделать игру более интерактивной, и они серьезно относятся к безопасности и конфиденциальности. Некоторые наложили дополнительные ограничения на болтливость некоторых из этих продуктов. Они говорят, что не торопятся с выяснением того, как безопасно использовать ИИ с детьми.

Компания Mattel из Эль-Сегундо, производитель Барби и Hot Wheels, ранее в этом году объявила, что объединилась с OpenAI для создания большего количества игрушек на базе искусственного интеллекта. Первоначальный план заключался в том, чтобы представить свой первый совместный продукт в этом году, но это объявление было перенесено на 2026 год.

Вот что вам нужно знать об игрушках с искусственным интеллектом:

Что такое игрушка с искусственным интеллектом?

В игрушках десятилетиями использовались новейшие технологии.

Появившийся в 1980-х годах, Тедди Ракспин рассказывал истории вслух, когда кассета с лентой была вставлена в спину аниматронного медведя. Ферби — пушистые существа, которые моргали большими глазами и разговаривали — появились в 90-х, когда цифровые питомцы Тамагочи также были в моде.

В 2015 году компания Mattel выпустила Барби, которая могла говорить и рассказывать анекдоты. В 2016 году производитель игрушек также представил на рынок дом мечты, который реагировал на голосовые команды.

С развитием технологий игрушки стали умнее. Теперь производители игрушек используют большие языковые модели, обученные понимать и генерировать язык, который используется в таких продуктах, как ChatGPT OpenAI. Mattel продает игру под названием Pictionary vs. AI, в которой игроки рисуют картинки, а ИИ угадывает, что это за изображения.

Игрушки с искусственным интеллектом, оснащенные микрофонами и подключенные к Wi-Fi, стоят дороже традиционных, продаются как сопутствующие товары или образовательные продукты и могут стоить 100 долларов или даже вдвое больше.

Почему люди беспокоятся о них?

В этот праздничный сезон опасения по поводу игрушек с искусственным интеллектом возросли, начиная с неприемлемого контента и заканчивая проблемами конфиденциальности.

Исследователи Образовательного фонда США PIRG протестировали несколько игрушек. Неудачным оказался Kumma, говорящий плюшевый мишка с искусственным интеллектом, который сообщал исследователям, где найти опасные предметы, такие как ножи и таблетки, и беседовал о откровенно сексуальном контенте. Медведь работал на программном обеспечении OpenAI.

В некоторых игрушках также используются приемы, позволяющие заинтересовать детей, что заставляет родителей беспокоиться о том, что взаимодействие может вызвать привыкание. Существуют также опасения по поводу конфиденциальности данных, собранных от детей. Некоторые беспокоятся о том, как эти игрушки повлияют на развитие мозга детей.

“Что значит для маленьких детей иметь компаньонов с искусственным интеллектом? Мы просто не знаем, как это повлияет на их развитие”, – сказал Рори Эрлих, один из тестировщиков игрушек и автор отчета PIRG об игрушках с искусственным интеллектом.

Группа по защите прав детей Fairplay предупредила родителей не покупать детям игрушки с искусственным интеллектом, назвав их «небезопасными».

Группа выделила несколько причин, в том числе то, что игрушки с искусственным интеллектом основаны на той же технологии, которая уже причинила вред детям. Родители, потерявшие своих детей в результате самоубийства, подали в суд на такие компании, как OpenAI и Персонаж.AIутверждая, что они не установили достаточно ограждений для защиты психического здоровья молодых людей.

Рэйчел Франц, директор программы Fairplay «Маленькие дети процветают в автономном режиме», сказала, что эти игрушки продаются как способ обучения и развлечения детей — онлайн для миллионов людей.

«Маленькие дети на самом деле не обладают мозгом или социально-эмоциональными способностями, чтобы защититься от потенциального вреда от этих игрушек с искусственным интеллектом», — сказала она. «Но маркетинг действительно мощный».

Как производители игрушек и компании, занимающиеся искусственным интеллектом, отреагировали на эти опасения?

Ларри Ванг, основатель и исполнительный директор FoloToy, сингапурского стартапа, стоящего за Kumma, сообщил в электронном письме, что компания осведомлена о проблемах, обнаруженных исследователями с игрушкой.

«Упомянутое поведение было выявлено и устранено посредством обновлений наших систем выбора моделей и безопасности детей, а также дополнительного тестирования и мониторинга», — сказал он. «С самого начала наш подход основывался на принципе, согласно которому системы искусственного интеллекта должны быть разработаны с учетом защиты, соответствующей возрасту по умолчанию».

Компания приветствует пристальное внимание и постоянный диалог по вопросам безопасности, прозрачности и надлежащего дизайна, сказал он, отметив, что это «возможность для всей отрасли стать зрелой».

OpenAI заявила, что приостановила работу FoloToy за нарушение ее политики.

“Несовершеннолетние заслуживают строгой защиты, и у нас есть строгая политика, которую разработчики обязаны соблюдать. Мы принимаем принудительные меры против разработчиков, когда определяем, что они нарушили нашу политику, которая запрещает любое использование наших сервисов для эксплуатации, угрозы или сексуализации лиц младше 18 лет”, – заявил представитель компании.

Какие игрушки искусственного интеллекта создали калифорнийские стартапы?

Curio, стартап из Редвуд-Сити, продает мягкие игрушки, в том числе говорящую ракету по имени Грок, которую озвучивает художница Граймс, у которой есть дети от миллиардера Илона Маска. Bondu, производитель игрушек с искусственным интеллектом из Сан-Франциско, создал говорящего плюшевого динозавра, который может разговаривать с детьми, отвечать на вопросы и играть в ролевые игры.

Компания Skyrocket, производитель игрушек из Лос-Анджелеса, продает По, медведя из истории искусственного интеллекта. Медведь, созданный на базе LLM OpenAI, поставляется с приложением, в котором пользователи выбирают для истории таких персонажей, как принцесса или робот. Яркоглазый медведь, названный в честь писателя Эдгара Аллана По, придумывает истории на основе этой подборки и декламирует их вслух.

Но дети не могут разговаривать с плюшевым мишкой взад и вперед, как с другими игрушками искусственного интеллекта.

«Это просто налагает большую ответственность, потому что это значительно повышает сложность и уровень защиты, которые вам необходимо иметь, а также то, как вы должны контролировать контент, потому что возможности намного больше», — сказал Нело Лучич, соучредитель и генеральный директор Skyrocket.

Некоторые компании, такие как Olli из Хантингтон-Бич, создали платформу, используемую производителями игрушек с искусственным интеллектом, в том числе создателями Imagix Crystal Ball. Игрушка создает спутника-голограмму искусственного интеллекта, напоминающего дракона или фею.

Хай Та, основатель и генеральный директор Olli, сказал, что он рассматривает игрушки с искусственным интеллектом как нечто отличное от времени, проведенного за экраном и общения с виртуальными помощниками, потому что продукт структурирован вокруг определенного фокуса, такого как рассказывание историй.

«Здесь есть элемент геймплея», — сказал он. «Это не просто бесконечный, открытый разговор».

Что Mattel разрабатывает вместе с OpenAI?

Mattel не раскрыла, какие продукты она выпускает вместе с OpenAI, но представитель компании заявил, что они будут ориентированы на семьи и пожилых клиентов, а не на детей.

Компания также заявила, что рассматривает ИИ как способ дополнить, а не заменить традиционную игру, и уделяет особое внимание безопасности, конфиденциальности, креативности и ответственным инновациям при создании новых продуктов.