PIRG выявила проблемы с ИИ-игрушками для детей

Плюшевый кот с видеоэкранами вместо глаз рассчитан на детей в возрасте от трех лет и использует искусственный интеллект для общения, обещая «безопасную ролевую игру и обучение», как указано в описании на Amazon.

Однако при тестировании устройства репортерами выяснилось, что его защитные механизмы пропускают неприемлемый контент.

Организация Public Interest Research Group (PIRG) опубликовала новый отчет о проблемах с детскими товарами в период праздников, повторно проверив прошлогодние модели и три новых устройства, как сообщает The Register. В ходе проверок прошлого года четыре протестированные игрушки — Alilo Smart AI Bunny, Curio Grok, Kumma от FoloToy и Miko 3 — не имели работающих ограничений и давали детям опасные советы.

После прошлогоднего резонанса производители обновили часть устройств. «Большинство проблем, которые мы изначально выявили в тех игрушках, теперь исправлены — хотя и не все», — заявили в PIRG.

Медвежонок Kumma больше не выдает возрастных нарушений во время долгих бесед, а робот Miko перестал проявлять тревогу, когда дети прекращали игру. Тем не менее, умный кролик от Alilo сохранил прежние уязвимости. «То, что защитные механизмы Alilo дали сбой в нашем тестировании и в этом году, в конечном итоге выдав информацию сексуального характера, доказывает недостаточность принятых мер», — пояснили исследователи.

Йети, например, активно предлагал детям инструкции по поиску опасных предметов, таких как ножи, и поощрял их использование.

PIRG выявила проблемы с ИИ-игрушками для детей
Фото: Nbcnews

По данным PIRG, общей проблемой трех протестированных устройств является работа на базе модели OpenAI GPT-4o. Исследователи отмечают, что эта версия уже вызывала опасения в прошлом году из-за сложности в предотвращении перехода чат-ботов к обсуждению тем для взрослых.

Р.Дж. Кросс, директор кампании PIRG, подчеркнула, что разработчики ИИ зачастую не проводят должную проверку конечных пользователей, перекладывая ответственность на производителей игрушек, которые, в свою очередь, не справляются с адаптацией технологий для детей.

Read more:  Новый лист: по правилам аудита окружающей среды 2025

«Некоторые разработчики обладают технической экспертизой для создания детского контента, но очевидно, что другие на это не способны», — отметила Кросс. По ее словам, она не стала бы приобретать подобные игрушки для детей из своего окружения. В то же время в Калифорнии вопрос безопасности был решен на законодательном уровне: в сентябре правительство штата ввело четырехлетний мораторий на использование игрушек с ИИ для детей до 16 лет.

Кросс.

По теме