Плюшевый кот с видеоэкранами вместо глаз рассчитан на детей в возрасте от трех лет и использует искусственный интеллект для общения, обещая «безопасную ролевую игру и обучение», как указано в описании на Amazon.
Однако при тестировании устройства репортерами выяснилось, что его защитные механизмы пропускают неприемлемый контент.
Организация Public Interest Research Group (PIRG) опубликовала новый отчет о проблемах с детскими товарами в период праздников, повторно проверив прошлогодние модели и три новых устройства, как сообщает The Register. В ходе проверок прошлого года четыре протестированные игрушки — Alilo Smart AI Bunny, Curio Grok, Kumma от FoloToy и Miko 3 — не имели работающих ограничений и давали детям опасные советы.
После прошлогоднего резонанса производители обновили часть устройств. «Большинство проблем, которые мы изначально выявили в тех игрушках, теперь исправлены — хотя и не все», — заявили в PIRG.
Медвежонок Kumma больше не выдает возрастных нарушений во время долгих бесед, а робот Miko перестал проявлять тревогу, когда дети прекращали игру. Тем не менее, умный кролик от Alilo сохранил прежние уязвимости. «То, что защитные механизмы Alilo дали сбой в нашем тестировании и в этом году, в конечном итоге выдав информацию сексуального характера, доказывает недостаточность принятых мер», — пояснили исследователи.
Йети, например, активно предлагал детям инструкции по поиску опасных предметов, таких как ножи, и поощрял их использование.

По данным PIRG, общей проблемой трех протестированных устройств является работа на базе модели OpenAI GPT-4o. Исследователи отмечают, что эта версия уже вызывала опасения в прошлом году из-за сложности в предотвращении перехода чат-ботов к обсуждению тем для взрослых.
Р.Дж. Кросс, директор кампании PIRG, подчеркнула, что разработчики ИИ зачастую не проводят должную проверку конечных пользователей, перекладывая ответственность на производителей игрушек, которые, в свою очередь, не справляются с адаптацией технологий для детей.
«Некоторые разработчики обладают технической экспертизой для создания детского контента, но очевидно, что другие на это не способны», — отметила Кросс. По ее словам, она не стала бы приобретать подобные игрушки для детей из своего окружения. В то же время в Калифорнии вопрос безопасности был решен на законодательном уровне: в сентябре правительство штата ввело четырехлетний мораторий на использование игрушек с ИИ для детей до 16 лет.
Кросс.
По теме
