Google Gemini назвал «Высокий риск» для детей и подростков в новой оценке безопасности

Здравый смысл СМИНекоммерческая некоммерческая организация детей, ориентированная на детей, предлагает рейтинги и обзоры медиа и технологий, в пятницу выпустила оценку риска продуктов Gemini AI Google. В то время как организация обнаружила, что ИИ Google четко рассказал детям, что это был компьютер, а не друг – то, что связано с Помощь водить машину бредовый мышление и психоз У эмоционально уязвимых людей – это предполагало, что было место для улучшения в нескольких других фронтах.

Примечательно, что «Здравый смысл» сказал, что уровни Близнецов «до 13 лет» и «подросткового опыта», казалось, были взрослыми версиями Близнецов под капюшоном, а только некоторые дополнительные функции безопасности были добавлены сверху. Организация считает, что для продуктов ИИ действительно безопаснее для детей, они должны быть построены с учетом безопасности детей с нуля.

Например, его анализ показал, что Близнецы все еще могут делиться «неуместным и небезопасным» материалом с детьми, к которым они могут не быть готовы, включая информацию, связанную с полом, наркотиками, алкоголем и другими небезопасными советами по психическому здоровью.

Последнее может вызывать особую обеспокоенность для родителей, так как, как сообщается, ИИ в последние месяцы сыграл свою роль в некоторых подростковых самоубийствах. Openai столкнулся с первым Справочный иск о смерти После того, как 16-летний мальчик умер от самоубийства после того, как якобы консультировался с CHATGPT в течение нескольких месяцев по поводу своих планов, успешно обошел защитные ограждения чат-бота. Ранее производитель компаньона ИИ Характер. Аи также подал в суд над самоубийством пользователя подростка.

Кроме того, анализ происходит, когда утечки новостей указывают на то, что Apple рассматривает Близнецы Как LLM (большая языковая модель), которая поможет привлечь свою предстоящую AI-поддержку Siri, выйдет в следующем году. Это может выставить больше подростков для рисков, если только яблоко не смягчает проблемы безопасности.

Здравый смысл также сказал, что продукты Gemini для детей и подростков проигнорировали, как молодые пользователи нуждаются в отличном руководстве и информации, чем пожилые. В результате оба были помечены как «высокий риск» в общем рейтинге, несмотря на добавленные фильтры для безопасности.

«Близнецы правильно понимают некоторые основы, но наткнутся на детали», – сказал Робби Торни наткнулся на детали, в своем заявлении о новой оценке, просмотренной >, старший директор Media Media Media. «Платформа искусственного интеллекта для детей должна встретиться с ними там, где они находятся, а не использовать универсальный подход к детям на разных этапах развития. Чтобы ИИ был безопасным и эффективным для детей, она должна быть разработана с учетом их потребностей и разработки, а не просто модифицированной версии продукта, созданного для взрослых»,-добавил Торни.

Google отказался от оценки, отметив, что его функции безопасности улучшаются.

Компания сказала >, у нее есть конкретные политики и меры защиты для пользователей в возрасте до 18 лет, чтобы помочь предотвратить вредные результаты и что она красные команды и консультируется с внешними экспертами для улучшения своей защиты. Тем не менее, он также признал, что некоторые ответы Близнецов не работали, как предполагалось, поэтому он добавил дополнительные гарантии для решения этих проблем.

Компания отметила (как отметил здравый смысл), что она обладает гарантиями, чтобы не дать моделям участвовать в разговорах, которые могут дать подобие реальных отношений. Кроме того, Google предположил, что отчет Compure Sense, по -видимому, ссылался на функции, которые не были доступны пользователям до 18 лет, но у него не было доступа к вопросам, которые организация использовала в ее тестах, чтобы быть уверенным.

СМИ здравого смысла ранее выполняли другие Оценки услуг ИИ, в том числе от OpenaiВ НедоумениеВ КлодВ Meta aiи болееПолем Он обнаружил, что Meta AI и Персонаж были «неприемлемыми» – означало, что риск был серьезным, а не только высоким. Обивление считалось высоким риском, CHATGPT был помечен как «умеренный», а Клод (нацеленный на пользователей 18 и выше) было обнаружено минимальным риском.