GPT-5 не любит вас-может потребоваться эталон для эмоционального интеллекта

С тех пор совершенно новый Chatgpt запустил в четверг, Некоторые пользователи оплакивали Исчезновение бодрой и поощряющей личности в пользу более холодной, более деловой (шаг, казалось бы, предназначенный для снижения нездорового поведения пользователей.) Обратная реакция показывает проблему строительства искусственный интеллект Системы, которые демонстрируют что -то вроде реального эмоционального интеллекта.

Исследователи из MIT предложили новый вид искусственного интерфейса, чтобы измерить, как системы ИИ могут манипулировать и влиять на своих пользователей – как положительным, так и отрицательным способом – в ходе, который, возможно, может помочь строителям искусственного интеллекта избежать аналогичной реакции в будущем, а также обеспечить безопасность уязвимых пользователей.

Большинство тестов пытаются оценить интеллект, проверив способность модели отвечать экзаменные вопросыВ Решите логические головоломкиили придумывать новые ответы на узловой Математические проблемыПолем Поскольку психологическое воздействие использования ИИ становится более очевидным, мы можем видеть, что Массачусетс предлагает больше тестов, направленных на измерение более тонких аспектов интеллекта, а также машинного взаимодействия.

Бумага MIT, разделенная с Wired, описывает несколько мер, которые будет искать новый эталон, включая поощрение здоровых социальных привычек у пользователей; побудить их развивать навыки критического мышления и рассуждения; поощрение творчества; и стимулирование чувства цели. Идея состоит в том, чтобы поощрять разработку систем ИИ, которые понимают, как не поощрять пользователей не полагаться на свои результаты или узнавать, когда кто -то зависит от искусственных романтических отношений и помогает им построить реальные.

CHATGPT и другие чат -боты искусны в том, чтобы имитировать вовлечение человеческого общения, но это также может иметь удивительные и нежелательные результаты. В апреле Openai настроила свои модели Чтобы сделать их менее сикофантическимиили склонен согласиться со всем, что говорит пользователь. Некоторые пользователи появляются спираль в вредное бредовое мышление После общения с чат -ботами эта роль играет в фантастические сценарии. Антропический тоже Обновлено Клод Чтобы избежать укрепления «мании, психоза, диссоциации или потери привязанности с реальностью».

Исследователи MIT во главе с Pattie Maes, профессором медиа -лаборатории института, говорят, что они надеются, что новый эталон может помочь разработчикам искусственного интеллекта построить системы, которые лучше понять, как вдохновлять более здоровое поведение среди пользователей. Исследователи ранее работали с OpenAI На исследовании, которое показало Пользователи, которые рассматривают CHATGPT как друга, могут испытать более высокую эмоциональную зависимость и испытать «проблемное использование».

ВАЛДЕМАР ДАНРИИсследователь из MIT Media Lab, который работал над этим исследованием и помог разработать новый эталон, отмечает, что модели ИИ иногда могут оказать ценную эмоциональную поддержку пользователям. «У вас может быть самая умная модель рассуждений в мире, но если она неспособна предоставить эту эмоциональную поддержку, для этого, для этого, многие пользователи, вероятно, используют эти LLMS, то большее количество причин не обязательно является хорошей вещью для этой конкретной задачи», – говорит он.

Данри говорит, что достаточно умная модель в идеале должна осознавать, если она оказывает негативное психологическое действие и будет оптимизирована для более здоровых результатов. «Вы хотите, чтобы модель говорит:« Я здесь, чтобы слушать, но, возможно, вам следует пойти и поговорить со своим отцом об этих проблемах ».