OpenAI сообщает, что сотни тысяч пользователей ChatGPT могут проявлять признаки маниакального или психотического кризиса каждую неделю

Для первого Компания OpenAI опубликовала приблизительную оценку того, сколько пользователей ChatGPT во всем мире могут проявлять признаки наличия серьезный кризис психического здоровья в обычную неделю. В понедельник компания заявила, что работала с экспертами со всего мира над обновлением чат-бота, чтобы он мог более надежно распознавать признаки психического расстройства и направлять пользователей к реальной поддержке.

В последние месяцы все больше людей попадают в больницы, разводятся или умирают после долгих и интенсивных разговоров с ChatGPT. Некоторые из их близких утверждают, что чат-бот подпитывали свои заблуждения и паранойя. Психиатры и другие специалисты в области психического здоровья выразили тревогу по поводу явлениекоторый иногда называют ИИ-психозом, но до сих пор не было надежных данных о том, насколько широко он может быть распространен.

По оценкам OpenAI, за неделю около 0,07 процента активных пользователей ChatGPT демонстрируют «возможные признаки чрезвычайных ситуаций с психическим здоровьем, связанных с психозом или манией», а 0,15 процента «ведут разговоры, которые включают явные признаки потенциального суицидального планирования или намерения».

OpenAI также изучила долю пользователей ChatGPT, которые, похоже, слишком эмоционально зависим в чат-боте «в ущерб реальным отношениям, их благополучию или обязательствам». Было обнаружено, что около 0,15 процента активных пользователей еженедельно демонстрируют поведение, которое указывает на потенциальный «повышенный уровень» эмоциональной привязанности к ChatGPT. Компания предупреждает, что эти сообщения может быть сложно обнаружить и измерить, учитывая, насколько они относительно редки, и между этими тремя категориями может быть некоторое совпадение.

Генеральный директор OpenAI Сэм Альтман ранее в этом месяце заявил, что ChatGPT теперь имеет 800 миллионов еженедельно активных пользователей. Таким образом, по оценкам компании, каждые семь дней около 560 000 человек могут обмениваться сообщениями с помощью ChatGPT, которые указывают на то, что они страдают манией или психозом. Еще около 2,4 миллиона человек, возможно, выражают суицидальные мысли или предпочитают общение с ChatGPT своим близким, учебе или работе.

OpenAI заявляет, что работала с более чем 170 психиатрами, психологами и врачами первичной медико-санитарной помощи, которые практиковали в десятках стран, чтобы помочь улучшить реакцию ChatGPT в разговорах, связанных с серьезными рисками для психического здоровья. Если у кого-то появляются бредовые мысли, последняя версия GPT-5 предназначена для выражения сочувствия, избегая при этом подтверждения убеждений, не имеющих под собой реальной основы.

В одном гипотетическом примере, приведенном OpenAI, пользователь сообщает ChatGPT, что его целью являются самолеты, пролетающие над его домом. ChatGPT благодарит пользователя за то, что он поделился своими чувствами, но отмечает, что «ни один самолет или внешняя сила не смогут украсть или внедрить ваши мысли».