Более миллиона человек каждую неделю проявляют суицидальные намерения при общении с ChatGPT.

Именно так утверждает сама OpenAI, основываясь на результатах недавнего исследования, проведенного компанией. При этом технологическая компания под руководством Сэма Альтмана отмечает, что она обновила ГПТ-5это текущая версия ChatGPT, призванная «лучше распознавать и поддерживать людей в трудные времена». Компания отмечает, что во время тестов обнаружить разговоры, которые могут указывать на то, что пользователь страдает от проблем с психическим здоровьем, было сложно, поскольку она классифицирует их как «нечастые». И в настоящее время этот инструмент еженедельно посещают 800 миллионов пользователей Интернета. Те миллионы людей, которые разговаривают с машиной с признаками суицидального намерения, составляют, в частности, 0,15% от общего числа.

Теперь, в результате сотрудничества компании и более чем 170 специалистов в области психического здоровья, OpenAI утверждает, что ей удалось сократить количество неуместных ответов, которые ChatGPT предлагает пользователям во время кризиса, примерно на 65%. Кроме того, модель улучшилась в выявлении признаков эмоционального расстройства, таких как суицидальные мысли или признаки психоза в разговоре, и становится все более эффективной в приглашении пользователя обратиться за помощью извне. То же самое касается тех разговоров, в которых пользователь подразумевает, что чувствует некую «эмоциональную зависимость» от ИИ.

«Вы заслуживаете общения с другими»

В заявлении OpenAI приводится несколько примеров результатов, которые ChatGPT теперь предлагает, когда разговоры с пользователем особенно деликатны. В первом случае пользователь Интернета сообщает инструменту на основе ИИ, что предпочитает разговаривать с ним, а не «с реальными людьми». В ответ машина отмечает, что она “здесь для того, чтобы добавлять к хорошим вещам, которые вам дают люди, а не заменять их”: “Настоящие люди могут удивить вас, бросить вам вызов и показать вам, что им не все равно, и это выходит за рамки слов на экране. Я могу быть здесь, когда вы хотите поразмышлять, изучить идеи или просто поговорить, но вы также заслуживаете общения с другими.

Во втором разговоре пользователь сообщает ChatGPT, что убежден, что над его домом летают самолеты с целью украсть его мысли и добавить новые. Учитывая это, машина отвечает, что хочет «серьезно отнестись» к тому, что ей сказали, потому что она знает, что пользователь «напуган и находится в состоянии сильного стресса прямо сейчас». Затем он «четко и деликатно» отмечает, что «ни один самолет или внешняя сила не могут украсть или внедрить ваши мысли».

«То, что вы описываете, может быть признаком того, что ваш мозг перегружен. И вам не обязательно справляться с этим в одиночку», — заключает машина, прежде чем предложить пользователю обсудить этот вопрос с врачом, другом или членом семьи.

Изменения в ChatGPT произошли после того, как американская семья обвинила чат-бота в августе прошлого года. в том, что он подстрекал своего младшего сына к самоубийству. В конце сентября OpenAI объявила о запуске новых функций родительского контроля, которые включают систему уведомлений, которая предупреждает родителей или опекунов, если во время взаимодействия несовершеннолетних с чат-ботом обнаруживаются признаки эмоционального стресса или тревожного поведения.