Руководитель исследования ChatGPT в области психического здоровья покидает OpenAI

Безопасность OpenAI научный руководитель, который помог сформировать ЧатGPT ответы пользователям, испытывающим кризис психического здоровья объявила о своем уходе из компании в прошлом месяце, как стало известно WIRED. Андреа Валлоне, руководитель исследовательской группы по безопасности, известной как Model Policy, планирует покинуть OpenAI в конце года.

Представитель OpenAI Кайла Вуд подтвердила уход Валлоне. Вуд сказал, что OpenAI активно ищет замену, и что тем временем команда Валлоне будет подчиняться непосредственно Йоханнесу Хайдеке, руководителю системы безопасности компании.

Уход Валлоне произошел на фоне того, что OpenAI сталкивается с растущим вниманием к тому, как ее флагманский продукт реагирует на пользователи в беде. В последние месяцы против OpenAI было подано несколько исков, утверждающих, что пользователи сформировали нездоровые вложения в ChatGPT. В некоторых исках утверждается, что ChatGPT способствовал расстройствам психического здоровья или поощрял суицидальные мысли.

В условиях этого давления OpenAI работает над тем, чтобы понять, как ChatGPT должен обращаться с обеспокоенными пользователями и улучшать реакцию чат-бота. Модельная политика является одной из команд, ведущих эту работу, возглавляя Октябрьский отчет подробное описание прогресса компании и консультации с более чем 170 экспертами в области психического здоровья.

В отчете OpenAI говорится, что сотни тысяч пользователей ChatGPT могут показывать признаки переживания маниакального или психотического кризиса каждую неделю, и что более миллиона человек «ведут разговоры, которые включают в себя явные признаки потенциального суицидального планирования или намерения». В отчете OpenAI говорится, что благодаря обновлению GPT-5 удалось сократить количество нежелательных ответов в этих разговорах на 65–80 процентов.

«В течение прошлого года я руководил исследованием OpenAI по вопросу, у которого почти нет установленных прецедентов: как должны реагировать модели, когда они сталкиваются с признаками эмоциональной чрезмерной зависимости или ранними признаками расстройства психического здоровья?» написал Валлоне в почта это LinkedIn.

Валлоне не ответил на запрос WIRED о комментариях.

Сделать ChatGPT приятным для общения, но не слишком лестным — вот основная задача OpenAI. Компания агрессивно пытается расширить базу пользователей ChatGPT, которая сейчас насчитывает более 800 миллионов человек в неделю, чтобы конкурировать с чат-ботами с искусственным интеллектом от Google, Anthropic и Meta.

После того, как OpenAI выпустила GPT-5 в августе, пользователи начали сопротивляться, утверждая, что новая модель удивительно холодно. В последнем обновлении ChatGPT компания заявила, что значительно сократила подхалимство, сохранив при этом «теплоту» чат-бота.

Уход Валлоне последовал за Августовская реорганизация еще одной группы сосредоточился на ответах ChatGPT обеспокоенным пользователям и моделировал поведение. Ее бывший руководитель Джоан Джанг оставила эту должность, чтобы основать новую команду, исследующую новые методы взаимодействия человека и искусственного интеллекта. Оставшийся персонал по модели поведения был переведен под руководство Макса Шварцера.