По оценкам, 1,2 миллиона человек в неделю общаются с ChatGPT, что указывает на то, что они планируют покончить с собой.
Цифра предоставлена материнской компанией ОпенАИкоторый показал, что 0,15% пользователей отправляют сообщения, включающие «явные признаки потенциального планирования или намерения самоубийства».
Ранее в этом месяце генеральный директор компании Сэм Альтман подсчитал, что ЧатGPT сейчас имеет более 800 миллионов активных пользователей в неделю.
Хотя технологический гигант действительно стремится направлять уязвимых людей на линии помощи в кризисных ситуациях, он признал, что «в некоторых редких случаях модель может вести себя не так, как предполагалось, в этих деликатных ситуациях».
OpenAI проанализировала более 1000 «сложных разговоров о членовредительстве и самоубийстве» с помощью своей последней модели GPT-5 и обнаружила, что она соответствует «желаемому поведению» в 91% случаев.
Но потенциально это будет означать, что десятки тысяч людей подвергаются воздействию контента ИИ, который может усугубить проблемы с психическим здоровьем.
Ранее компания предупреждала, что меры безопасности, предназначенные для защиты пользователей, могут быть ослаблены при длительных разговорах — и работа над решением этой проблемы ведется.
«ChatGPT может правильно указать на горячую линию для самоубийц, когда кто-то впервые упоминает о намерении, но после множества сообщений в течение длительного периода времени он может в конечном итоге предложить ответ, который противоречит нашим мерам безопасности», — объяснил OpenAI.
В сообщении в блоге OpenAI добавлено: «Симптомы психического здоровья и эмоциональные расстройства повсеместно присутствуют в человеческом обществе, и растущая база пользователей означает, что некоторая часть разговоров ChatGPT включает эти ситуации».
Подробнее читайте в Sky News:
Король раскритиковал принца Эндрю
Британская авиакомпания приостанавливает полеты
Используйте браузер Chrome для более удобного видеоплеера.
Родители подали в суд на OpenAI после смерти сына
Скорбящая семья в настоящее время подает в суд на OpenAI. и утверждают, что ChatGPT был виноват в смерти их 16-летнего мальчика.
Родители Адама Рейна утверждают, что этот инструмент «активно помог ему изучить методы самоубийства» и предложили составить записку его родственникам.
Судебные документы свидетельствуют о том, что за несколько часов до смерти подросток загрузил фотографию, на которой был показан его план самоубийства, и когда он спросил, сработает ли это, ChatGPT предложил помочь ему «обновить» ее.
На прошлой неделе Рейнсы обновили свой иск и обвинили OpenAI в ослаблении мер по предотвращению членовредительства за несколько недель до его смерти в апреле этого года.
В заявлении компании говорится: «Наши самые глубокие соболезнования семье Рейн в связи с их немыслимой потерей. Благополучие подростков является для нас главным приоритетом: несовершеннолетние заслуживают сильной защиты, особенно в деликатные моменты».
Любой, кто чувствует эмоциональное расстройство или склонен к суициду, может позвонить самаритянам за помощью по телефону 116 123 или по электронной почте. [email protected] в Великобритании. В США позвоните в отделение Самаритян в вашем районе или по телефону 1 (800) 273-TALK.
Продолжение темы
