Человек госпитализирован после того, как последовал совету по еде от CHATGPT

В начале августа 60 -летний американец был госпитализирован в Сиэтле после последующего совета CHATGPT, заменив столовую соль бромидом натрия. Дело, опубликованное в Анналы внутренней медицины Исследователи из Вашингтонского университета иллюстрирует как искусственное идиотизм, так и отсутствие критического духа человека …

Убедившись, что классическая соль повредит его организму, человек обратился к Чатгпту. Три месяца спустя он потреблял бромид, продукт, ранее работавший в седативных средствах, в настоящее время запрещенный для приема. Последовали галлюцинации, паранойя и госпитализация под принуждением. Как вспоминают врачи, «крайне маловероятно, что медицинский эксперт предложил бы бромид натрия перед лицом пациента, ищущего жизнеспособную замену хлорида натрия».

Клинический случай пробуждает спектр, который, как считается, был похоронен. Брумизм, частый в начале 20 -го века, почти исчез с запретом на эти токсичные соли. Видя такое опьянение во время повторного появления виртуальных помощников. Если CHATGPT хорошо указывает в условиях использования, что он не является медицинским инструментом, этого недостаточно, чтобы остановить девиантное использование. Исследователи отмечают, что когда они задавали тот же вопрос к более ранней версии чат -бота, он упомянул бромид без какого -либо особого предупреждения.

Столкнувшись с этими Drifts, Openai объявил 7 августа обновленной обновления своей модели GPT-5, которая должна лучше обнаружить чувствительные медицинские проблемы и предупредить пользователя. Факт остается фактом, что эпизод подчеркивает важные недостатки искусственного интеллекта.