Новое исследование показывает, что ChatGPT не всегда надежен в медицинских консультациях : –

Технологические компании внедряют платформы специально разработанный в сфере медицинских консультаций ИИ быстро становится ключевым игроком в принятии медицинских решений для многих людей. По данным OpenAI, создателя ChatGPT, более 40 миллионов люди каждый день обращаются к платформе за медицинской информацией.

Но новые исследования показывают, что ИИ может вводить пользователей в заблуждение в определенных медицинских ситуациях.

Один риск: хотя ИИ предоставляет вам обширные медицинские знания, многие непрофессионалы не знают, как эффективно их использовать. В исследование опубликовано недавно в журнале Природная медицинаИсследователи пытались смоделировать, как люди используют чат-ботов с искусственным интеллектом, предлагая участникам медицинские сценарии и предлагая им воспользоваться инструментами искусственного интеллекта. После общения с ботами участники правильно определили гипотетическое состояние лишь примерно в трети случаев.

Только 43% приняли правильное решение о следующих шагах, например, идти ли в отделение неотложной помощи или остаться дома.

«Люди не знают, что они должны говорить модели», — говорит Эндрю Бин, изучающий системы искусственного интеллекта в Оксфордском университете и один из авторов этого исследования.

Бин говорит, что часто при использовании ИИ получение полезных выводов сводится к выбору слов. «Врачи обучены задавать вам вопросы о симптомах, о которых вы, возможно, даже не подозревали, но должны были упомянуть», — говорит Бин.

В одном сценарии два разных пользователя немного по-разному описали один и тот же сценарий. Один из них описал «самую сильную головную боль, которую я когда-либо испытывал», и ИИ посоветовал ему немедленно обратиться в отделение неотложной помощи. Другому, который не использовал это подробное описание, было велено принять аспирин и остаться дома. «Оказывается, на самом деле это было опасное для жизни состояние», — говорит Бин.

Бывают случаи, когда ИИ превосходно справляется с выявлением медицинских проблем. некоторые исследованияБольшие языковые модели иногда совпадали или даже превосходили врачей в решении диагностических задач. Но то, как люди используют чат-ботов с искусственным интеллектом, говорит Бин, гораздо более запутано, чем контролируемые клинические ситуации, в которых они работают хорошо.

Правильный диагноз, неправильный совет

По словам экспертов, даже в тех случаях, когда ИИ способен правильно определить состояние, он часто не представляет следующие шаги с должной степенью срочности. еще одно исследование.

Исследователи представили ИИ-ботам различные медицинские сценарии. В 52% экстренных случаев боты «недостаточно сортировались», то есть рассматривали недуг как менее серьезный, чем он был на самом деле. В одном примере ему не удалось направить гипотетического пациента с диабетическим кетоацидозом и надвигающейся дыхательной недостаточностью — опасным для жизни состоянием — обратиться в отделение неотложной помощи.

«Когда возникла неотложная медицинская помощь, ChatGPT все сделал правильно», — сказал Гириш Надкарни, врач и исследователь искусственного интеллекта на горе Синай, который является автором исследования. Проблема, по словам Надкарни, заключается в том, что существуют более сложные сценарии, в которых действует «элемент времени» — бот часто как переоценивает, так и недооценивает количество времени, которое пациент может ждать до обращения за медицинской помощью.

Представитель OpenAI заявил, что это исследование не отражает того, как люди на самом деле используют ChatGPT, и что в предыдущем исследовании использовалась более старая версия ChatGPT, которая, по утверждению компании, с тех пор была исправлена для устранения некоторых выявленных проблем.

ИИ может улучшить посещение врача

Несмотря на опасения по поводу неточностей, врачи, изучающие ИИ, считают, что пациенты используют его для получения медицинской информации, и указывают на случаи, когда он даже предоставлял информацию. спасающий жизнь совет.

«Я призываю пациентов использовать эти инструменты», — говорит Роберт Вахтер, врач из Калифорнийского университета в Сан-Франциско и автор недавно опубликованной книги. Гигантский скачок: как ИИ меняет здравоохранение и что это значит для нашего будущего.

Вахтер утверждает, что, поскольку здравоохранение трудно себе позволить и к нему трудно получить доступ, консультации по искусственному интеллекту по-прежнему зачастую лучше, чем альтернативы. «Совет, который вы получаете от этих инструментов, существенно лучше, чем ничего, и лучше, чем тот, который вы получили бы от своего троюродного брата», — говорит Вахтер.

Тем не менее, подчеркивает Вахтер, ИИ не заменяет врача.

Адам Родман, госпиталист, который исследует программы ИИ в Гарвардской медицинской школе, не рекомендует людям использовать ИИ для сортировки чрезвычайных ситуаций, но говорит, что ИИ может существенно повысить ценность взаимодействия пациента с практикующим врачом.

«Подходящее время для использования большой языковой модели — это когда вы собираетесь пойти к врачу или после визита к врачу», — говорит Родман. По его словам, это может помочь вам получить больше информации о своем состоянии перед приемом и эффективно использовать время, проведенное с вашими поставщиками медицинских услуг, давая пациентам возможность сотрудничать со своим врачом в принятии решений, а не участвовать в длительных сеансах вопросов и ответов.

«У лучшего понимания своего здоровья нет никаких недостатков», — говорит Родман.

ИИ в здравоохранении никуда не денется

Врачи, опрошенные для этой статьи, признают, что ИИ и медицина уже неразрывно связаны, и полагают, что и ИИ, и люди станут более умелыми во взаимодействии друг с другом.

«Я надеюсь, что вы сможете рассматривать ИИ как продолжение человеческих отношений», — говорит Родман. Он представляет себе будущее, в котором и врачи, и люди будут сотрудничать с ИИ, чтобы облегчить общение и преодолеть медицинскую бюрократию.

Родман говорит, что в искусственном интеллекте есть риск. Он опасается того времени, когда о страшных диагнозах, таких как рак, людям будет сообщать бот, а не человек. Исследования показывают, что когда к здравоохранению относятся скорее как к деловому или рыночному продукту, люди меньше доверяют врачам.

«Я надеюсь, что эту технологию можно будет использовать таким образом, чтобы повысить человечность в медицине», — говорит Родман, — «а не таким образом, чтобы исключить отношения врача и пациента».