Пациенты обращаются к ИИ, чтобы интерпретировать лабораторные тесты, со смешанными результатами: выстрелы

Когда в июле Джудит Миллер была проделана рутинная кровяная работа, она получила телефон в тот же день, когда ее лабораторные результаты были опубликованы в Интернете. Итак, когда ее доктор встретился с ней на следующий день, что в целом ее тесты были в порядке, Миллер написал обратно, чтобы спросить о повышенном углекислом диоксиде и о чем -то, что называется «Низкий анионный разрыв», указанный в отчете.

В то время как 76-летний житель Милуоки ждал, чтобы услышать, Миллер делал то, что пациенты все чаще делают, когда не могут достичь своей медицинской команды. Она поместила свои результаты теста в Клод и попросила помощника ИИ оценить данные.

«Клод помог дать мне четкое представление о нарушениях», – сказал Миллер. По ее словам, генеративная модель ИИ не сообщила о ничего тревожного, поэтому она не беспокоилась, ожидая ответа от своего доктора.

Пациенты имеют беспрецедентный доступ к своим медицинским записям, часто через онлайн -порталы пациентов, такие как MyChart, потому что федеральный закон требует, чтобы организации здравоохранения немедленно выпустили электронную медицинскую информацию, такую как примечания о посещении врачей и результатах испытаний.

И многие пациенты используют крупные языковые модели, или LLM, такие как CHATGPT Openai, Claude’s и Google’s Gemini для интерпретации их записей. Это помогает с некоторым риском, хотя. Врачи и защитники пациентов предупреждают, что чат -боты ИИ могут дать неправильные ответы, и что конфиденциальная медицинская информация может не оставаться частной.

Но знает ли ИИ, о чем он говорит?

Тем не менее, большинство взрослых осторожны с ИИ и здоровьем. Пятьдесят шесть процентов из тех, кто использует или взаимодействует с ИИ, не уверены, что информация, предоставленная чат-ботами ИИ, является точной, согласно Опрос 2024 KFFПолем (KFF – это некоммерческая информация о медицинской информации, которая включает в себя KFF Health News.)

Этот инстинкт рожден в исследованиях.

«LLMS теоретически очень сильны, и они могут дать отличный совет, но они также могут дать действительно ужасные советы в зависимости от того, как их побуждают», – сказал Адам Родман, терапевт в медицинском центре Бет Израэль -Диконесс в Массачусетсе и председатель управляющей группы по генеративному ИИ в Гарвардской медицинской школе.

Джастин Хонс, нейрорадиолог в Учелле в Колорадо, сказал, что пациентам может быть очень трудно узнать, делают ли чат -боты искусственного интеллекта ошибки.

«В конечном счете, это просто потребность в осторожности в целом с LLMS. С последними моделями эти проблемы продолжают становиться все меньше и меньше проблемы, но не были полностью решены», – сказал Хонс.

Родман видел всплеск использования ИИ среди своих пациентов за последние шесть месяцев. В одном случае пациент сделал снимок экрана своей больничной лаборатории на MyChart, а затем загрузил их в CHATGPT, чтобы подготовить вопросы перед его назначением. Родман сказал, что он приветствует пациентов, показывая ему, как они используют ИИ, и что их исследования создают возможность для обсуждения.

Примерно 1 из 7 взрослых старше 50 лет использует ИИ для получения медицинской информации, согласно недавнему опросу из Мичиганский университетв то время как 1 из 4 взрослых в возрасте до 30 лет делает это, согласно опросу KFF.

Использование Интернета для пропаганды для лучшего ухода за собой не нова. Пациенты традиционно использовали веб -сайты, такие как WebMD, PubMed или Google, для поиска последних исследований, и обращались за советами от других пациентов на платформах социальных сетей, таких как Facebook или Reddit. Но способность ИИ чат -ботов генерировать персонализированные рекомендации или вторые мнения в считанные секунды – новая.

Что знать: следите за «галлюцинациями» и проблемами конфиденциальности

Лиз Сальмидиректор по коммуникациям и пациентам в OpenNotes, академической лаборатории Бет Израиль -дьяконессы, которая выступает за прозрачность в здравоохранении, задавалась вопросом, насколько хорош ИИ в интерпретации, особенно для пациентов.

В ПРЕЗОПАСНОСТЬ ИССЛЕДОВАНИЯ Опубликованные в этом году, Salmi и коллеги проанализировали точность ответов CHATGPT, Claude и Gemini на вопросы пациентов о клинической ноте. По словам Сальми, все три модели ИИ работали хорошо, но как пациенты сформулировали свои вопросы. Например, сообщение Ай чатботу взять на себя личность врача и задать ему один вопрос за раз, улучшило точность его ответов.

По словам Сальми, конфиденциальность – это проблема, поэтому очень важно удалить личную информацию, такую как ваше имя или номер социального страхования из подсказок. По словам Родмана, данные передаются непосредственно для технологических компаний, которые разработали модели ИИ, добавив, что он не знает о том, что соответствует федеральному закону о конфиденциальности или учитывает безопасность пациентов. Сэм Альтман, генеральный директор Openai, предупредил Подкаст в прошлом месяце о размещении личной информации в CHATGPT.

«Многие люди, которые являются новичками в использовании больших языковых моделей, могут не знать о галлюцинациях», – сказал Салми, имея в виду ответ, который может показаться разумным, но неточным. Например, Whisper’s Openai, инструмент транскрипции, используемый в больницах, введенный в транскрипцию, внесенный в транскрипт, в соответствии с Отчет Associated Press.

Использование генеративного искусственного интеллекта требует нового типа цифровой медицинской грамотности, который включает в себя задание вопросов особым образом, проверку ответов с другими моделями искусственного интеллекта, общение с вашей командой здравоохранения и защиту вашей конфиденциальности в Интернете, сказал Салми и Дейв Дебронкарт, выживший рак и защитник пациентов, кто пишет блог посвящен использованию пациентов с ИИ.

Врачи тоже должны быть осторожны с ИИ

Пациенты не единственные, кто использует ИИ для объяснения результатов теста. Стэнфордское здравоохранение запустил помощника по искусственному интеллекту, который помогает своим врачам проектировать интерпретацию клинических тестов и результатов лаборатории для отправки пациентам.

Исследователи из Колорадо изучили точность сгенерированных CHATGPT Резюме 30 радиологических отчетов, а также удовлетворенность четырьмя пациентами. Из 118 достоверных ответов от пациентов 108 указывали на резюме CHATGPT разъясненные подробности об исходном отчете.

Но CHATGPT иногда переоценка или недостаточно подключенные результаты, и небольшое, но значительное количество ответов указывалось на то, что пациенты были более запутаны после прочтения резюме, сказал Хонсе, который участвовал в участии в Препринт исследованияПолем

Между тем, через четыре недели и пару последующих сообщений от Миллера в MyChart, доктор Миллера приказал повторения ее крови и дополнительного теста, который предложил Миллер. Результаты вернулись нормально. Миллер была облегчена и сказала, что ей лучше информировано из -за ее запросов ИИ.

«Это очень важный инструмент в этом отношении», – сказал Миллер. «Это помогает мне организовать мои вопросы и провести исследование и выровнять игровое поле».

KFF Health News это национальный отдел новостей, который создает глубокую журналистику по вопросам здоровья и является одной из основных операционных программ в KFF Полем