С правилами, качеством и ответственностью за безопасную интеграцию в повседневную клиническую жизнь
Многие врачи уже используют генеративный искусственный интеллект (называемый Genai для коротких или AI чат -ботов) в повседневной клинической жизни. Они надеются на ценную поддержку в диагностике и лечении терапии. Но как общие боты в чате ИИ делают в проверке реальности?
Ввиду высоких рисков, Генай находится под интенсивным наблюдением при лечении пациентов. Питер Бонис, доктор медицины, нацелился на свободно доступный чат -бот ИИ и сделал практическое тест. Результаты беспокоятся – отчеты Товары; который работает главным медицинским работником в Wolters Kluwer Health и преподавателем медицины в Медицинской школе Университета Тафтса в Массачусетсе.
Пример, который беспокоится
Итак, Бонис задал ИИ чат -боту простой медицинский вопрос: «Как вы относитесь к инфекции мочевыводящих путей (UTI) у пациента: внутри с пенициллинальной энергией?». «Флуорхинолон или левофлоксацин» были предложены в качестве вариантов. Этот ответ может оказать убедительное влияние на Laypersons, первая ошибка – первая ошибка для медицинского специалиста: левофлоксацин – это своего рода флуорхинолон. Таким образом, ответ был неправильно сформулирован, потому что он мог соблазнить вас предположить, что левофлоксацин не учитывался на флуорхинолонов. Бонис очень беспокоился о тяжелой ошибке с медицинской точки зрения: не было никаких признаков беременных. Флуорхинолон может вызвать серьезное повреждение плода. Если бы пациент была беременна, это было бы чрезвычайно вредно для здоровья ребенка, если бы он слепо следовал этому отверу. Чатбот ИИ не принял эту фундаментальную связь во счете с отсутствием компетентности в отношении актуальности этой детали. Причины очевидны: у бота нет клинического опыта для навигации по многим контрольным точкам, которые передаются медицинской подготовкой. У него также нет обучения и долгосрочной экспертизы из рутины.
Достоверные технологии?
Тем не менее, инструменты Genai в сочетании с другими технологиями имеют большой потенциал для улучшения принятия клинических решений за пределами того, что врачи и медсестры могут делать в одиночку.
Ай чат -боты предлагают поддержку в диагностике и лечении. Согласно растущему числу исследований, они хорошо проводят экзамены по медицинским специалистам. Но данные не рассказывают всю историю: ряд конкретных проблем общих чат-ботов ИИ показывают, что технология еще не обновлена, чтобы играть важную роль в принятии клинических решений.
Галлюцинации
Задача галлюцинаций как наиболее известного риска каждой платформы Genai по-прежнему остается проблемой. Галлюцинации не всегда легко распознать – даже для клинических специалистов, которые убеждены, что они могут идентифицировать их. Нагрузка отделения соленики от пшеницы не должна быть наложена на пшеницу.
Модели Genai иногда содержат ссылки; Нереально, что врачи последовательно проверяют, является ли оригинальный материал действительным или галлюцинированным. Таким образом, Бонис сообщает о цитатах из, по -видимому, убедительных исследований, которые, однако, оказались неспособными существовать. В других случаях цитируемые источники были реальными, но только неадекватными темой и не полностью отражали текущее состояние знаний.
Лакмусовый тест
Воспроизводимость – это задача: если вы зададите бота в чате KI и повторите один и тот же ввод позднее, вы почти наверняка получите два значительно разных ответа. С статистической точки зрения результаты Genai могут сильно различаться – что является серьезной проблемой для обоих врачей: внутри и для пациентов.
Платформы Genai также подвержены искажениям («Предвзятость»). Явные примеры США для искажений в отношении этнической принадлежности показали, что формулировка ввода не только влияет на ответы, но также может привести к ответам с клинически значимыми различиями.1 2 Более тонкие искажения скрываются в решениях, которые модели должны принимать, чтобы расставить приоритеты в различных входах. Например, как последовательно выбирает наиболее достоверный источник информации, когда она сталкивается с противоречивыми доказательствами в исследованиях? До сих пор чат -боты ИИ еще не смогли провести критические рецензии для оценки документов. Это было также более одного Разнообразие ошибок – похоже на людей – из -за искажений сообщается
Ай чат -боты впечатляют медицинских пользователей с удивительными ответами, которые также могут быть неточными. Несмотря на то, что врач: окончательное решение внутри, вы можете привыкнуть к задавать вопросы и реализовывать ответы, что означает, что для процесса разрабатывается своего рода доверительная «мышечная память» – и со временем рекомендации все чаще подвергаются сомнению и взвешивают.
Это развитие открывает совершенно новые аспекты принятия медицинских решений, которые также должны быть повторно оценить регулирующими органами -не говоря уже о юридически до сих пор уточненных вопросов, которые могут возникнуть в случае медицинских ошибок.
Сложность в повседневной клинической жизни
Диагностика и лечение часто постепенно выполняются в реальности – информация и уровни знаний развиваются с течением времени. В то время как генеративные модели ИИ с уверенностью разрабатывают структурированные случаи осмотра, они считают их гораздо сложнее с запутанной, динамической реальностью клинической помощи.3 4
Правильный путь к будущему на основе технологий
Бонис суммирует: в системе здравоохранения неправильный ответ на вопрос может иметь серьезные последствия. Исследование описанных проблем является предпосылкой для разработки графика для правильного использования генеративного ИИ в системе здравоохранения.
При подходящем обзоре и процессах для обеспечения клинической точности, сботов AI в сочетании с другими технологиями может улучшить взаимодействие врача и пациента в режиме реального времени. Задайте вопросы, примите во внимание контекст и используйте наилучшие знания, чтобы поддержать соглашение о лечении Питеру Бонису, правильный путь к будущим взглядам, поддерживаемым ИИ.
Источник: Сабина Шюцманн здравый смысл и
1 Хофманн В., Призыв, П.Р., Юрафски Д. и др. ИИ генерирует тайно расистские решения о людях на основе их диалекта. Природа 633147–154 (2024). https://doi.org/10.1038/S41586-024-07856-5
2 Ян, Ян, Лю, Х., Джин, Q. и др. Разоблачение и количественная оценка расовой предвзятости крупных языковых моделей в генерации медицинских отчетов. Общение с 4176 (2024). https://doi.org/10.1038/S43856-024-00601-z
3 Williams, Cyk, Miao, By, Kornblith, Ae и др. Оценка использования крупных языковых моделей для предоставления клинических рекомендаций в отделении неотложной помощи. Общий нат 158236 (2024). https://doi.org/10.1038/S41467-024-52415-1
4 Хагер П., Юнгманн Ф., Холланд Р. и др. Оценка и смягчение ограничений крупных языковых моделей при принятии клинических решений. Ночь с 302613–2622 (2024). https://doi.org/10.1038/S41591-024-03097-1
Вклад Причина смерти Ки-Чатбот? появился первым Стартапы здравоохранения ГерманияПолем
2025-09-24 10:50:00
1758760547
#Причина #смерти #КиЧатбот
Ещё по этой теме
