Агентический ИИ: перенос медицинских вопросов с «Что происходит» на «Почему»

Команды по медицинским вопросам находятся под давлением, как никогда раньше, не только из-за большого количества медицинских данных и растущих требований к взаимодействию, но и из-за постоянной необходимости доказать свою ценность высшему руководству. Объемы данных в здравоохранении резко возросли, в то время как специалисты по связям с медицинской наукой берут на себя большую часть работы, которую раньше выполняли продажи. Такое соотношение торговых представителей и специалистов по связям с медицинскими науками (MSL) сужено с 10:1 до 8:1 в США, подчеркивая, насколько важную роль медицина играет в оказании помощи врачам в понимании науки, лежащей в основе новых методов лечения.

Но идти в ногу со временем сложно. Отчеты с мест, консультативные советы, заметки по управлению взаимоотношениями с клиентами (CRM), протоколы конгрессов и даже социальные сети генерируют тысячи сигналов, которые необходимо улавливать, проверять и контекстуализировать. Ни один человек или команда не могут идти в ногу со временем.

Большие языковые модели (LLM), такие как ChatGPT или Claude, могут быстро переваривать и обобщать информацию, но при этом остаются склонными к галлюцинациям. В медицине, где дезинформация может поставить под угрозу безопасность пациентов и затруднить диагностику, максимизация точности имеет такое же значение, как и увеличение скорости.

Агентический ИИ предлагает другой подход. Вместо одной универсальной модели, генерирующей один ответ, агентный ИИ задействует несколько специализированных агентов. Каждый из них решает узкую задачу — мониторинг литературы, проверку источников, маркировку онтологий или проверку соответствия — прежде чем их результаты будут объединены в один проверенный результат.

Агенты ИИ прибыли в критический момент для медицинских дел, сотрудничая как экспертная группа для проверки, проверки и контекстуализации медицинской информации с беспрецедентной точностью, прозрачностью и персонализацией.

Повышение точности

ИИ общего назначения не может надежно отделить сигнал от шума без серьезных указаний по использованию навыков, которых не хватает большинству людей. Он может предоставлять ложную или предвзятую информацию с необоснованной уверенностью, что опасно в медицинских условиях.

Агентский ИИ противостоит этому, назначая специализированных агентов для перекрестной проверки информации с проверенными источниками. Например, один может проверить названия исследований и сведения о компаниях на сайте ClinicalTrials.gov, другой помечает необоснованные утверждения как «самые безопасные» или «лучшие», а третий проверяет язык на предмет соответствия нормативным требованиям — так что каждый результат можно отследить и заслуживает доверия.

Противодействие предвзятости

Но даже точная информация может быть неверно истолкована, когда на сцену выходит человеческая предвзятость. У людей есть когнитивные искажения, которые могут искажать медицинские данные. Хорошо известно, что для врачей ошибка недавнего обращения может сделать последнее общение с пациентом или исследование клинического случая более значимым, чем статистические данные. Один отрицательный побочный эффект может ненадлежащим образом повлиять на решения о лечении последующих пациентов. LLM общего назначения могут усилить эти предубеждения обучаясь на основе предвзятых обучающих данных или показывать пользователям то, что они ожидают увидеть а не то, что наиболее точно.

Агентический ИИ активно противостоит этой предвзятости, проверяя данные из нескольких источников и наборов данных. Он контекстуализирует редкие выбросы в более крупных наборах данных, предотвращая чрезмерную реакцию на статистические выбросы. Например, когда поставщик медицинских услуг (HCP) наблюдает один серьезный побочный эффект, агентный ИИ может немедленно показать, что он представляет собой низкую вероятность для пролеченных пациентов, помогая гарантировать, что решения остаются основанными на фактических данных, а не на анекдотах.

Этот баланс имеет значение. Медицинские бригады уверенно представляют рекомендации, подкрепленные всесторонним анализом, а не анекдотами, эмоциональными реакциями или неполной информацией. Этот научно обоснованный подход укрепляет доверие между фармацевтическими компаниями и медицинскими работниками.

Персонализация

Медицинским группам нужна информация, выходящая за рамки сводных данных. Простой одномерный анализ может показать, что происходит, но редко объясняет, почему. Они требуют понимания сложных, многомерных взаимосвязей, которые соединяют точки таким образом, что влияют на реальные медицинские результаты. Это позволяет анализировать тенденции и движущие силы и помогает командам увидеть траекторию своих усилий по влиянию на схемы лечения и результаты лечения пациентов. ИИ общего назначения может предоставлять универсальный контент, используя устаревшую терминологию, которая не находит отклика у специализированной аудитории.

Агентический ИИ объединяет данные из источников, предназначенных для разных аудиторий, мнения, высказанные докторами на трибуне научного конгресса, и то, что они публикуют для своих пациентов в социальных сетях, выявляя взаимосвязи, которые могут быть упущены при ручной проверке. Объединив агентов, которые обнаруживают закономерности, с другими агентами, которые обнаруживают потенциальные движущие силы, он перемещает анализ от корреляции к объяснению. Благодаря этому более глубокому уровню понимания он функционирует как команда медицинских экспертов, проводящая обширные исследования, позволяя MSL сосредоточиться на другой стратегической работе.

Та же самая агентная структура также позволяла адаптировать коммуникацию. Несколько агентов могут обрабатывать одни и те же доказательства, но адаптируют тон и язык для разных аудиторий. MSL получают клинически точные резюме, подходящие для обсуждения со своими коллегами, а группы, работающие с пациентами или публикой, получают объяснения простым языком, которые одновременно ясны и точны. Это обеспечивает согласованный и совместимый обмен сообщениями для каждой аудитории.

И хотя сегодня традиционная аналитика в основном полагается на частоту или то, как часто тема появляется в качестве показателя важности, будущие агентные системы выйдут за рамки этого. Они будут оценивать информацию в зависимости от того, кто ее сказал, когда и где это было сказано и в каком контексте. На практике одно мнение ключевого лидера мнений в консультативном совете может перевесить десятки обычных упоминаний на местах. По мере развития этих механизмов взвешивания информации медицинские команды будут получать более четкую и сложную информацию, которая поможет им принимать решения, основанные на влиянии, а не на объеме.

Обеспечение прозрачности

Медицинским работникам нужны объяснимые системы искусственного интеллекта, позволяющие отслеживать и проверять информацию. В регулируемых средах профессионалы должны понимать не только то, к чему приходит ИИ, но и как он пришел к этим выводам.

По мере развития агентных архитектур ожидается, что они будут обеспечивать полную атрибуцию источника и проверяемую цепочку рассуждений для каждого результата. Каждый специализированный агент будет способствовать прозрачному процессу, который медицинские бригады смогут проверить и подтвердить. Эта многоуровневая конструкция в конечном итоге объединит воедино соблюдение нормативных требований, медицинский опыт и технические меры безопасности, такие как дополненная генерация данных (RAG), чтобы обеспечить получение результатов из надежных источников.

Доверие зависит от прозрачности. Когда медицинские специалисты смогут показать, как именно агентный ИИ проверил каждую часть данных, они укрепят доверие к себе со стороны медицинских работников. Это укрепляет профессиональные отношения и гарантирует, что безопасность пациентов остается первостепенной задачей. На этих ранних этапах внедрения ИИ потребуются надежные и научно обоснованные методологии, чтобы избежать того, чтобы действительные результаты были отклонены как «фейковые», и гарантировать, что ИИ никогда не заменит экспертные знания в предметной области.

Будущее медицинской разведки

Агентский ИИ способен катализировать медицинскую деятельность, переходя от реактивной отчетности к упреждающей стратегии. Поскольку медицинская наука развивается в геометрической прогрессии, медицинским работникам будет все труднее следить за новыми исследованиями. MSL и медицинские команды становятся еще более важными как доверенные эксперты, которые помогают врачам понять науку о лечении – но только если у них есть доступ к точной, своевременной и проверенной информации.

Этот сдвиг более чем технологический. В эпоху дезинформации специализированные агенты ИИ могут гарантировать, что, когда фармацевтические компании мобилизуют доказательства и научные данные, они смогут делать это с беспрецедентной точностью и прозрачностью. Работая вместе, эти агенты создают доверие, в котором отчаянно нуждаются медицинские работники и пациенты.

Агентский ИИ не заменяет медицинскую экспертизу — он ее усиливает. Выполняя валидацию, верификацию и контекстуализацию в фоновом режиме, он позволяет медицинским работникам сосредоточиться на том, что они делают лучше всего: улучшении результатов лечения пациентов посредством практики доказательной помощи.

Фото: Вэйцюань Линь, Getty Images

Это сообщение появляется через Влиятельные лица MedCity программа. Любой может опубликовать свой взгляд на бизнес и инновации в здравоохранении в MedCity News через влиятельных лиц MedCity. Нажмите здесь, чтобы узнать, как.