Преодолевайте шумиху: 3 вещи, которые нужно знать перед внедрением агентного ИИ

Индустрия здравоохранения вступила в «эру агентного искусственного интеллекта», отмеченную быстрым ростом числа новых стартапов в области искусственного интеллекта и значительным финансированием. Однако 80% систем здравоохранения заявляют, что им не хватает ресурсы для выявления, выбора и внедрения решений искусственного интеллекта.

Итак, вот в чем загвоздка: системы здравоохранения, которые могли бы получить наибольшую выгоду от агентного ИИ, часто очень медленно или даже не могут его внедрить.

На протяжении более десяти лет я видел несколько «эр» развития информационных технологий в сфере здравоохранения. «Агентный искусственный интеллект» — это следующее решение, которое поможет исправить то, на чем здравоохранение было сосредоточено в течение многих лет, — легко и эффективно обеспечить пациентам доступ к медицинской помощи, одновременно снижая нагрузку на персонал.

Тем не менее, что является новым и необычным, так это глубокий и в настоящее время неиспользованный потенциал ИИ, позволяющий полностью изменить взаимодействие пациентов со здравоохранением, в том числе на административной и коммуникационной стороне доступа к пациентам – планирование, перенос графика, направления, рецепты, после выписки, общие вопросы и многое другое.

Вот три соображения, на которые следует обратить внимание организациям здравоохранения при внедрении агентного решения искусственного интеллекта для связи с пациентами:

Не обманывайтесь возможностями «облегченной интеграции»

Каждый поставщик обещает «глубокую» интеграцию EHR, потому что это основа действительно ценного ИИ-агента. Возможность безопасно считывать и записывать записи пациентов — это то, как агент автоматизирует рабочие процессы и обеспечивает реальную ценность.

Но как узнать, является ли поставщик настоящим лидером в этой области, а не просто «сводится»? Ключевым показателем является принятие ими новых, перспективных стандартов.

Например, рассмотрим Протокол контекста модели (MCP). Это новый открытый стандарт, разработанный Anthropic, который фундаментально меняет способы взаимодействия агентов ИИ с внешними системами. Думайте об этом как о «API для агентов ИИ», который заполняет пробелы, в которых традиционные API не соответствуют LLM, обеспечивая более безопасное, динамичное и эффективное взаимодействие с такими системами, как EHR.

Ваши потенциальные партнеры активно внедряют MCP? Если да, то создают ли они простую оболочку или продумывают комплексную задачу и разрабатывают функцию MCP, чтобы ограничить количество оценок со стороны LLM? Оцените их команду и инвестиции: есть ли у них техническая дальновидность и ресурсы, чтобы делать больше, чем просто сводить концы с концами? Правильный партнер не только удовлетворит сегодняшние потребности в интеграции, но и позволит вашей системе здравоохранения в полной мере воспользоваться преимуществами будущих достижений.

Избегайте ловушки быстрого решения

Принимая новое решение, лидеры хотят получить устойчивое и долгосрочное решение, а не временное. Тем не менее, многие новые реализации не приносят долговременной пользы, поскольку они решают только поверхностные проблемы, оставляя нерешенными основные проблемы уровня инфраструктуры и ручную работу.

Недавно я слышал о реализациях агентного ИИ, которые до сих пор полагаются на передачу файлов или ручной ввод данных. Хотя этот подход приводит к быстрому развертыванию, в худшем случае это быстрое решение. Это увековечивает ручные процессы, увеличивает риск использования устаревших данных и/или риск неправильного обращения с PHI/PII и не позволяет высвободить административный персонал в долгосрочной перспективе.

Напротив, настоящее автономное, агентное решение ИИ либо использует динамическую интеграцию с последующими системами (например, через MCP), либо естественным образом интегрируется в широкий портфель решений, уже предлагаемых поставщиком. Эти подходы обеспечивают устойчивую отдачу от инвестиций и могут потребовать несколько более длительного периода первоначальной реализации.

Кроме того, не поддавайтесь желанию переусердствовать с подсказками агента для быстрого решения проблемы, поскольку некоторые поставщики могут включить все в подсказку агента ради быстрой реализации. Хотя это может показаться эффективным для быстрого запуска, это хрупко и сопряжено с риском. В то время как тщательно разработанные инструменты MCP на основе намерений могут повысить производительность, снизить риск галлюцинаций и улучшить масштабируемость.

Есть также вопросы, на которые следует ответить, чтобы помочь организациям-провайдерам заглянуть в будущее: будет ли эта реализация по-прежнему иметь ценность через шесть месяцев или год? Приносит ли сегодняшняя ориентация на скорость в жертву более глубокую и преобразующую ценность, которую заслуживает ваша система завтра? Это важные соображения, поскольку поставщики медицинских услуг взвешивают ценность скорости для устойчивости и безопасности.

Избегайте менталитета «флажка» безопасности

Не существует «финишной линии» для безопасности и конфиденциальности, особенно в эпоху агентного ИИ; пейзаж находится в постоянном изменении. Когда я впервые начал работать в этой отрасли, я считал, что сертификации HITRUST достаточно. Сегодня я знаю, что это не так. Такие сертификаты являются моментальным снимком времени, а не отражением постоянной приверженности защите наиболее конфиденциальных данных вашей системы здравоохранения.

Хотя многие поставщики предпринимают правильные шаги — получают сертификаты, нанимают руководителей по безопасности и внедряют стандартные протоколы — это должно стать отправной точкой. Безопасность и конфиденциальность медицинских данных развились далеко за пределы того, что было даже несколько лет назад, и теперь агентные системы искусственного интеллекта, которые постоянно обучаются, адаптируются и принимают решения самостоятельно, усугубляют ситуацию. Поскольку агентный ИИ создает новые проблемы безопасности, лидеры систем здравоохранения должны отдавать приоритет партнерам, которые не только имеют надежные меры безопасности сегодня, но также активно стремятся опережать тенденции в области безопасности ИИ и могут быстро адаптироваться к новым угрозам с помощью эффективных решений, таких как уменьшение утечки данных с помощью MCP или внедрение тестовых агентов для анализа и оценки разговоров.

Сегодня твердая приверженность безопасности и конфиденциальности должна быть основополагающей и культурной. Мышление и приверженность обеспечению безопасности на первом месте должны охватывать технологии, все отделы и всех людей в рамках всей компании. Это организационная ценность, а не горстка сертификатов, которыми управляет небольшая команда, которой поручено «управлять» остальными сотрудниками.

Например, компании, работающие с государственными учреждениями, могут получить разрешение FedRAMP High, самый строгий стандарт безопасности правительства США. Это разумный шаг, потому что это больше, чем просто установка флажка. Сам процесс дополнительно внедряет культуру безопасности во всей организации.

В заключение, в новую эпоху агентного ИИ вы не просто покупаете технологию; вы внедряете систему, которая будет учиться, адаптироваться и станет частью работы вашей команды. Поставщик агентного ИИ должен быть партнером, который так же заинтересован в вашем долгосрочном успехе, как и вы.

Как вы заметите разницу? Поставщик продает вам решение и передает вам руководство. Партнер работает с вами, чтобы понять ваши конкретные рабочие процессы, совместно создает надежный план внедрения и обеспечивает постоянную поддержку, выходящую за рамки стандартной службы поддержки.

В конечном счете, самый ценный агент ИИ — это тот, которого поддерживает партнер, который работает с ним в долгосрочной перспективе, а не только ради быстрой продажи.

Фото: Юичиро Чино, Getty Images

Это сообщение появляется через Влиятельные лица MedCity программа. Любой может опубликовать свой взгляд на бизнес и инновации в здравоохранении в MedCity News через влиятельных лиц MedCity. Нажмите здесь, чтобы узнать, как.