Лидер Mercy по искусственному интеллекту: стратегия прежде всего, управление всегда

Керри Боммарито, доктор философии, вице-президент по корпоративному искусственному интеллекту и аналитике принятия решений компании Mercy, говорит, что программа ИИ в системе здравоохранения начинается с плана предприятия, а не с блестящих инструментов. После того как исполнительная команда устанавливает пять OKR для всей организации каждый финансовый год, рабочие потоки передаются ответственным руководителям; Боммарито является попечителем ключевого результата, направленного на улучшение цикла доходов за счет автоматизации и искусственного интеллекта. Ранние приоритеты включают отказы, предварительное разрешение и передачу пациентов от одобрения тестирования до выставления счетов — области, где технологии могут облегчить нагрузку на персонал и одновременно улучшить качество обслуживания пациентов.

Это интервью было проведено в рамках нашего недавно опубликованного Специальный репортаж об ИИ

Она подчеркивает, что определение объема работ начинается с проблем, а не платформ: определите операционную цель, а затем оцените, являются ли аналитика, стандартизация рабочих процессов, построение EMR или ИИ правильным рычагом. Боммарито утверждает, что эта дисциплина помогает избежать распыления ресурсов между неподходящими пилотами и позволяет сэкономить время, потраченное на разработку, на материальные ценности. “ИИ не может решить все проблемы. Очевидно, что ИИ может многое. Но многое он не может”, – сказала она, отметив, что даже решаемые проблемы лучше решать через партнерские отношения с поставщиками, а не через внутренние сборки, в зависимости от времени окупаемости и удобства обслуживания.

Подкаст: Играть в новом окне | Скачать (Продолжительность: 33:30 — 23,0 МБ)

Подписаться: Apple Подкасты | Спотифай | Андроид | Пандора | iHeartRadio | Podchaser | Индекс подкастов | Электронная почта | TuneIn

Качество данных и реалии поставщиков

Боммарито связывает выбор решения с готовностью данных. Она указывает на основы — последовательные записи в EMR, стандартизированные фразы и единообразие рабочего процесса — как на определяющие факторы того, насколько хорошо могут работать последующие технологии. По ее мнению, реализация поставщиками дает сбой, когда предполагаемые спецификации данных вступают в противоречие с реалиями конкретной площадки. Она отмечает, что системы здравоохранения должны заранее проверить эти предположения и обеспечить соблюдение собственных норм сбора данных и управления. С этой целью она рекомендует объединять информатиков и руководителей операций с инженерами на протяжении всего процесса открытия, чтобы команда могла видеть, как шаблоны документации и пути исключений формируют входные и выходные данные модели.

Управление как отдельное направление

Она описывает структуру Mercy как продуманную: отдел корпоративных данных и искусственного интеллекта, а также управление искусственным интеллектом находятся за пределами основной ИТ-подразделения. Специальные рецензенты изучают карты моделей поставщиков и отслеживают соблюдение практик ответственного использования ИИ; Mercy также включает требования об уведомлениях ИИ в контракты, чтобы поставщики не могли «включить» новые возможности без окна оценки. «Я думаю, что управление ИИ, в зависимости от того, как устроена организация, должно быть отдельным процессом», — сказал Боммарито. Цель, добавляет она, состоит не в том, чтобы блокировать обновления, а в том, чтобы синхронизировать проверки ИИ с безопасностью и контролем изменений в ИТ, обеспечивая прозрачность для врачей и ясность в отношении предполагаемого и непреднамеренного использования.

Регулирование, риск и человек в цикле

Она проводит четкую линию в отношении клинической безопасности. Любая функция, которая может функционировать как медицинское устройство, должна быть проверена на предмет последствий FDA, а широкое использование языковых моделей в клинических условиях должно держать человека в курсе. Образование имеет важное значение: врачи должны знать, для чего предназначен инструмент, а для чего он не предназначен, как он достиг рекомендаций и в чем заключаются ограничения. Эта ответственность, отмечает она, не может быть передана на аутсорсинг маркетинговому лейблу. «Это по-прежнему ваша ответственность, потому что именно вы используете этот инструмент», добавив, что системы здравоохранения должны проверять позицию управления, даже если поставщик утверждает, что его продукт не является регулируемым устройством.

Пилоты, созданные для масштабирования

Боммарито рассматривает слово «пилот» как сигнал к инженерной осмотрительности, а не как лицензию на одноразовые разработки. Внутренние усилия оформляются в виде платформ — многократно используемых микросервисов и агентов — так что успешная проверка концепции в одной линии услуг может быстро распространиться на другие. Mindset предотвращает «выбрасывание» кода и ускоряет масштабирование, как только его ценность будет доказана. В отношении пилотных проектов для поставщиков она предостерегает руководителей реалистично распределять бюджет: затраты на ИТ, необходимые для проведения ограниченного пробного периода, часто сравнимы с полным внедрением, особенно в среде с одной EMR. Раннее определение ресурсов помогает избежать бессрочных экспериментов и обеспечивает четкость этапов принятия решений.

Измерение того, что важно

Она советует командам с самого начала объявлять показатели ценности — финансовые, операционные или опыт — и сохранять гибкость, когда реальность расходится с планом. Некоторые преимущества, такие как снижение нагрузки на документацию, будут иметь качественный сдвиг; другие, такие как предотвращение отказов или сокращение времени цикла предварительной аутентификации, позволяют получить четкое представление «до» и «после». Боммарито также рекомендует переформулировать запросы на решение с учетом основной проблемы; иногда лучший ответ — предотвратить проблему наверху, а не оптимизировать решение на выходе. Именно здесь, отмечает она, тесное сотрудничество специалистов в области информатики, эксплуатации и проектирования окупается за счет быстрого выполнения итераций и непрерывной обратной связи.

Убери это

• Привязывайте инвестиции в ИИ к OKR предприятия; пусть цели, а не инструменты, определяют масштаб
• Сравните спецификации данных поставщиков опрессовок с реальными рабочими процессами и шаблонами документации.
• Отделите управление ИИ от контроля изменений в ИТ, но запускайте процессы параллельно.
• Требовать уведомление по контракту, когда поставщики добавляют ИИ в уже используемые продукты
• Относитесь к внутренним «пилотным проектам» как к сборкам платформ с повторно используемыми сервисами и агентами.
• Бюджет для пилотных проектов поставщиков такой же, как если бы они были полным развертыванием; персонал соответственно
• Заранее объявляйте показатели ценности, но при необходимости учитывайте качественные преимущества.
• Отдавайте предпочтение предотвращению эксплуатационных проблем на верхнем этапе, а не на устранению проблем на нижнем уровне.
• Держите человека в курсе клинического использования LLM; информировать конечных пользователей о возможностях и ограничениях
• Постоянно привлекайте информатиков и операторов к выявлению крайних случаев и исключений.

Она возвращается к смирению как к рабочему принципу движущегося фронтира: «Мы должны быть скромными в отношении того, что ИИ действительно может, а что нет».