Искусственный интеллект быстро превратился из теоретической концепции в оперативную реальность. По состоянию на 2025 год сектор здравоохранения захватывает примерно 43% всех инвестиций в ИИ, что составляет примерно 1,5 миллиарда долларов США.
По данным из Банк Кремниевой долиныпочти половина (46%) всех инвестиций в здравоохранение сейчас направлена на технологии искусственного интеллекта; одновременно, Отчеты «Делойта» что организации выделяют в среднем 36% своих бюджетов на цифровые инициативы на проекты, основанные на искусственном интеллекте.
Инструменты с поддержкой искусственного интеллекта теперь встроены в клинические и административные рабочие процессы, включая поддержку клинических решений (CDS) и управление циклом доходов (RCM). Хотя эти инструменты обещают изменить качество ухода за пациентами и финансовые показатели, остается одна основополагающая истина: эффективность ИИ зависит от качества данных, на которых он построен.
Чтобы предотвратить масштабирование «плохих данных», руководители медицинских ИТ и информатики должны понимать симбиотическую связь между целостностью данных и алгоритмическими результатами.
Четыре критических риска плохой целостности данных в ИИ
Опрос лидеров цикла доходов, проведенный в четвертом квартале 2025 года, показал, что 74% цитируют низкое качество данных как основной барьер на пути успешного внедрения ИИ. Успех зависит не от сложности нейронной сети или обещаний поставщика, а от целостности, полноты и точности лежащих в ее основе данных.
1. Масштабирование встроенной предвзятости – Предвзятость остается главным риском в сфере ИИ в сфере здравоохранения. Независимо от того, обучаются ли модели на массивных совокупных наборах данных или на узких, конкретных наборах данных, они несут в себе риск быть нерепрезентативными для местной популяции пациентов.
Например, модели, обученные на данных крупных городских академических медицинских центров, часто не могут быть адаптированы к условиям сельской местности или сообществ. Когда модель сталкивается с незнакомыми клиническими маркерами или нормами документации, она может игнорировать важные сигналы или проявлять «алгоритмическую чрезмерную самоуверенность», несмотря на отсутствие контекста.
Более того, отсутствие точки данных не означает отсутствие клинической проблемы, но ИИ, обученный на плохих данных, может интерпретировать их именно таким образом.
2. Сохранение невидимых пробелов в документации – ИИ часто позиционируется как решение для устранения пробелов в клинической документации. Однако ИИ не может распознавать то, что он не обучен видеть. Если конкретные группы пациентов или редкие пути оказания медицинской помощи выходят за рамки исторических норм, ИИ может не заметить упущения. Чрезмерная зависимость от автоматизации может создать ложное чувство безопасности, особенно в нестандартных случаях, требующих клинической интуиции человека.
3. «Индустриализация» ошибок – Основная ценность ИИ — масштаб. К сожалению, масштаб также увеличивает риск.
Ошибка документации или кодирования, допущенная человеком, обычно относится к одному столкновению. Когда та же самая ошибка существует в наборе обучающих данных, ИИ распространяет эту неточность на тысячи встреч со скоростью машины. Без надежного управления данными организации рискуют превратить неточности в общесистемные сбои, которые трудно и дорого исправить.
4. Эрозия клинического и оперативного доверия – Передовые эксперты теряют доверие к новым решениям искусственного интеллекта, когда результаты приводят к галлюцинациям, ложным срабатываниям или сомнительным клиническим рекомендациям. Как только врачи и другие конечные пользователи теряют доверие к результатам, скептицизм распространяется на все другие инициативы цифровой трансформации.
Здравоохранение сталкивалось с этим раньше: первые внедрения EHR, которые нарушали рабочие процессы, но не приносили пользы, привели к годам выгорания и сопротивления врачей. Внедрение ИИ переживает аналогичный переломный момент. Доверие достигается за счет последовательной точности.
Показательный пример: автономное кодирование и пробел в данных
Автономные системы кодирования обычно обучаются на исторических диаграммах, первоначально закодированных людьми. Если историческая точность составляет в среднем 90%, ИИ не сможет достичь стандарта «чистых претензий» в 95% без значительного вмешательства.
Это создает разрыв в качестве данных, который необходимо устранить, прежде чем переходить к автоматизации прямого выставления счетов. Без аудита и исправления исторических данных полная автоматизация задерживается, что требует от организаций внедрения дорогостоящих этапов проверки и гибридных рабочих процессов, которые нивелируют первоначальный возврат инвестиций в ИИ.
Автономное кодирование — лишь один пример плохих данных, приводящих к плохим результатам ИИ. Я ожидаю увидеть гораздо больше, поскольку решения искусственного интеллекта будут масштабироваться по всему предприятию здравоохранения.
Стратегический путь к масштабируемости ИИ
По данным McKinsey’s Состояние искусственного интеллекта в 2025 году отчетпочти двум третям организаций еще предстоит масштабировать свои проекты искусственного интеллекта в масштабах всего предприятия. В преддверии 2026 года рекомендуется применять дисциплинированный подход, ориентированный на данные.
Чтобы подготовиться к внедрению в масштабах всего предприятия, лидеры медицинских технологий должны уделить приоритетное внимание этим четырем столпам управления данными.
- Аудит исторических записей: Выявите системные неточности в данных, используемых для обучения или настройки модели.
- Установите базовые показатели точности: Прежде чем измерять производительность ИИ, определите, как выглядит успех в ручном режиме.
- Устраните известные пробелы: Устраните несоответствия в документации и стандартах кодирования до автоматизации.
- Поддерживать человеческий контроль (HITL): Убедитесь, что клиническое и техническое управление остается центральным элементом жизненного цикла развертывания.
ИИ — это мультипликатор силы, но он лишь умножит качество фундамента, на котором он стоит. Успех принадлежит лидерам, которые рассматривают целостность данных как стратегическую инфраструктуру, а не как второстепенную мысль.
Фото: Галеану Михай, Getty Images
Николас Рауп является директором по стратегии и инновациям в e4healthтехнологическая и консалтинговая фирма в области здравоохранения, специализирующаяся на клинических, операционных решениях и решениях среднего цикла дохода. Он возглавляет стратегические и инновационные усилия, направленные на оптимизацию данных и рабочих процессов медицинской информации, оптимизацию кодирования, качества и целостности клинической документации, а также решение сложных операционных задач в области ИТ в сфере здравоохранения.
Обладая более чем 20-летним опытом работы в сфере медицинских технологий, Raup способствовала поставке программного обеспечения и услуг, которые снижают административную нагрузку как для поставщиков медицинских услуг, так и для планов медицинского страхования, одновременно улучшая клинические и финансовые результаты. До прихода в e4health он занимал руководящие должности в компаниях Optum, Change Healthcare и McKesson.
Это сообщение появляется через Влиятельные лица MedCity программа. Любой может опубликовать свой взгляд на бизнес и инновации в здравоохранении в MedCity News через влиятельных лиц MedCity. Нажмите здесь, чтобы узнать, как.
2026-03-11 13:27:00
1773283911
#Искусственный #интеллект #проблема #качества #данных #которую #никто #не #может #игнорировать
Читайте также
