HIPAA был создан для аналоговой эры, но ИИ в сфере здравоохранения перерос его

Инновации в сфере здравоохранения стремительно развиваются, поскольку системы здравоохранения ускоряют внедрение технологий искусственного интеллекта. В 2025 году расходы на здравоохранение ИИ достигнет $1,4 млрд, что почти утроит инвестиции 2024 года.

Регулирование вокруг этой технологии также ужесточается. В 47 штатах было внесено более 250 законопроектов, а некоммерческие организации начали предлагать дополнительные рамки; последнее сообщение от Объединенной комиссии, которая ранее в этом году в партнерстве с Коалицией за искусственный интеллект в здравоохранении, выпустил новое руководство за внедрение инструментов искусственного интеллекта в здравоохранении.

С появлением новой политики возник заметный разрыв между культурой быстрого итерирования Кремниевой долины и рынками с более строгим надзором, где инструменты искусственного интеллекта в сфере здравоохранения классифицируются как медицинские устройства, требующие более высоких стандартов соответствия с самого начала. Это расхождение поднимает важные вопросы о том, могут ли модели разработки, ориентированные на скорость, адекватно удовлетворить сложные требования здравоохранения к конфиденциальности и безопасности.

Теперь ясно, что ИИ в здравоохранении в США достиг такой точки, когда традиционного соблюдения требований HIPAA уже недостаточно. Следующий этап регулирования и ожиданий рынка потребует непрерывного управления искусственным интеллектом медицинского уровня, и компании, которые не адаптируются сейчас, останутся позади.

Почему сейчас? Рынок уже пошел дальше

HIPAA был создан для здравоохранения 1990-х годов, чтобы обеспечить переносимость медицинского страхования, упрощение администрирования и защиту данных пациентов. Он ориентирован на записи, а не на интеллект, и был разработан для людей, а не машин, и поэтому содержит устаревшие предположения о потоках данных, а именно, что данные статичны, хранятся в хранилищах и доступны только небольшой, известной группе людей. Это касается только организаций и деловых партнеров, на которые распространяется действие закона, оставляя пробелы для приложений для здоровья потребителей, поставщиков базовых моделей искусственного интеллекта, теневых ИТ-платформ и аналитических платформ. Он основан на защите данных пациентов посредством ограничения доступа и деидентификации.

В результате HIPAA в настоящее время защищает некоторые данные, упускает из виду многие риски и поощряет соблюдение флажков, а не системную безопасность. Вы можете сравнить то, как HIPAA медленно меняется посредством регулирования и руководства, с ИИ, который развивается еженедельно, итеративно и за счет возникающего поведения. В условиях быстрого внедрения технологий искусственного интеллекта в здравоохранении HIPAA просто не может идти в ногу с фундаментальными моделями, мультимодальными системами, агентными рабочими процессами и клиническими пилотными проектами в реальном времени. Исследования показали что модели ИИ часто теряют производительность после развертывания, однако не существует официальной политики, обеспечивающей мониторинг в реальном времени для обнаружения таких вещей, как дрейф и предвзятость.

В результате системы здравоохранения требуют гарантий, которые регулирующие органы еще не систематизировали. Исторически регулирование следовало за рынком в США. Сегодня более половины систем здравоохранения США уже внедряют ИИ в клинические и операционные рабочие процессы, часто намного опережая официальные нормативные рекомендации. С моей точки зрения, как главного медицинского директора одной из самых быстрорастущих компаний в области искусственного интеллекта в сфере здравоохранения, рынок уже задает более глубокие вопросы. За последние несколько месяцев в Heidi мы столкнулись с притоком клиентов, которые задавали более глубокие вопросы, касающиеся управления моделями, мониторинга и владения рисками. В этом случае клиенты движутся быстрее, чем нормативные акты, к безопасному и ответственному развертыванию этих технологий.

Регуляторный разрыв

С глобальной точки зрения, США имеют один из наиболее либеральных рынков для ИИ, и эта определяющая черта все больше становится обузой. Хотя многие стартапы выигрывают от такой гибкости, отсутствие надзора создало разрыв между тем, как создаются инструменты искусственного интеллекта, и тем, как они в конечном итоге будут работать, чтобы обеспечить безопасность и надежность в отраслях с высоким уровнем риска, таких как здравоохранение.

На таких рынках, как Европа, многие правительства приняли строгие рамки для инструментов искусственного интеллекта, используемых в оказании медицинской помощи. Например, в Великобритании искусственный интеллект окружающего голоса в настоящее время регулируется как медицинское устройство. Та же самая технология, развернутая в США, работает в практически нерегулируемой среде. То же нормативное определение применимо к платформам медицинских знаний и фактических данных, используемым для поддержки принятия клинических решений.

Это нормативное расхождение катализирует более широкую культурную расплату за стартапы в области искусственного интеллекта в сфере здравоохранения в Соединенных Штатах. Знаменитая мантра Силиконовой долины «строить быстро и ломать» просто не применима в медицинской среде, где поломка может вызвать серьезный риск.

Я признаю, что управление ИИ — это не гламурная и не увлекательная работа, оно, безусловно, требует вложений денег, времени, таланта и огромного терпения. Но поскольку системы здравоохранения становятся более искушенными покупателями, более сильное управление становится неизбежным.

В следующую эпоху ИИ в сфере здравоохранения в США я вижу, что у стартапов в области ИИ в сфере здравоохранения есть два варианта: инвестировать в необходимые ресурсы, необходимые для ИИ медицинского уровня, или вообще уйти из сферы здравоохранения в пользу менее регулируемых рынков.

Что HIPAA 2.0 должен сделать правильно

По мере того, как ИИ в сфере здравоохранения все больше внедряется в клинические рабочие процессы, отрасль приближается к моменту, который многие начинают называть «HIPAA 2.0». Это не обязательно будет формальным переписыванием самого закона, а, скорее, фундаментальным сдвигом в ожиданиях систем здравоохранения относительно того, что его соблюдение должно охватывать на практике. Вопрос в том, будет ли этот следующий этап осмысленно направлен на управление ИИ или просто наложит дополнительные требования безопасности на уже устаревшую структуру. На кону не только безопасность данных, но и доверие пациентов к получаемой ими помощи.

Несомненно, будет оказываться давление с целью свести требования к минимуму и оставить суть этих проблем практически нетронутой. Крупные поставщики платформ и поставщиков облачных услуг могут сопротивляться требованиям управления, которые создают трудности или замедляют развертывание. Но цена бездействия гораздо выше. Пациенты должны верить, что их данные обрабатываются ответственно, поставщики услуг должны верить, что системы искусственного интеллекта работают надежно, а системы здравоохранения должны верить, что механизмы управления выявят проблемы до того, как они возникнут.

HIPAA 2.0 должен признать, что риск ИИ не является статичным. Гарантии конфиденциальности и безопасности необходимы, но они никак не влияют на то, как системы ИИ ведут себя после развертывания: как модели смещаются со временем, как возникает предвзятость или как ошибки распространяются в масштабе. Без явного внимания к этой динамике HIPAA рискует снова устареть.

По мере ужесточения надзора добьются успеха не те стартапы, которые дольше всех избегали регулирования, а те, которые использовали его как принудительную функцию для создания более безопасных и надежных систем с самого начала.

Как выглядит будущее

В будущем лучшие компании, занимающиеся искусственным интеллектом в сфере здравоохранения, будут с нуля создавать инструменты, которые выходят за рамки традиционных контрольных списков или просто соответствуют требованиям HIPAA. Этот новый контрольный список больше похож на:

• Постоянный мониторинг в сравнении с разовыми аудитами – Наблюдение в режиме реального времени за производительностью модели, частотой галлюцинаций и характером сбоев.
• Прозрачность как требование – Карточки-модели, объяснительная документация и тщательное тестирование на предмет предвзятости, акцента и языковых вариаций.
• Управление становится совместным – Общие стандартные операционные процедуры, совместное владение рисками и модели постоянного партнерства вместо поставки готового программного обеспечения.

Самая важная часть перехода — признание всеми заинтересованными сторонами того, что нынешнее поколение систем ИИ не является статичным. Это сложные адаптивные системы, которыми необходимо управлять в различных клинических условиях. Следующее поколение ответственных ИТ-руководителей здравоохранения, как в системах здравоохранения, так и в компаниях, которые их обслуживают, будет теми, кто будет относиться к управлению как к основной возможности, которая намеренно встроена в продукты, востребована покупателями и совместно управляется в реальных условиях.

Фото: Ильдо Фразао, Getty Images

Это сообщение появляется через Влиятельные лица MedCity программа. Любой может опубликовать свой взгляд на бизнес и инновации в здравоохранении в MedCity News через влиятельных лиц MedCity. Нажмите здесь, чтобы узнать, как.