ИИ решает, кому будет оказана медицинская помощь: борьба с предвзятостью в решениях о страховом покрытии с помощью ИИ

Влияние ИИ в здравоохранении значительно возросло, однако предвзятости в алгоритме ИИОни создают пробелы в медицинской помощи, которые эти инструменты должны были устранить. Руководители здравоохранения вынуждены взвешивать как финансовые стимулы для достижения операционной эффективности, так и потребности пациентов, поскольку они определяют, как обеспечить наиболее подходящую и экономически эффективную помощь.

Несмотря на то, что существует значительная потребность и возможность решить эти общие расходы с помощью передовых инструментов искусственного интеллекта, которые прогнозируют потребности пациентов и вероятность повторной госпитализации, внутренние предвзятости в этих алгоритмах в конечном итоге приносят больше вреда, чем пользы, и финансовая экономия достигается за счет здоровья пациентов.

Сдерживание затрат и потребности пациентов

Многие из этих предубеждений связаны с основным противоречием в оказании помощи, основанной на ценностях: стремлением сдерживать расходы по сравнению с потребностями отдельных пациентов. Модели, основанные на стоимости, и планы Medicare Advantage используют прогнозную аналитику для управления расходами после острого периода. Алгоритмы обрабатывают горы данных, чтобы определить план ухода за пациентом, например, сколько дней реабилитации типичному пациенту «нужно» или сколько посещений домашней терапии «достаточно». Страховщики рекламируют это как персонализированную медицину, но я часто наблюдаю менталитет «один размер подходит всем». Инструменты определяют оптимальную продолжительность пребывания или уровень обслуживания, ориентированный на среднего пациента, что часто не соответствует действительности.

Поставщики услуг, работающие на передовой линии, часто становятся свидетелями этих конфликтов, считая, что эти алгоритмы управления использованием похожи на грубый инструмент. Сотрудничая с подотчетными медицинскими организациями (ACO) и больницами, я неоднократно сталкивался с автоматизированными системами предварительного разрешения, которые отказывают в таких вещах, как дополнительная неделя ухода на дому или специальное медицинское оборудование, потому что пациент «не соответствует критериям». В контракте, основанном на стоимости, существует необходимость сократить услуги, которые статистически кажутся чрезмерными, но болезни не всегда являются средними. Я вспоминаю человека, пережившего рак, с осложнениями, который превысил стандартное количество посещений домашней терапии, предусмотренное алгоритмом. Логика сдерживания расходов отрезала бы ее; вместо этого наши координаторы по медицинскому обслуживанию боролись за расширение услуг и предотвратили то, что могло бы стать дорогостоящей повторной госпитализацией. К сожалению, не у каждого пациента есть сторонник отмены алгоритма. Забота, основанная на ценности, никогда не должна означать отказ в помощи, когда она законно необходима, но без тщательных проверок алгоритмы могут допустить именно эту ошибку во имя «оптимизации».

Непрозрачные решения и проблемы координации медицинской помощи

Для пациентов и их семей одна из самых раздражающих частей всего этого — непрозрачность. Когда формула ИИ решает отказать в страховании, люди, переживающие последствия, часто понятия не имеют, почему. Они просто получают сухое письмо с отказом, которое часто выглядит одинаково, с общими фразами, такими как «нет необходимости с медицинской точки зрения» или «услуги больше не требуются», практически без каких-либо подробностей об их конкретном случае. Например, двое наших пациентов в разных учреждениях получили письма, в которых говорилось, что медицинский директор рассмотрел их дело (без указания имени или специальности) и пришел к выводу, что они готовы вернуться домой, однако ни в одном письме не упоминались вполне реальные условия, которые делали дом небезопасным. Это похоже на то, как если бы решение было принято в черном ящике, и на выходе появляется только расплывчато сформулированный вердикт. Часто отчет алгоритма вообще никогда не передается пациентам, оставляя им возможность гадать о методе оценки, в то время как он тихо работает в фоновом режиме, невидимый и непроверяемый теми, на кого он влияет. Из-за отсутствия прозрачности семьям чрезвычайно сложно оспаривать или даже понимать отрицания.

Непрозрачность не только вредит пациентам; это бросает песок в механизмы координации ухода. Больницам и учреждениям квалифицированного сестринского ухода (SNF) сложно планировать переходный период, когда внезапное прекращение покрытия происходит по скрытым критериям. Эта неопределенность оставляет специалистов по планированию выписки без надлежащего плана услуг после выписки, а SNF ошеломлены тем, что страховщик прекращает выплаты, в то время как пациент все еще нуждается в реабилитации. Это создает напряженность между поставщиками и плательщиками и ставит пациентов в центр перетягивания каната. Больницам также пришлось изо всех сил стараться держать пациента дольше или искать альтернативное финансирование, поскольку автоматический отказ нарушил первоначальный план выписки. Во многих случаях врачи и медицинские бригады SNF категорически не согласны с решением алгоритма прекратить покрытие, поскольку знают, что пациент не готов. Результатом могут стать поспешные выписки, поспешная передача дел и более высокий риск осложнений или повторной госпитализации – именно то, что должен предотвратить хороший уход в переходный период. Эти решения о покрытии на основе искусственного интеллекта, когда они окутаны тайной, подрывают доверие и координацию. Поставщики услуг вынуждены тратить время на апелляции и обходные пути вместо ухода за пациентами. Семьи часто остаются в неведении, пока внезапно не сталкиваются с отрицанием и не пытаются организовать уход самостоятельно. Прозрачность здесь не роскошь; это необходимость безопасного и скоординированного ухода.

Обеспечение справедливости и прозрачности в алгоритмических решениях по уходу

Снижение затрат важно на всех уровнях оказания медицинской помощи и является ключевым элементом программ ухода, основанных на ценностях. Однако сделать это за счет пациентов невозможно. Помимо регулирования, разработчикам алгоритмов и организациям здравоохранения необходимо удвоить усилия по проверке этих инструментов на предмет предвзятости перед их полным внедрением. Это включает в себя проверку результатов по расе, полу и почтовому индексу, а также другим факторам, а также исправление любых возникающих ошибок. Прозрачность также является важной частью головоломки. Страховщикам не нужно публиковать патентованные формулы, но они должны раскрывать критерии, используемые для одобрения или отказа в оказании услуг после неотложной помощи. Пациенты и поставщики услуг заслуживают знать, основаны ли решения на клинических данных, прогнозах затрат или алгоритме искусственного интеллекта. Кроме того, больницы и SNF не должны оставаться в неведении относительно того, как долго будет покрываться покрытие лечения пациента после неотложной помощи. Даже если используется алгоритм, его прогнозы должны быть доступны всем, чтобы каждый мог правильно спланировать ситуацию и заранее сообщить о проблемах, если прогноз окажется неверным. Когда дело доходит до координации ухода, ключевым моментом является усиление коммуникации.

Алгоритмы ИИ — это инструменты, и хотя они были разработаны людьми и могут быть запрограммированы в соответствии с приоритетами компании, они редко дают полную картину. Поскольку эти инструменты продолжают развиваться, руководители здравоохранения всегда должны ставить пациента на первое место. Это означает, что необходимо проводить проверки людей, чтобы гарантировать, что пациенты по-прежнему получают необходимую им помощь. В конце концов, у людей не только больше ситуационных знаний, чем у технологий, но у них больше сочувствия и понимания, чтобы принимать более правильные решения, чем когда-либо смогут эти инструменты.

Фото: J Studios, Getty Images

Это сообщение появляется через Влиятельные лица MedCity программа. Любой может опубликовать свой взгляд на бизнес и инновации в здравоохранении в MedCity News через влиятельных лиц MedCity. Нажмите здесь, чтобы узнать, как.