Хаотичное развертывание ИИ в крупных больницах США подробно описано в анонимных цитатах

Когда дело доходит до искусственного интеллекта, ажиотаж, надежды и предчувствия внезапно появляются повсюду. Но бурные технологии уже давно вызвали волну в здравоохранении: от Неудачный набег IBM Watson на здравоохранение (и давняя надежда на то, что инструменты ИИ однажды смогут превзойти врачей в обнаружение рака на медицинских изображениях) к реализованные проблемы из алгоритмический расовый предубеждения.

Но за публичной дракой фанфар и неудач стоит хаотичная реальность развертывания, которая в значительной степени осталась невыразимой. В течение многих лет системы здравоохранения и больницы боролись с неэффективными и, в некоторых случаях, обреченными попытками внедрить инструменты ИИ. новое исследование под руководством исследователей из Университета Дьюка. Исследование, опубликованное в Интернете в виде препринта, приоткрывает завесу над этими грязными реализациями, а также извлекает извлеченные уроки. На фоне поучительных откровений 89 специалистов, участвовавших в развертывании в 11 организациях здравоохранения, включая Duke Health, Mayo Clinic и Kaiser Permanente, авторы собирают практическую основу, которой системы здравоохранения могут следовать, пытаясь внедрить новые инструменты искусственного интеллекта. .

И новые инструменты искусственного интеллекта продолжают появляться. Буквально на прошлой неделе, исследование JAMA Internal Medicine обнаружил, что ChatGPT (версия 3.5) решительно превзошел врачей в предоставлении высококачественных, чутких ответов на медицинские вопросы, которые люди размещали на веб-сайте. сабреддит r/AskDocs. Превосходные ответы — по субъективной оценке группы из трех врачей с соответствующим медицинским опытом — предполагают, что чат-бот с искусственным интеллектом, такой как ChatGPT, может однажды помочь врачам справиться с растущим бременем ответа на медицинские сообщения, отправленные через онлайн-порталы для пациентов.

Это немалый подвиг. Увеличение числа сообщений от пациентов связано с высоким уровнем выгорания врачей. По мнению авторов исследования, эффективный инструмент чата с искусственным интеллектом может не только уменьшить это изнурительное бремя, предлагая врачам облегчение и освобождая их для направления своих усилий в другое место, но также может сократить ненужные визиты к врачу, повысить приверженность пациентов и соблюдение медицинских указаний. и улучшить результаты лечения пациентов в целом. Кроме того, более оперативный обмен сообщениями может улучшить справедливость для пациентов за счет предоставления большей онлайн-поддержки пациентам, которые с меньшей вероятностью планируют встречи, например, с проблемами мобильности, ограничениями на работе или страхом перед медицинскими счетами.

ИИ в реальности

Все это звучит великолепно — как и многие обещания инструментов ИИ для здравоохранения. Но есть некоторые большие ограничения и предостережения к исследованию, которые делают реальный потенциал этого приложения сложнее, чем кажется. Во-первых, типы вопросов, которые люди задают на форуме Reddit, не обязательно отражают те, которые они задают врачу, которого знают и (надеюсь) которому доверяют. И качество и типы ответов, которые врачи-добровольцы предлагают случайным людям в Интернете, могут не соответствовать тем, которые они дают своим пациентам, с которыми у них сложились налаженные отношения.

Но, даже если основные результаты исследования подтверждаются реальными взаимодействиями между врачом и пациентом с помощью реальных систем сообщений на портале для пациентов, существует много других шагов, которые необходимо предпринять, прежде чем чат-бот сможет достичь своих высоких целей, согласно откровениям под руководством Герцога. предпечатное исследование.

Чтобы сэкономить время, инструмент ИИ должен быть хорошо интегрирован в клинические приложения системы здравоохранения и установленный рабочий процесс каждого врача. Врачам, вероятно, потребуется надежная, потенциально круглосуточная техническая поддержка в случае сбоев. И врачам необходимо установить баланс доверия к инструменту — баланс, чтобы они не слепо передавали сгенерированные ИИ ответы пациентам без проверки, но знали, что им не нужно будет тратить так много времени на редактирование ответов, что это сводит на нет. полезность инструмента.

И после управления всем этим система здравоохранения должна будет создать доказательную базу того, что инструмент работает так, как ожидается в их конкретной системе здравоохранения. Это означает, что им придется разработать системы и метрики для отслеживания результатов, таких как управление временем врачей и равенство пациентов, приверженность и результаты лечения.

Это тяжелые вопросы в и без того сложной и громоздкой системе здравоохранения. Как отмечают исследователи препринта во введении:

Опираясь на швейцарскую сырную модель защиты от пандемии, каждый уровень экосистемы искусственного интеллекта в здравоохранении в настоящее время содержит большие дыры, которые делают неизбежным широкое распространение неэффективных продуктов.

В исследовании была определена структура из восьми пунктов, основанная на шагах внедрения, когда принимаются решения, будь то руководитель, ИТ-руководитель или врач, работающий на переднем крае. Этот процесс включает в себя: 1) выявление проблемы и определение ее приоритетности; 2) определение того, как ИИ потенциально может помочь; 3) разработка способов оценки результатов и успехов ИИ; 4) выяснить, как интегрировать его в существующие рабочие процессы; 5) проверка безопасности, эффективности и беспристрастности ИИ в системе здравоохранения перед клиническим применением; 6) развертывание инструмента ИИ с общением, обучением и построением доверия; 7) мониторинг; и 8) обновление или вывод инструмента из эксплуатации с течением времени.