Где план действий искусственного интеллекта не справляется с трастом в области здравоохранения

В недавнем мнение Опубликовано холмом, доктор. Джон Уайт и Маргарет Лозовацкий похвалил нынешнюю администрацию США План действий ИИ Как захватывающий первый шаг к укреплению доверия к искусственному искусству здравоохранения.

Они утверждают, что план «уделяет пристальное внимание укреплению общественного и профессионального доверия для технологий искусственного интеллекта посредством прозрачного и этического [sic] и ускорить национальные стандарты безопасности, производительности и совместимости ».

Чтобы быть ясным, ИИ имеет большие обещания для здравоохранения. И есть аспекты плана, который стоит похвалить, такие как ускорение инноваций искусственного интеллекта в диагностике и вариантах лечения, расширение государственно-частных партнерских отношений и акцент на совместимости. Но эти преимущества омрачены тремя ключевыми проблемами, которые непропорционально влияют на уязвимые группы населения, если план будет реализован в соответствии с написанными.

Риски конфиденциальности единых медицинских карт

Основным пунктом продажи плана действий искусственного интеллекта является реализация системы отслеживания данных, которая позволит пациентам более легко обмениваться личной информацией о здоровье (PHI) с поставщиками. Обмен состоит в том, что крупные технологические компании будут иметь доступ к деталям, которые ранее были разделены только с пациентами, поставщиками и страховыми компаниями.

Этот сдвиг создает риски путем централизации огромных количества конфиденциальных медицинских данных, таких как диагнозы, рецепты и результаты лаборатории, в системах, которые становятся привлекательными целями для киберпреступников. В отличие от изолированных нарушений при отдельных практиках, компромисс единых записей может одновременно подвергать миллионы самых чувствительных данных пациентов.

Большинство пострадали от этих рисков, пациенты, которые полагаются на поставщиков с меньшим количеством ресурсов кибербезопасности, таких как общественные медицинские центры. Эти пациенты также имеют тенденцию быть меньше в цифровой грамотной и сталкиваться с большими последствиями от дискриминации на основе здравоохранения, такой как занятость или отрицание страхования после нарушений психического здоровья или генетических данных.

Как написано, план предлагает несколько гарантий, помимо существующих правил, которые не были предназначены для систем здоровья, управляемых искусственным интеллектом в этом масштабе. Без более высоких стандартов шифрования, обязательных сроков уведомления о нарушении и явной защиты для PHI удобство обмена данными достигается неприемлемым риском для конфиденциальности пациента.

Смутные стандарты и карательный подход

Эффективное управление ИИ требует четких и надежных нормативных стандартов. По моему мнению, унифицированная федеральная структура была бы лучше для искусственного интеллекта для здравоохранения, чем в штате, с которым в настоящее время эксплуатируется США. Но учитывая, что план действий ИИ подталкивает дерегулирование за счет безопасности пациентов – заходит так далеко, что наказывает государства «обременительными правилами ИИ» – теперь явно не время для федеральной структуры.

Тогда было обнадеживало, что в подавляющем большинстве голосов в Сенате в подавляющем большинстве случаев убрать мораторий на ИИ из HR 1 в прошлом месяце, что заблокировало бы государства от регулирования ИИ независимо. Тем не менее, план действий искусственного интеллекта использует противоположный подход, призывая к удалению «обременительных» правил, не определяя, что на самом деле считает обременительным или обременительным.

Этот смутный подход становится все более важным, учитывая заявленную философию плана: менталитет «сборка, ребенок, сборка», упомянутый на странице 1, который приоритет скорости над безопасностью. Такой подход создает особые риски в здравоохранении, где ставки выше, чем в других отраслях. В рамках этой рамки такие государства, как Иллинойс, которые только что приняли законодательство Запрещение использования ИИ для решений о психическом здоровьеможет подвергнуться штрафам за лечение защиты пациента как важную, а не как «красную ленту» для удаления.

План дополнительно не учитывает, как системы ИИ будут контролироваться после развертывания, оставляя любой мониторинг для добровольной промышленности. Поскольку алгоритмы ИИ продолжают учиться и меняться с течением времени, они могут развить новые предубеждения или ошибки, которые могут повлиять на качество ухода за пациентом. Без устойчивых требований над надзором пациенты, особенно в сообществах с меньшим количеством ресурсов, становятся невольными испытуемыми для развивающихся систем ИИ.

Вместо того, чтобы полагаться на добровольный мониторинг отрасли, здравоохранение выиграет от более строгого соблюдения четко определенных правил, которые контролируют эффективность ИИ, делают алгоритмическое принятие решений более прозрачными и проверяют разнообразные группы пациентов. Эти средства защиты особенно важны для уязвимых сообществ, которым часто не хватает ресурсов, чтобы обратиться за альтернативным уходом, когда системы ИИ терпят неудачу.

Усиление различий в здравоохранении

Наконец, план отклоняет опасения по поводу предвзятости ИИ, удаляя требования разнообразия, справедливости и включения (DEI) из рамках надзора. Но в здравоохранении алгоритмическая предвзятость не является политической – это проблема безопасности пациента, которая уже стоит жизни в недостаточно обслуживаемых общинах.

Наиболее известным примером этой трагедии является то, как модели ИИ обучались преимущественно для данных белых пациентов Недооценка риска рака молочной железы у чернокожих женщин, которые на самом деле подвергались высокому риску развития заболевания. Это, вероятно, привело к меньшему количеству последующих сканирований и более невыявленных или необработанных случаев рака молочной железы, ухудшения результатов в отношении здоровья и способствуя более высоким показателям смертности у чернокожих женщин.

Это не изолированный случай. Подобные предубеждения были задокументированы в нескольких приложениях здравоохранения, от инструментов оценки боли, которые недооценены дискомфорт у чернокожих пациентов для диагностических алгоритмов, которые пропускают Болезнь сердца у женщинПолем Тем не менее, удаление плана всех вещей DEI означает, что не будет встроенных проверок и противовес, чтобы предотвратить встроенные эти предубеждения в новые системы здравоохранения.

Без мандатов на проверку алгоритмов в разных популяциях, такие различия станут широко распространенными по мере ускорения усыновления искусственного интеллекта.

Ключевые выводы

Как написано, план действий искусственного интеллекта активно препятствует тщательному управлению ИИ, ориентированным на справедливость, которые требования к безопасности пациентов. Без исправления курса, здравоохранение рискует расширять, а не закрывать существующие пробелы в качестве медицинской помощи и доступа.

Это совершенно ясно выражена тревожной динамикой: штаты, которые попытка защитить уязвимых пациентов от рисков ИИ может столкнуться с федеральными финансовыми штрафами за поддержание «обременительных» правил. Это эффективно давление о том, что утверждает, что больше всего снижают свои стандарты, когда больше всего требуется более сильная защита.

Неадекватные гарантии конфиденциальности только усугубляют системные уязвимости. Чтобы решить, а не усилить существующие различия в здоровье в США, необходимо устранено механизмы предотвращения надзора и предвзятости.

Фото: Нарво Виксар, Getty Images

Этот пост появляется через Medicity влиятельные лица программа Любой может опубликовать свой взгляд на бизнес и инновации в области здравоохранения в Medicity News через Medicity влиятельные лица. Нажмите здесь, чтобы узнать, какПолем