Люди выше платформ: ИИ в здравоохранении

В то время как Индия принимает глобальный саммит по влиянию ИИ, риторика о преобразовательном потенциале ИИ в здравоохранении, похоже, затмевает критические реалии и проблемы. 7 февраля в Дели во время общенациональной консультации по инициативе людей в области ИИ в здравоохранении состоялся другой разговор об ИИ, в котором подчеркивался альтернативный подход, основанный на правах здоровья, пациентах и поставщиках медицинских услуг. Во время этого разговора врачи, эксперты в области общественного здравоохранения, технологи ИИ, работники здравоохранения и защитники интересов пациентов собрались не для того, чтобы прославлять ИИ, а для того, чтобы подвергнуть его сомнению и одновременно изучить альтернативные подходы. Хотя ИИ рассматривается как главное решение проблем здравоохранения в Индии, вдумчивая консультация вышла за рамки международной шумихи, признав, что внедрение ИИ через централизованные, коммерчески управляемые системы, игнорирующие права пациентов, сообществ и медицинских работников, на самом деле может принести больше вреда, чем пользы.

В глобальном масштабе использование ИИ в здравоохранении показало некоторые перспективы в конкретных областях, таких как распознавание изображений в радиологии, аналитика для помощи в диагностике в контролируемых средах и помощь в рабочих процессах. Но систематические обзоры неоднократно показывают, что инструменты, которые, по-видимому, хорошо работают в пилотных условиях, терпят неудачу в реальных условиях. ИИ хорош в распознавании и сопоставлении закономерностей, но здравоохранение — это гораздо больше, чем просто распознавание закономерностей, поскольку оно включает в себя сложные клинические и этические суждения, социальную контекстуализацию пациентов, а также объяснения и заверения, а также непосредственный физический уход — все это предполагает человеческие отношения, а не только алгоритмы.

Императив защиты прав

Консультации в Дели вызвали острую обеспокоенность по поводу цифрового экстрактивизма: кому принадлежат данные о здоровье, кто извлекает выгоду из полученных данных и кто несет риски? Пациентам нужны понятные рассказы и расширение прав и возможностей, а не просто обращение с ними как с источниками данных. И если инструменты искусственного интеллекта будут обучаться в первую очередь городскому оцифрованному населению, это может привести к закреплению кастовых, гендерных, региональных и социально-экономических предубеждений. Следовательно, любое использование ИИ в здравоохранении должно быть прочно основано на принципах соблюдения прав человека. Это включает в себя право на понимание, поскольку пациенты и люди не должны просто иметь доступ к своим медицинским данным; они должны быть в состоянии понять это. Системы искусственного интеллекта должны переводить сложную медицинскую информацию в четкие и актуальные объяснения, которые помогут принимать обоснованные решения. Право на локальную обработку означает, что конфиденциальные данные о состоянии здоровья по умолчанию должны обрабатываться локально, где это возможно, а не централизованно на корпоративных или государственных серверах; совместное использование облака должно быть явным и подлежащим отмене. Право на постоянный контроль подразумевает, что согласие не может быть разовой формальностью; люди должны иметь возможность закрывать доступ к своим данным и должны контролировать не только свои данные, но и информацию, полученную на их основе. Право на равенство и доступ означает, что системы искусственного интеллекта должны проверяться на предмет предвзятости, быть доступными для всех регионов и языков и управляться прозрачно, чтобы гарантировать, что они уменьшают, а не усугубляют неравенство в отношении здоровья. Услуги, поддерживаемые искусственным интеллектом, разработанные за счет государственных ресурсов, должны быть доступны бесплатно в точках использования в системах общественного здравоохранения. Необходимо гарантировать неисключение: никому не должно быть отказано в помощи из-за того, что он не взаимодействует с системами искусственного интеллекта; пути, не связанные с искусственным интеллектом, в здравоохранении всегда должны оставаться доступными и жизнеспособными.

Дополняемость ухода за человеком

Основной принцип заключается в том, что ИИ должен дополнять, а не заменять человеческую заботу. ИИ может поддерживать документацию и интерпретацию данных, но решения в сфере здравоохранения должны оставаться за ответственными поставщиками медицинских услуг. Люди должны всегда быть в курсе всех функций, выполняемых с помощью ИИ, учитывая, что работники здравоохранения и специалисты являются основой медицинской помощи. В системах здравоохранения, которые уже характеризуются нестабильными условиями труда, существует реальный риск того, что ИИ станет оправданием для сокращения штата, временного перехода, увеличения рабочей нагрузки или алгоритмического надзора за ASHA и другими работниками, работающими на переднем крае. Следовательно, одобрение инструментов ИИ должно требовать оценки воздействия на труд, обеспечения объяснимости для работников, работающих на переднем крае, и явных гарантий против сокращения рабочей силы. Любые технологические достижения должны повышать потенциал и достоинство работников здравоохранения, а не вытеснять их.

Политическая экономия ИИ

Основной вопрос не в том, сможет ли ИИ помочь, а в том, кому он будет служить. Текущее использование ИИ не является нейтральным; оно во многом заложено в монополистических моделях, ориентированных на прибыль. В случае внедрения через коммерческие платформы, которые централизуют данные о пациентах, ИИ рискует углубить корпоратизацию, создать элитный уровень медицинской помощи и быть использованным для расширения дорогостоящего расширения рынка, а не для рационального доступа. Если общедоступные данные и государственные фонды создают системы искусственного интеллекта, их основной обязанностью должно быть усиление государственного обеспечения, а не субсидирование корпоративных прибылей.

Любое использование ИИ в Индии должно быть основано на подходе систем здравоохранения. ИИ может быть разумно использован для усиления первичной и профилактической помощи, а также для расширения прав и возможностей пациентов, включая помощь в рациональном использовании лекарств, улучшение систем направления, демистификацию больничных счетов или упрощение медицинской информации для пользователей. Но мы должны помнить, что проблемы системы здравоохранения Индии в первую очередь не технические; они носят политический, экономический и структурный характер, включая хроническое недостаточное инвестирование в общественное здравоохранение, нехватку обученного персонала, неадекватное регулирование коммерческого здравоохранения и высокие расходы из кармана. Это институциональные сбои, которые алгоритмы не исправят.

В заключение следует сказать, что нам не следует ожидать, что технологии обеспечат решения, по сути, политических и системных проблем (известных как «техно-решение»). Как и любая технология, ИИ должен служить правам пациентов, справедливости в отношении здоровья и общественным целям, в то время как работники здравоохранения и специалисты остаются основой медицинской помощи. Данные о здоровье должны, прежде всего, принадлежать пациентам и людям, и любая полученная информация должна быть подотчетна им. Искусственный интеллект и различные технологии могут оказать помощь в формировании будущего индийского здравоохранения, но люди, работники здравоохранения и общественное здравоохранение должны оставаться в центре внимания.

Доктор Абхай Шукла — врач общественного здравоохранения и национальный соорганизатор Ян Свастья Абхиян. Выраженные мнения являются личными. Он выражает признательность Сураджиту Нанди, команде RAXA и участникам консультации по искусственному интеллекту в здравоохранении под руководством людей за их ценные идеи, которые легли в основу этой статьи.

Опубликовано — 20 февраля 2026 г., 12:34 по восточному стандартному времени.