Сохранение честности в здравоохранении: внедрение подотчетности в ИИ

В отрасли здравоохранения есть потратил миллиарды на автоматизацию в последние десятилетия, но для многих ИИ не обеспечил той эффективности или финансовой отдачи, на которую они рассчитывали. Недавние исследования из Массачусетского технологического института обнаружили, что 95% организаций сообщили о нулевой отдаче от инвестиций в свои программы искусственного интеллекта.

Одной из ключевых причин этой проблемы является то, что многие решения и рабочие процессы не связаны друг с другом. Организации здравоохранения инвестировали в автоматизацию без подотчетности и внедрили системы искусственного интеллекта, у которых нет контекста, необходимого для надежной работы. Вместо того, чтобы уменьшить трения, эти инструменты могут фактически привести к увеличению административной нагрузки, а также сделать организацию уязвимой для ошибок, влияющих на жизнь.

ИИ — это инструмент. Люди несут ответственность. Но мы можем внедрить подотчетность в системы искусственного интеллекта, отдавая приоритет целостности данных, человеческому надзору и непрерывному обучению. Когда искусственный интеллект честен и действует как связующее звено в рабочих процессах здравоохранения, высвобождается время врача, обеспечивается точность и защищаются доходы.

Целостность данных — ключ к подотчетности ИИ

Чтобы обеспечить честность этих систем, организации здравоохранения должны обеспечить надлежащее управление и контекстуализацию своих данных. Сегодня многие организации здравоохранения упускают этот контекст. Когда клинические и операционные данные хранятся в отдельных точечных решениях или устаревших электронных медицинских документах, которые не взаимодействуют друг с другом, агенты ИИ не могут работать в правильном контексте, необходимом для получения точных и надежных результатов. Использование агента искусственного интеллекта, работающего с частичными данными, похоже на вождение автомобиля с шорами, а в здравоохранении, где каждое решение имеет реальные последствия, догадки недопустимы.

Совместимость данных является отправной точкой для подотчетного ИИ. Когда организации здравоохранения объединяют данные в рамках точечных решений, ИИ может действовать с полным контекстом, оптимизируя рабочие процессы и уменьшая административные трудности. В результате качество обслуживания пациентов улучшается.

Баланс ИИ с человеческим контролем

Успешная интеграция ИИ в здравоохранение требует правильного баланса между технологиями и человеческим опытом, при этом агентный ИИ меняет уровень человеческого контроля, необходимый в здравоохранении. Автономные системы способны действовать упреждающе и управлять сложными процессами, такими как пометка об отсутствии задачи профилактического ухода или отправка предварительного запроса на авторизацию, но это не означает, что контроль со стороны человека по-прежнему не требуется. Эксперты-люди должны привлекаться в качестве стратегических руководителей и лиц, принимающих окончательные решения, давать медицинским работникам время для ухода за пациентами и аналогичной дорогостоящей работы. Используя аналитические возможности искусственного интеллекта, человеческий опыт и эмпатию, организации здравоохранения могут создать систему, которая расширяет возможности как пациентов, так и врачей.

Укрепление суждений ИИ посредством непрерывного обучения

Индустрия здравоохранения постоянно меняется: появляются новые правила и клинические рекомендации, а также меняющиеся ожидания пациентов. Подотчетный инструмент искусственного интеллекта способен адаптироваться к отрасли посредством процессов непрерывного обучения и обратной связи.

Непрерывное обучение дает ИИ реальный клинический, технический и эмоциональный контекст, необходимый для принятия обоснованных решений. Сотрудники могут со временем повысить производительность ИИ за счет обратной связи, которая усиливает соответствующие и соответствующие требованиям результаты ИИ, помогая избежать распространенной ошибки, связанной с возможностями без контекста. Например, при использовании медицинского кодера ИИ человек-аудитор должен проверить выходные данные ИИ и предоставить обратную связь, чтобы научить ИИ работать с высокой точностью. Непрерывное обучение не только обеспечивает точность, но и упрощает использование инструментов искусственного интеллекта для врачей. Благодаря обратной связи врач, использующий программу окружающего прослушивания, может научить ИИ форматировать клинические записи в предпочитаемом им стиле, чтобы ИИ более органично вписывался в его рабочий процесс.

Непрерывное обучение создает ценную петлю обратной связи, которая повышает скорость и качество. Постоянная обратная связь от врачей и персонала может усилить суждения ИИ, позволяя ему выполнять задачи быстрее и надежнее.

Подотчетность — новая метрика ИИ

Поддержание честности ИИ — это не замедление инноваций, а создание систем, которые поддерживают врачей, пациентов и здравоохранение в целом. Будущее здравоохранения будет определяться организациями, которые будут использовать подключенные рабочие процессы на базе искусственного интеллекта, сохраняя при этом человеческий опыт. Все выигрывают, когда ИИ ответственен, учитывает контекст и интегрирован. Организации сокращают неэффективность и защищают доходы, пациенты получают более плавный доступ к медицинской помощи и более быстрое получение разрешений, а у клиницистов появляется больше времени для того, чему их научили: ухода за пациентами.

Фото: Паня Минтайсонг, Getty Images

Это сообщение появляется через Влиятельные лица MedCity программа. Любой может опубликовать свой взгляд на бизнес и инновации в здравоохранении в MedCity News через влиятельных лиц MedCity. Нажмите здесь, чтобы узнать, как.