Дорожная карта для разработки более инклюзивных чат-ботов, посвященных здоровью

Исследователи из Вестминстерского университета; Институт Кинси в Университете Индианы и Positive East изучили ресурсы Национальной службы здравоохранения Великобритании и Всемирной организации здравоохранения для разработки своего подхода, ориентированного на сообщество, для повышения инклюзивности, приемлемости и взаимодействия с чат-ботами с искусственным интеллектом.

ПОЧЕМУ ЭТО ВАЖНО

Стремясь определить действия, которые уменьшают предвзятость в диалоговом искусственном интеллекте и делают их разработку и внедрение более справедливыми, исследователи рассмотрели несколько рамок для оценки и внедрения новых технологий здравоохранения, включая Консолидированную структуру исследований по внедрению, обновленную в 2022 году.

Когда они обнаружили, что в фреймворках отсутствует руководство по решению уникальных задач, связанных с технологиями диалогового искусственного интеллекта (безопасность и управление данными, этические проблемы и необходимость в разнообразных наборах обучающих данных), они провели контент-анализ, разработали проект концептуальной основы и проконсультировались с заинтересованными сторонами.

По их словам, исследователи опросили 33 ключевых заинтересованных стороны из разных слоев общества, в том числе 10 членов сообщества, врачей, разработчиков и медсестер психического здоровья, обладающих опытом в области репродуктивного здоровья, сексуального здоровья, искусственного интеллекта, робототехники и клинической безопасности.

Используя рамочный метод проанализировать качественные данные интервью и разработать дорожную карту из 10 шагов «Достижение справедливости в отношении здоровья посредством диалогового искусственного интеллекта: дорожная карта по разработке и внедрению инклюзивных чат-ботов в здравоохранении», опубликованную в четверг в журнале PLOS Digital Health,

отчет описывает 10 этапов разработки чат-бота с искусственным интеллектом, начиная с концепции и планирования, включая меры безопасности, структуру предварительного тестирования, управление интеграцией, аудитом и обслуживанием здравоохранения, и заканчивая прекращением действия.

Инклюзивный подход, по мнению доктора Томаша Надажинского, который руководил исследованием в Вестминстерском университете, имеет решающее значение для смягчения предубеждений, укрепления доверия и максимизации результатов для маргинализированных групп населения.

«Разработка инструментов искусственного интеллекта должна выходить за рамки простого обеспечения стандартов эффективности и безопасности», — сказал он в своем заявлении.

«Разговорный ИИ должен быть разработан для борьбы с конкретными заболеваниями или состояниями, которые непропорционально сильно влияют на меньшинства из-за таких факторов, как возраст, этническая принадлежность, религия, пол, гендерная идентичность, сексуальная ориентация, социально-экономический статус или инвалидность», — говорят исследователи.

Заинтересованные стороны подчеркнули важность выявления различий в общественном здравоохранении, которые диалоговый ИИ может помочь смягчить. Они сказали, что с самого начала, в рамках первоначальной оценки потребностей, которая проводится до того, как будут созданы инструменты.

«Проектировщики должны определить и установить последствия для поведения и здоровья, на которые диалоговый ИИ стремится повлиять или изменить», — считают исследователи.

Заинтересованные стороны также заявили, что диалоговые чат-боты с искусственным интеллектом должны быть интегрированы в учреждения здравоохранения, разработаны с учетом разнообразного вклада сообществ, которым они намерены служить, и сделаны широко заметными. Они должны обеспечивать достоверную точность и безопасность данных, а также проходить тестирование группами пациентов и различными сообществами.

Согласно исследованию, чат-боты с искусственным интеллектом в сфере здравоохранения также должны регулярно обновляться с учетом последних клинических, медицинских и технических достижений, контролироваться (с учетом отзывов пользователей) и оцениваться на предмет их влияния на медицинские услуги и рабочую нагрузку персонала.

Заинтересованные стороны также заявили, что использование чат-ботов для расширения доступа к здравоохранению должно быть реализовано в существующих путях оказания медицинской помощи, а не «предназначено для функционирования как отдельная услуга» и может потребовать адаптации к местным потребностям.

БОЛЬШОЙ ТРЕНД

Чат-боты с искусственным интеллектом, экономящие деньги В здравоохранении прогнозировалось, что это будет работа «ползи-ходи-беги», где более простые задачи перейдут к чат-ботам, в то время как технологии достаточно развиты для решения более сложных задач.

С тех пор, как в конце 2022 года ChatGPT сделал диалоговый искусственный интеллект доступным для каждого сектора, разработчики ИТ в сфере здравоохранения начали его тестирование, чтобы получать информацию, улучшать связь и сокращать выполнение административных задач.

В прошлом году UNC Health запустила пилотный проект внутреннего чат-бот с генеративным искусственным интеллектом инструмент с небольшой группой врачей и администраторов, позволяющий персоналу проводить больше времени с пациентами и меньше времени перед компьютером. Многие другие организации-поставщики теперь используют генеративный искусственный интеллект в своей деятельности.

ИИ используется в планирование приема пациентов а также с пациентами после выписки, чтобы помочь сократить повторные госпитализации и сократить социальное неравенство в отношении здоровья.

Но, доверие имеет решающее значение По мнению руководителей здравоохранения, для чат-ботов с искусственным интеллектом в здравоохранении их необходимо тщательно разрабатывать.

«Где-то в конце должен быть человек», — сказала Кэтлин Мацца, консультант по клинической информатике в Northwell Health, во время панельной сессии на форуме Virtual Care Forum HIMSS24.

«Вы не продаете обувь людям через Интернет. Это здравоохранение».

ПОД ЗАПИСЬ

«На нас лежит ответственность использовать силу «ИИ во благо» и направлять ее на решение насущных социальных проблем, таких как неравенство в отношении здоровья», — заявил Надажинский в своем заявлении.

«Для этого нам нужен сдвиг парадигмы в том, как создается ИИ, — такой, который делает упор на совместное производство с различными сообществами на протяжении всего жизненного цикла, от проектирования до внедрения».

Андреа Фокс — старший редактор журнала Healthcare IT News.
Электронная почта: [email protected]
Healthcare IT News — издание HIMSS Media.