ВОЗ призывает к осторожности при развертывании ИИ в здравоохранении

Поскольку развертывание искусственного интеллекта в организациях здравоохранения по всему миру набирает обороты и расширяется, Всемирная организация здравоохранения на этой неделе обратилась с призывом к бдительности и осмотрительности, когда речь заходит о том, как используются модели ИИ и машинного обучения.

ПОЧЕМУ ЭТО ВАЖНО
ВОЗ призвала «проявлять осторожность» в отношении использования ИИ в клинических и других медицинских учреждениях, особенно в быстро развивающихся инструментах моделирования больших языков, таких как ChatGPT.

В целях «защиты и поощрения благополучия, безопасности и автономии человека», а также сохранения общественного здоровья, официальные лица заявили, что «крайне важно тщательно изучить риски при использовании LLM для улучшения доступа к медицинской информации в качестве решения». инструмент поддержки или даже для расширения диагностических возможностей в условиях ограниченных ресурсов для защиты здоровья людей и уменьшения неравенства».

ВОЗ признала, что недавнее «стремительное публичное распространение и растущее экспериментальное использование» таких инструментов, как ChatGPT, Bard, Bert и других, «вызывают значительный интерес к потенциалу поддержки потребностей людей в области здравоохранения».

Хотя эксперты в органе ООН заявили, что они также с энтузиазмом относятся к «надлежащему использованию» этих передовых алгоритмов, они также обеспокоены тем, что «осторожность, которая обычно проявлялась бы в отношении любой новой технологии, не соблюдается последовательно с LLM. “

Должностные лица ВОЗ обеспокоены тем, что «поспешное внедрение непроверенных систем» не только наносит вред пациентам из-за медицинских ошибок и неточной информации, но также «подрывает доверие к ИИ и тем самым подрывает (или отсрочивает) потенциальные долгосрочные преимущества» его использования.

В частности, в заявлении высказывались опасения по поводу таких ценностей, как «прозрачность, инклюзивность, участие общественности, экспертный надзор и строгая оценка».

ВОЗ хочет, чтобы эти императивы были в центре внимания по мере развертывания ИИ, и призвала «измерить четкие доказательства пользы» до широкого и рутинного использования LLM и других моделей ИИ в оказании медицинской помощи.

БОЛЬШАЯ ТЕНДЕНЦИЯ
Буквально за несколько месяцев, ЧатGPT и генеративный ИИ ясно дали понять, что наступает новая эра, когда речь идет о процессах здравоохранения и принятии решений. Модели LLM и другие инструменты машинного обучения уже готовы оказать влияние участие и общение с пациентомпоставить в известность выбор ADT в больницесделать волны среди медицинских работников и в основном полностью изменить способ оказания помощи, с много неизвестных и не мало риска.

Понятно, что есть необходимость надзора за ИИ в здравоохранении и, в более общем плане, вдумчивый подход к тому, как и почему эти инструменты используются.

На HIMSS23 в прошлом месяце руководители Всемирной организации здравоохранения и других министерств здравоохранения со всего мира говорил о необходимости реализации стратегий цифрового здравоохранения, в которых доступ пациентов, безопасность и справедливость в отношении здоровья являются их путеводной звездой.

В ЗАПИСИ
«ВОЗ вновь подчеркивает важность применения этических принципов и надлежащего управления, как указано в руководстве ВОЗ по этика и управление ИИ для здоровьяпри проектировании, разработке и развертывании ИИ для здравоохранения», — говорится в заявлении представителей Всемирной организации здравоохранения на этой неделе.

ВОЗ определила шесть основных принципов: (1) защита автономии; (2) содействие благополучию и безопасности людей и общественным интересам; (3) обеспечение прозрачности, объяснимости и понятности; (4) поощрение ответственности и подотчетность; (5) обеспечить инклюзивность и справедливость; (6) продвигать ИИ, который является гибким и устойчивым».

Майк Милиард, исполнительный редактор Healthcare IT News
Пишите писателю: [email protected]
Healthcare IT News — это издание HIMSS.