Здоровые наборы данных — краеугольный камень эффективных инициатив в области искусственного интеллекта

Появление искусственного интеллекта в здравоохранении и его внедрение крупными и малыми организациями-поставщиками, стремящимися изучить его преобразующий потенциал, произошло быстро. И это потребовало крутого обучения.

Недавно это привело к интересной загадке, говорит Ричард Крамер, главный стратег по здравоохранению и биологическим наукам в Informatica: «Большинство систем здравоохранения организационно и поведенчески «готовы к ИИ», сказал он. «Но их данные — нет».

На HIMSS24 в начале этого месяца Крамер выступал вместе с Анной Шенбаум, вице-президентом по приложениям и цифровому здравоохранению в Penn Medicine, и Сунилом Дадлани, директором по информационным и цифровым технологиям Atlantic Health System (где он также является директором по информационной безопасности).

Они изучили, как больницы и системы здравоохранения должны подходить к процессу оценки того, как искусственный интеллект и автоматизация могут вписаться в их организации, а также как запускать новые инициативы в области ИИ и улучшать существующие по мере масштабирования проектов в масштабе предприятия.

«Несмотря на всю шумиху и ажиотаж вокруг генеративного искусственного интеллекта, важно придерживаться основ», — сказал Крамер.

«Я думаю, энтузиазм вокруг ChatGPT заставляет людей думать, что это нечто принципиально новое», — сказал он. «Но мы, как отрасль, уже давно занимаемся ИИ».

И главный урок многолетнего опыта заключается в том, что любой проект искусственного интеллекта или машинного обучения нуждается в одном важном предварительном условии: «доступных, заслуживающих доверия и соответствующих назначению данных».

Что значит заслуживающий доверия? «Все дело в прозрачности, верно? Мне нужно знать, откуда взялись данные, все, что происходило, было на пути от источника к потреблению», — объяснил Крамер.

«Я всю жизнь занимаюсь аналитикой данных, и мне нравится говорить, что если вы будете честны, я могу не согласиться с вашим заключением и при этом доверять вам, потому что я знаю, каковы все ваши предположения и все остальное. Но я знаю, каковы все ваши предположения и все остальное. если вы не будете откровенны, я, вероятно, никогда не поверю вам, даже если я согласен с вашим выводом.

«Я думаю, это действительно относится к тому, о чем мы говорим об ИИ», — добавил он. «Чтобы быть полезными, данные не обязательно должны быть идеальными. Но вы никогда не захотите использовать неидеальные данные и не знать об этом».

Дадлани выделил некоторые ключевые различия между традиционным ИИ, над которым десятилетиями работали в системах здравоохранения, и новым генеративным ИИ, который в настоящее время находится на вершине цикла хайпа Gartner.

«Традиционный ИИ просто более детерминирован, он обучен конкретным задачам», — пояснил он. «Это больше связано с прогнозной аналитикой, основанной на данных, которые у вас есть в реальных данных. И я бы сказал, что традиционный ИИ стал очень зрелым в определенных случаях использования, когда выходные данные более интерпретируемы, более объяснимы, и он созрел. и принят в клинических и неклинических областях.

«Принимая во внимание, что когда вы говорите о генеративном искусственном интеллекте, мы отличаем его более вероятностным, а не детерминированным. Это самообучение, самосовершенствование. Речь идет больше об обобщенных решениях, а не о конкретных решениях. Он может обучаться, он может масштабироваться самостоятельно. “

«Это сопряжено с собственным риском, риском объяснимости», — сказал Дадлани. «Потому что, как правило, генеративный ИИ основан на очень продвинутых глубоких нейронных сетях, основанных на больших языковых моделях. Поэтому объяснимость и интерпретируемость этих моделей ИИ действительно непрозрачны».

В Penn Medicine ученые, работающие с данными, уже давно работают над искусственным интеллектом, но генИИ «развивается быстрыми темпами», сказал Шенбаум. «У нас действительно есть процессы, будь то ИИ, прогнозные модели или генеративный ИИ, в одном и том же рабочем процессе. Но мы пытаемся выяснить, как внедрить политики и ограничения, а также поддержать управление моделями».

По ее словам, хорошо управляемые данные «абсолютно важны», а для этого требуется надежная совместимость и обмен информацией с другими организациями здравоохранения.

«Вы не можете просто работать в рамках своей собственной системы здравоохранения», — сказал Шенбаум. «Вы должны работать на региональном уровне, в сообществе. Вы должны убедиться, что данные доступны для совместного использования с правильным определением, потому что я думаю, что именно так мы можем использовать данные для питания этих систем».

Но когда дело доходит до управления данными, это «должно быть внутри вашей организации», сказала она. «Когда вы добавляете что-то, кто-то должен следить за тем, кто получает доступ к этим данным, и следить за тем, чтобы данные были защищены. Все дело в пациенте, но для получения большей пользы их необходимо разделить между учреждениями». “

Майк Милиард, исполнительный редактор журнала Healthcare IT News
Напишите автору: [email protected]
Healthcare IT News — это издание HIMSS.