ИИ в педиатрии: вызовы и возможности

Риски и проблемы использования ИИ в педиатрии

Большие языковые модели склонны к «подхалимство» или желание удовлетворить пользователя, побуждающее к этому, а также галлюцинации, которые связаны с сфабрикованными выводами, объясняет Десаи.

Он отмечает, что использование ИИ в педиатрии также представляет собой проблему, поскольку многие детские заболевания редки и, следовательно, их сложнее предсказать алгоритмам.

“Это чисто биостатистическое ограничение: эффективность алгоритма в реальной жизни сильно зависит от распространенности заболевания. Чем более распространено заболевание, тем точнее алгоритм”, – объясняет Десаи. «И наоборот, чем реже условие, тем хуже будет работать алгоритм».

По словам Десаи, хотя ученые используют алгоритмы машинного обучения для выявления редких педиатрических заболеваний, таких как первичный иммунодефицит, они все равно генерируют большое количество «ложно-положительных» результатов. По его словам, тогда дети участвуют во множестве ненужных и дорогостоящих тестов.

ЧИТАТЬ ДАЛЕЕ: Сегодня ИИ используется в здравоохранении по-разному.

«Из-за этого эти алгоритмы очень трудно реализовать в местах оказания медицинской помощи», — говорит Десаи.

Кроме того, предвзятость в обучении несет риски в педиатрии.

«Некоторые группы пациентов, возможно, были недостаточно представлены в данные обученияпоэтому прогнозы модели относительно этих пациентов неточны», — говорит Десаи.

Чтобы управлять рисками, связанными с ИИ, Texas Children’s создала Управление ИИ и руководящий комитет, говорит Тереза Тонтат, вице-президент больницы и заместитель директора по информационным технологиям.

По словам Тонтата, комитет по управлению гарантирует, что все результаты модели ИИ требуют наличия «человека посередине» для проверки информации перед принятием терпеливых решений. Комитет также рассматривает опасения по поводу нормативных требований, предвзятости и галлюцинаций ИИдобавляет она.

Поскольку система здравоохранения работает с данными о детях, Texas Children’s обучает команды по уходу правилам подписания через MyChart от Epic и сотрудничает с такими поставщиками, как Майкрософт чтобы обсудить, как они используют и защищают данные пациентов, говорит Тонтат.

«Наша толерантность к риску очень низкая, когда дело касается информации о наших педиатрических пациентах», — говорит Тонтат.

Несмотря на риски, ИИ открывает возможности для решения клинических проблем и повышения эффективности рабочих процессов.

ИИ для радиологии и диагностики в педиатрии

Texas Children’s использует искусственный интеллект уже более десяти лет и обратился к прогнозное моделирование, автоматизация, глубокое обучение и машинное обучение для решения клинических проблем, говорит Тонтат. Больница изучает генеративный искусственный интеллект в течение последних двух лет, особенно с моделями, которые улучшают рабочие процессы медицинской команды. По ее словам, для формирования интереса среди клинических групп Texas Children’s потребовалось время, но теперь штат готов к расширению.

Компания Texas Children’s создала для рентгенологов модель искусственного интеллекта, позволяющую прогнозировать костный возраст. Модель прошла обучение на миллионах рентгеновских снимков детских рук.

«Поскольку у нас есть миллионы рентгеновских снимков рук, мы обучили модель так, чтобы она в течение нескольких секунд сообщала им, каков возраст руки этого ребенка с точки зрения плотности костей», — говорит Тонтат.

По словам Тонтата, используя свою модель прогнозирования костного возраста на основе искусственного интеллекта, Texas Children’s смогла сократить время выполнения работ на 50% за счет интеграции искусственного интеллекта в клинические рабочие процессы рентгенологов. Модель искусственного интеллекта представляет собой результат сотрудничества между отделениями радиологии и информационных служб больницы, а также ее Управление ИИ и руководящий комитет.

CHOP также использует ИИ в радиологииПо словам Десаи.

«В ходе исследований исследователи CHOP рассматривают искусственный интеллект для улучшения радиологической диагностики, перехвата лабораторных ошибок, ускорения диагностики на основе слайдов с патологиями и многого другого», — говорит он.

Если врач осматривает пациента с плохо контролируемой астмой, инструмент окружающего искусственного интеллекта может автоматически получить историю астмы пациента, обобщить прошлые посещения, связанные с астмой, и уведомить врача, если пациент подвергается более высокому риску заболевания гриппом, говорит Десаи. Затем он проверит, какие лекарства покрывает план страхования пациента, и сможет начать составлять заказ для контролера астмы, говорит Десаи.