Предостерегающие взгляды на искусственный интеллект в здравоохранении: прогнозы развития информационных технологий в сфере здравоохранения на 2024 год

В преддверии 2024 года мы хотели начать новый год с серии Прогнозы в области информационных технологий в сфере здравоохранения на 2024 год. Мы спросили Сообщество «Здравоохранение ИТ сегодня» представить свои прогнозы, и мы получили широкий спектр ответов, которые мы сгруппировали по ряду тем. На самом деле их было так много, что нам пришлось сузить их до самых лучших и интересных. Ознакомьтесь с прогнозами нашего сообщества ниже и обязательно добавьте свои собственные мысли и/или места, где вы не согласны с этими прогнозами, в комментариях и в социальных сетях.

Все прогнозы ИТ в области здравоохранения на 2024 год (обновляются по мере публикации):

А теперь ознакомьтесь с предостерегающими взглядами нашего сообщества на здравоохранение ИИ предсказания.

Джозеф Забински, доктор философии, управляющий директор по искусственному интеллекту и персонализированной медицине в ОМ1

Антипрогнозирование развития ИИ в 2024 году: индустрия здравоохранения любит сравнивать искусственный интеллект (ИИ) со стандартом совершенства – мы хотим, чтобы он каждый раз давал «правильный» ответ, а иногда мы даже слышим, что об этом говорят как о цель.’ Реальность такова, что этого не произойдет в следующем году (или в следующем, или в следующем!). В 2024 году мы должны сравнить, что ИИ может сделать с миром в его нынешнем виде – реальные путешествия пациентов, реальные диагностические процедуры и (отсутствие) понимания, а также реальное принятие решений о лечении в условиях огромной неопределенности. ИИ всегда разочарует, если мы ожидаем от него совершенства, но он может оказаться невероятно полезным, если мы будем использовать жизненный опыт пациентов в качестве основы для создания хорошо поддерживаемых решений, решающих реальные проблемы.

Ключ к внедрению искусственного интеллекта: признание среди пациентов. По мере приближения к 2024 году ключевой проблемой внедрения искусственного интеллекта (ИИ) будет признание среди пациентов, особенно в связи с тем, что случаи, когда ИИ «понимает это неправильно», широко освещаются в средствах массовой информации. В 2023 году концепция ИИ стала привычной, но в следующем году отрасли необходимо сделать следующий шаг, предоставив ясность, прозрачность, повторяемость и ответы о сильных и слабых сторонах ИИ непосредственно пациентам. Чтобы добиться успеха, необходимо использовать ИИ, когда это имеет смысл (не всегда), и формировать добавленную стоимость, которую может создать ИИ. Разрыв между тем, что ИИ может делать теоретически, и тем, что он на самом деле делает в реальном мире, будет закрыт только в том случае, если мы устраним барьеры на пути доступа и принятия среди пациентов. В 2024 году отрасли необходимо более конкретно подходить к вопросу о ценности, которую создает искусственный интеллект; эффективное и бесперебойное предоставление услуг поставщикам медицинских услуг и пациентам; и решительно использовать идеи для принятия решений – только тогда мы увидим принятие и следующий шаг принятия.

Мирослав Кливанский, руководитель глобальной практики по аналитике и искусственному интеллекту в Чистое хранилище

В 2024 году мы начнем погружаться в период разочарования GenAI (цикл хайпа Gartner определяет это как период, когда интерес угасает, когда эксперименты и реализации не приносят результатов) и в конечном итоге индустриализируем использование ИИ. По мере того, как мы отойдем от ажиотажа, вызванного инструментами искусственного интеллекта и удобным для потребителя пользовательским интерфейсом, мы увидим, что компании лучше понимают, инвестируют и применяют решения, специфичные для искусственного интеллекта, для своих бизнес-потребностей.

Фактически, одной из отраслей, наиболее созревших для инноваций с помощью ИИ в целом, является здравоохранение. Он не только потенциально может улучшить диагностику, но также может улучшить медицинское оборудование и автоматизировать административные задачи. Последнее, скорее всего, будет нарушено в первую очередь, поскольку эти системы управляются электронно и быстро автоматизируют задачи.

Мэтт Эйзендрат, президент и коммерческий директор компании Полный спектр

Медицинские компании продолжат вкладывать деньги в искусственный интеллект. Краткосрочное влияние искусственного интеллекта за пределами диагностической визуализации остается неопределенным, а ажиотаж вокруг него перекликается с прошлым опытом использования новых технологий, таких как аналитика. Вместо того чтобы поспешно вкладывать ресурсы в инициативы в области ИИ, несмотря на неизвестную отдачу, дождитесь четких и конкретных сценариев использования ИИ и сначала рассмотрите преимущества инвестиций в кибербезопасность.

Кари Миллер, старший директор по управлению продуктами в ИКВИА

Управление качеством исторически отклонялось от быстрого внедрения инструментов искусственного интеллекта (ИИ), поскольку при наличии такой конфиденциальной информации в системах управления качеством (СМК) они были осторожны при внедрении дополнительного элемента интеллекта в свой процесс. Тем не менее, многие начинают открывать новую страницу в технологиях, поскольку они начинают использовать большие языковые модели (LLM) и другие возможности искусственного интеллекта, и эта тенденция, как ожидается, сохранится в 2024 году. Кроме того, будет увеличиваться использование рекомендательных механизмов. поскольку они позволяют сочетать ИИ с личным опытом, уделяя особое внимание расширенному интеллекту, а не исключительно ИИ. Механизмы рекомендаций могут значительно улучшить скорость реагирования, время цикла, точность и эффективность, оказывая значительное влияние на производительность. Использование публичного генеративного ИИ (GenAI) займет больше времени для выхода на рынок из-за риска утечки интеллектуальной собственности, что имеет решающее значение в науках о жизни, однако, поскольку становится возможным использование частного GPT, использование GPT будет увеличиваться. По мере усиления этих тенденций будут увеличиваться инвестиции в прогнозную и превентивную аналитику.

Кроме того, поскольку организации работают над устранением разрозненности между отделами качества и другими отделами, ИИ может использоваться для подключения и работы между системами, что принесет большую пользу всем, повышая производительность и эффективность. Эта возможность подключения обеспечит более широкий доступ к данным по таким дисциплинам, как планирование ресурсов предприятия (ERP), управление цепочками поставок (SCM) и управление жизненным циклом продукта (PLM), уменьшая количество ошибок и дублирование усилий.

Йорг Шварц, старший директор по совместимости систем здравоохранения компании Информация

Руководители здравоохранения с осторожностью относятся к использованию генеративного ИИ для клинического контента, и мы можем ожидать, что эти опасения распространятся и на 2024 год, в первую очередь из-за переизбытка неструктурированных данных. ИТ-директора и технические директора в сфере здравоохранения начнут внедрять стратегию платформы анализа данных, объединяющую данные из разных источников (IoT, EMR, ERP) в 2024 году, надеясь использовать эту платформу для поддержки множества алгоритмов искусственного интеллекта, которые обещают улучшение операционных и клинических результатов. Хотя поставщики медицинских услуг признают потенциал генеративного искусственного интеллекта, 2024 год станет годом, когда организации объединятся и будут работать над обучением алгоритмов для получения надежных результатов параллельно с моделями надлежащего управления.

Майкл Кинг, старший директор по продуктам и стратегии Technology Solutions в ИКВИА

В то время как интерес и инновации искусственного интеллекта (ИИ), включая модели изучения языка (LLM), обработку естественного языка (NLP) и генеративный искусственный интеллект (GenAI), являются новаторскими и расширяют возможности технологий, организации начинают понимать, что успех предсказывается не только новейшими и лучшими технологическими решениями. Организации не только осознают ограничения этой технологии, но и возникнут некоторые препятствующие силы, такие как нормативные акты, доступность отраслевых/продуктовых данных для обучения инструментам ИИ, а также коммерческая жизнеспособность таких решений ИИ, которые будут адаптировать использование этих технологий в науках о жизни.

Организации, особенно в сфере здравоохранения и биологических наук, понимают, что технологии не являются решением всех проблем. Скорее, именно правильное внедрение и использование технологий, управляемых и понятных людьми и поддерживаемых процессами, приведет к наиболее эффективным результатам для пациентов. Организации часто пренебрегают людьми и технологическими процессами, а улучшение взаимодействия между этими сторонами приведет к лучшим результатам как для компаний, так и для пациентов.

Ужесточающиеся правила и стандарты усложняют управление качеством в отрасли медико-биологических наук. От организаций требуют улучшения результатов при работе с ограниченными инвестициями и ресурсами, что вызывает необходимость в эффективных, соответствующих требованиям бизнес-операциях с контролируемыми инвестициями в численность персонала. Способ, с помощью которого организации смогут противостоять этим трудностям, заключается в предоставлении консультационных услуг, аутсорсинговых услуг и технологий. Реальная ценность управления качеством заключается в способности объединять эти услуги для устранения болевых точек в определенный момент времени и по мере масштабирования организации в процессе развития компании, а не только за счет внедрения готовых технологий или программного обеспечения.

Джейсон Хандза, главный медицинский директор компании Некстэк Системы

Уровень энтузиазма среди заинтересованных сторон в сфере здравоохранения по поводу искусственного интеллекта варьируется, и продуманная интеграция этой мощной технологии имеет решающее значение по мере приближения к 2024 году. Многие рассматривают ИИ как катализатор улучшения результатов лечения пациентов, поддерживаемый новыми тенденциями и перспективами. Однако резкий рост присутствия ИИ побудил федеральное правительство принять меры: президент Джо Байден подписал указ о смягчении потенциальных рисков в системах ИИ, особенно в приложениях здравоохранения. Актуальность очевидна: пришло время для содержательных дискуссий по вопросам этического использования ИИ и его стратегического внедрения в здравоохранении. Поскольку мы все еще находимся на ранней стадии, эти переговоры должны начаться как можно скорее. В здравоохранении перемены, даже под видом технического прогресса, никого не ждут.

Обязательно ознакомьтесь со всеми выпусками Healthcare IT Today’s. Здравоохранение ИИ контент и все остальное Прогнозы в области ИТ в сфере здравоохранения на 2024 год.