Geisinger уточняет управление ИИ и грамотность рабочей силы

Морган Джеффрис, доктор медицинских наук, медицинский директор AI в Geisinger и его коллегах, изменяет, как крупная интегрированная система здравоохранения организует, контролирует и обучает ИИ-переходя от небольшого, модельного магазина в межфункциональную организацию продукта с формальным обзором риска и растущим акцентом на гибель рабочей силы для инструментов AI.

В рамках функции ИИ Гейзингера Джеффрис и сверстники реструктурировали вокруг команд продуктов-проводя менеджеры по продуктам с учеными, инженерами и дизайном данных-для преобразования идей с высоким потенциалом в поддерживаемые решения. Он описал операционную модель с двумя трассами: создание внутренних моделей, когда Geisinger владеет этой проблемой, и «мощность» при проверке сторонних предложений для обеспечения прозрачности модели, локальной проверки данных Geisinger, мониторинга и соответствия политике перед развертыванием.

Подкаст: Играть в новом окне | Скачать (Продолжительность: 46:57 – 32,3 МБ)

Подписаться: Яблочные подкасты | Spotify | Android | Пандора | IHeartrodo | Podchaser | Индекс подкаста | Электронная почта | Мелодия

По мере ускорения спроса Джеффрис и его коллеги работали с исполнительным руководством, чтобы определить шорт -лист приоритетов предприятия и использовать их в качестве ворот для скудных возможностей. Он отметил, что выбор программы (что создавать или включить) отличается от управления рисками (как обеспечить безопасность и подотчетность). Первый выравнивает инвестиции со стратегическими целями; Последнее относится к любой программе, несущей AI-доморощенной или поставленной продавцами-которая входит в окружающую среду.

Управление, которое масштабируется с риском

На вопрос, как выглядит «хорошо», Джеффрис указал на общесистемную потребление и обзор комитета, которые составляют программы по риску. Использование с низким риском получает лучшие практики и легкое прикосновение. Использование с более высоким риском требует подтверждения должной осмотрительности, принадлежащей деловому спонсору программы и рассмотрено в центре. «Им нужно провести оценку рисков, связанных с системой ИИ…, а затем оценки акций… а затем план мониторинга… а затем план эскалации», – сказал он, подчеркивая, что локальный контекст имеет значение, даже когда поставщики предоставляют документацию. Он также отметил важность привлечения множества перспектив – технических, клинических и этических – в обсуждениях комитета.

Он дифференцировал управление от закупок: новые поставщики помечаются через его потребление и контрактные формы, которые явно спрашивают об ИИ, но более сложная задача – объем и дрейф – программное обеспечение, которое начинает доставку функций ИИ с помощью рутинных обновлений. Эта реальность, утверждал он, заставляет лидеров думать о том, как по делу о рассмотрении и к моделям и платформам.

Подготовка к встроенному ИИ везде

Рынок перешел от «Мы являемся ИИ» на «ИИ находится внутри продукта», и Geisinger соответственно адаптирует свою модель надзора. Для установленных платформ, которые позволяют многим рабочим процессам с AI, Jeffries и коллегами работают с владельцами платформ над общим каденцией управления, поэтому надзор происходит ближе к тому, где собираются решения. Что касается масштабируемости, он был Фрэнк: «Централизованное управление, эта модель будет развалиться». Вместо этого центральные команды должны определять политику, тренировать схемы рисков и вмешаться в некоторых высоких или неоднозначных случаях, в то время как владельцы бизнеса и продуктов берут на себя повседневную ответственность за соблюдение требований.

Он также развлекал вопрос, который задают многие лидеры: может ли ИИ помочь проверить ИИ? Он предостерег от чрезмерной зависимости-предвзятость, самоуспокоенность и обезболивающее, но признать, что инструменты в стиле помощника могут помочь менеджерам проектов, которые они могут упустить, могут помочь менее подверженным опыту рассмотреть риск и углы акционерного капитала. В этом смысле хорошо продуманный копило может быть «лучше, чем альтернатива», при условии, что эксперты по предметным средствам остаются вовлеченными, а окончательная ответственность остается человеческой.

Обучение рабочей силы, а не только комитета

Третий столб – это образование. Джеффрис сказал, что организация создает учебные программы, которые делают две вещи: науку сотрудников безопасно и эффективно использовать генеративные инструменты и нормализовать культуру, в которой персонал фронт линии разделяет небольшие победы и предостерегающие уроки. Он рассматривает эту культурную диффузию как практическое контроль риска – в том, как сотрудники научились распознавать фишингу за последнее десятилетие. Многие сотрудники уже знают, что ИИ может галлюцинировать; Меньше ценят более тонкие режимы сбоя, такие как смещение подтверждения и сикофальность, где системы отражают создание вопроса и представляют односторонние ответы, которые кажутся авторитетными.

Он также реалистичен в отношении инструментов эмбиентной документации: производительность варьируется в зависимости от специальности и рабочего процесса. «В моей роли… то, что он генерирует, далека от ошибок … мне все еще нужно много редактировать»,-сказал он, отмечая, что коллеги в первичной медицинской помощи иногда находят примечания к AI, приемлемые с минимальными изменениями. Адаптация в стиле-обучение системы для написания голосом врача-существует на рынке, добавил он, но результаты зависят от возможностей поставщиков и реального тестирования.

Создание операционного ритма

Помимо обзора программы и обучения, Джеффрис описал необходимость измеримого операционного ритма: четкие каналы потребления; Ранний, повторяемый скрининг на присутствие ИИ; Быстрая сортировка для руководства с низким ощущением или более глубокого обзора; И способ контролировать то, что живет. Он предпочитает легкие сигналы, которые появляются, когда человеческий надзор исчезает, например, как показатели редактирования почти нулевого редактирования на заметках с AI, поэтому лидеры могут вмешиваться в коучинг, а не ждать инцидента. Цель состоит в том, чтобы уделять внимание человеческому вниманию: когда системы работают хорошо для длинных растяжков, бдительность естественным образом разрушается.

Он призвал сверстников отделить срочность от спешки. Окружающее слушание приближается к «столовым ставкам», потому что спрос персонала является сильным, а выгоды видны; Другие категории гарантируют сдержанность до тех пор, пока стоимость и зрелость процесса не станут ясными. Это пауза, утверждал он, покупает время, чтобы уточнить политику, потребление и мониторинг масштабирования, а также встать на образование, которое фактически меняет поведение, а не просто проверяйте учебную коробку.

Забери это

• Встаньте единственное потребление, которое помечает любую программу, несущую AI-Homegrowne, поставленные продавцами или встроенные в обновления
• Классифицировать по риску; Требовать, чтобы владельцы программ с более высоким риском документировали риск, капитал, мониторинг и планы эскалации
• Смена надзора для платформ, способствующих AI, к подотчетным владельцам платформ, с помощью центрального управления коучингом и избирательным обзором
• Пары менеджеров по продуктам с учеными и инженерами данных для преобразования идей с высокой стоимостью в поддерживаемые решения
• Инвестировать в трудовую грамотность, которая охватывает галлюцинации, предвзятость подтверждения и безопасную быстрого приема на работу; Содействовать обмену вариантами использования
• Отслеживание эксплуатационных сигналов (например, почти нулевое редактирование AI Notes) для обнаружения снижения человеческого надзора и запуска коучинга
• Согласовать способность сборки/включения в короткий список приоритетов предприятия, установленных с исполнительным руководством
• Двигаться быстрее, где спрос и доказательства являются самыми сильными (например, окружающее слушание); Продолжайте осторожно в другом месте

Что касается стимуляции, он призвал сдерживать. «Не чувствуйте, что вы должны торопиться во все, чтобы стать лидером в этом пространстве. Пусть другие люди делают для вас ошибки».