Некоммерческая организация объединяется с Мэйо для обеспечения прозрачности искусственного интеллекта

Академические больницы и технологические фирмы являются частью некоммерческой организации, которая намеревается создать сеть лабораторий по всей стране для тестирования инструментов искусственного интеллекта в сфере здравоохранения.

Это предприятие, возглавляемое Коалиция за ИИ в сфере здравоохранениясообщество академических систем здравоохранения, организаций и экспертов-практиков в области искусственного интеллекта и науки о данных, создаст лаборатории в таких учреждениях, как Рочестер, клиника Мэйо в Миннесоте, Дарем, Университет Дьюка в Северной Каролине и других организациях, чтобы обеспечить сбалансированную и соответствующую оценку. моделей искусственного интеллекта до того, как они получат широкое распространение.

«Мы намерены поддержать разработку основанного на консенсусе сообщества стандартов и системы тестирования», — сказал Брайан Андерсон, доктор медицинских наук, соучредитель CHAI. Беккера. «Эта система тестирования затем будет использоваться этими лабораториями, аккредитованными CHAI, чтобы гарантировать, что используется соответствующая структура для оценки моделей ИИ на предмет справедливости, производительности, безопасности и прозрачности».

Например, модели будут подвергаться тщательной проверке в этих лабораториях по обеспечению качества, обеспечивая всестороннюю оценку. Начальный этап включает тестирование модели на этапе разработки и продаж перед ее продажей или внедрением. По словам доктора Андерсона, такая ранняя оценка гарантирует соответствие модели установленным стандартам и требованиям.

По мере продвижения модели к этапу внедрения в системе здравоохранения в игру вступят дополнительные соображения.

По словам д-ра Андерсона, помимо традиционных показателей производительности, таких как безопасность, эффективность, точность и справедливость, возникнет острая необходимость провести оценку удобства использования. Это включает в себя оценку того, как модель интегрируется в EHR системы здравоохранения, включая такие факторы, как конфигурации кнопок, время оповещения и контекстуальные соображения во время взаимодействия пациента и врача.

Модели также подвержены изменениям и дрейфуют с течением времени, влияя на их общую производительность и точность, поэтому лаборатории по обеспечению качества будут играть ключевую роль в регулярном мониторинге этих моделей с помощью информационных панелей и оценок.

Эта внешняя проверка гарантирует, что инструменты искусственного интеллекта соответствуют самым высоким стандартам производительности, справедливости и прозрачности при интеграции в системы здравоохранения.

Результаты этих лабораторных испытаний, которые д-р Андерсон называет «табельами успеваемости», затем будут публично опубликованы в национальном реестре, чтобы обеспечить полную прозрачность эффективности моделей, позволяя пациентам, медицинским организациям и обществу иметь доступ к информации о том, как работают эти модели. производительность и где они развернуты.

«Если вы являетесь пациентом определенной системы здравоохранения и видите, что эта модель используется в этой системе здравоохранения, у вас есть возможность провести информированный разговор со своим поставщиком о том, как они могут использовать эту модель», — сказал он. . «Чтобы понять целесообразность, следует ли его использовать или не следует. Итак, именно такие разговоры мы хотим дать пациентам возможность вести».

По словам доктора Андерсона, эти лаборатории в настоящее время уже создаются под руководством Мэйо.

Доктор Андерсон сказал, что он ожидает, что к концу года будет открыто по крайней мере полдюжины, если не дюжины, лабораторий.

Совместные усилия CHAI с клиникой Мэйо и такими технологическими компаниями, как Microsoft, в качестве ключевых участников, представляют собой большую потребность в том, чтобы медицинские организации могли гарантировать, что ИИ разрабатывается и внедряется в здравоохранении ответственно.

«Такие организации, как FDA, осознают необходимость этих лабораторий», — сказал Брентон Хилл, менеджер по регуляторной стратегии и соблюдению требований Mayo Clinic Platform. Беккера. «Мы рассматриваем это как нечто, что поможет создать ответственный ИИ».