Управление данными и безопасность искусственного интеллекта идут рука об руку для организаций здравоохранения

Хотя управление и безопасность часто рассматриваются как отдельные проблемы, Кум отмечает, что они все чаще переплетаются.

«Я думаю об этом как об диаграмме Венна», – объясняет он. «У тебя есть круг управления и AI Security Circleи они перекрываются. Вы не можете сделать ни в изоляции ».

В здравоохранении управление часто подпадает под главного сотрудника по риску, сосредотачиваясь на справедливости, предвзятости и соблюдении, в то время как безопасность контролируется CISO, связанным с устойчивостью против атаки.

Обе группы заботятся о надежности и конфиденциальности, и обе должны сотрудничать, чтобы гарантировать, что данные пациента остаются защищенными.

«Нет конфиденциальности без безопасности», – говорит Кум. «Если ваша система не безопасна, вы не можете убедиться, что данные обращаются только к нужным людям».

ЧИТАТЬ ДАЛЕЕ: Почему управление ключом к обеспечению ИИ?

Укрепление доверия на будущее

Генеративный ИИ и ИИ агенты поднимают ставки дальше. В отличие от традиционных моделей, агенты искусственного интеллекта могут работать самостоятельно, выполняя сложные задачи самостоятельно. Эта сила идет с рисками.

«Агенты – это область, которая предлагает нам огромное обещание и огромный риск одновременно», – говорит Кум. «Когда они эксплуатируются, они становятся большими усилителями риска. Что потребует человека в день, чтобы сделать, Агент ИИ может сделать за считанные минуты.

Он говорит, что это означает, что если он поступит неправильно, это сделает неправильную вещь быстро.

Для организаций здравоохранения путь к безопасное усыновление искусственного интеллекта Требуется бдительность между данными, моделями и рабочими процессами.

Управление и безопасность должны работать рука об руку, в то время как заинтересованные стороны в нем, безопасность и управление рисками, разделяют ответственность за защиту пациентов.

«Мы все еще изучаем это, как делаем это, и изучаем много уроков, иногда трудный путь», – говорит Кум. «Если мы получим правильные инструменты, ИИ может облегчить жизнь работников здравоохранения проще, более эффективными и безопасными».

Принесли вам: