Почему надежный ИИ является ключом к предотвращению подрыва доверия в масштабе

«Благодаря искусственному интеллекту у нас теперь есть возможность подорвать доверие в любом масштабе»

Реджи Таунсенд, вице-президент по этике данных в САС сделал это заявление перед аудиторией, полной клиентов, аналитиков данных, экспертов по искусственному интеллекту и представителей СМИ на конференции SAS Innovate. Эта захватывающая фраза была началом интересного основного доклада Таунсенда о необходимости «надежного ИИ» и вдумчивого включения этики в разговор об ИИ.

Медицинские ИТ сегодня имели возможность встретиться один на один с Таунсендом, чтобы узнать, как SAS внедряет этику и надежность в свою деятельность. Мы также хотели узнать больше о новаторской работе компании в области искусственного интеллекта с Медицинским центром Университета Эразма (Эразмус МС) и Делфтский технологический университет (Ту Делфт).

Надежный ИИ

Провокационное заявление Таунсенда исходит из его опасений по поводу потенциального использования ИИ для распространения дезинформации — как преднамеренного, так и непреднамеренного — и того, как это может подорвать доверие во всех отраслях и в обществе. В качестве примера он использовал технологию глубокого подделки (где ИИ используется для создания изображений людей, говорящих/делающих вещи, которые выглядят реалистично).

Не так давно фальшивая фотография Папа Римский в пуховике стал вирусным. Эта фотография была явно шуткой, но она продемонстрировала силу, которую визуальные эффекты, созданные искусственным интеллектом, могут оказать на общественное восприятие.

«Не нужно слишком много прыгать, чтобы подумать о том, что произойдет, если мы не сможем доверять тому, что видим и слышим», — сказал Таунсенд. «Меня это тревожит, и я думаю, что важно, чтобы мы признали это и начали повышать наше общее понимание ИИ».

Таунсенд также настоятельно рекомендует организациям стать сторонниками «заслуживающего доверия ИИ», чтобы предотвратить эрозию доверия в масштабах.

«Надежный ИИ играет для нас ключевую роль здесь, в SAS», — заявил Таунсенд. «Мы хотим убедиться, что мы создаем платформу, достойную доверия наших клиентов, чтобы наши клиенты, в свою очередь, могли использовать нашу платформу для создания ответственных приложений».

Сделать этику центральной операционной опорой

Чтобы создать надежную платформу искусственного интеллекта, SAS внедрила несколько внутренних инициатив, призванных помочь персоналу лучше понять и решить этические проблемы при разработке или развертывании искусственного интеллекта.

Одной из таких инициатив было создание комплекса шесть принципов этического использования ИИ:

1. Человекоцентричность
2. Прозрачность
3. Инклюзивность
4. Конфиденциальность и безопасность
5. Надежность
6. Подотчетность

Эти принципы помогают ориентироваться в дорожной карте продукта и реализации новых функций на платформе SAS.

Все сотрудники SAS проходят обучение по этим принципам. Это обучение предназначено для того, чтобы помочь сотрудникам ориентироваться в «серых зонах», которые могут возникнуть во время переговоров о продажах и взаимодействия с клиентами. Эти серые зоны могут быть довольно сложными, особенно в здравоохранении.

Например, как правильно поступить, если вы узнаете, что алгоритм ИИ, на разработку которого исследователь потратил месяцы, имеет недостаточное представительство женщин в обучающем наборе данных? И все же предварительные результаты ИИ показывают, что он может значительно улучшить результаты лечения пациентов.

Обучение помогает персоналу работать в таких сложных ситуациях.

Надежный ИИ в здравоохранении

SAS установила партнерские отношения с Erasmus MC, одной из ведущих академических больниц Европы, и TU Delft, где располагается Центр цифровой этики TU Delft. Вместе эти три организации создали Лабораторию ответственного и этичного ИИ в здравоохранении (REAHL).

По данным компании SAS заявление, REAHL стремится решать этические проблемы и проблемы, связанные с разработкой и внедрением технологий искусственного интеллекта в здравоохранении. Это включает в себя обеспечение беспристрастности, прозрачности и подотчетности систем ИИ, а также их использование с соблюдением прав и ценностей пациентов. REAHL стремится создать основу для этического ИИ в здравоохранении, которая послужит моделью для медицинских центров и регионов по всему миру.

«В REAHL у нас есть междисциплинарная группа экспертов, которые собираются вместе, чтобы подумать о вещах, связанных с медициной, политикой цифровой этики и использованием ИИ», — сказал Таунсенд.

Примером работы REAHL является использование ИИ для определения продолжительности пребывания пациентов в больнице после операции. Для определенного типа операции национальным стандартом может быть шесть дней в больнице с последующим домашним наблюдением. Но что произойдет, если пациент выздоравливает быстрее и может вернуться домой уже через два дня? А что, если бы существовал алгоритм ИИ, который мог бы идентифицировать такого типа пациентов? Это потенциально освободит 4 койко-дня. Эта дополнительная вместимость влияет на доступ пациентов.

«Исходя из первых результатов, мы можем с уверенностью сказать, что уже сэкономили 250 койко-дней», — сказал Таунсенд. «Это не только влияет на пациента, но и подумайте об этом с точки зрения страховки. Не платить еще 250 дней — это очень хорошо. Даже в системе единого плательщика, где платит государство, это существенная экономия».

Посмотрите интервью с Таунсендом, чтобы узнать:

• Вызов, который Таунсенд бросил средствам массовой информации в отношении освещения новостей об ИИ
• Почему полное удаление предвзятости из наборов данных, на которых обучаются алгоритмы ИИ, нецелесообразно, и как признание и прозрачность этой предвзятости может быть лучшим способом продвижения вперед

Узнайте больше о SAS на https://www.sas.com/

Слушайте и подписывайтесь на Healthcare IT Today Интервью Подкаст чтобы услышать все последние идеи от экспертов в области ИТ в здравоохранении.

И за эксклюзивный взгляд на наши главные новости, Подписывайтесь на нашу новостную рассылку.

Расскажи нам что ты думаешь. Связаться с нами здесь или в твиттере на @hcitoday. И если вы заинтересованы в размещении рекламы у нас, ознакомьтесь с нашими различными рекламные пакеты и запросите наш Медиа-кит.

SAS взяла на себя расходы Healthcare IT Today на поездку на их конференцию.