Законодатели и регулирующие органы в Вашингтоне начинают ломать голову над тем, как регулировать искусственный интеллект в здравоохранении, и индустрия искусственного интеллекта считает, что есть большая вероятность, что они все испортят.
«Это невероятно серьезная проблема», — сказал Доктор Роберт Вахтер, заведующий медицинским факультетом Калифорнийского университета в Сан-Франциско. «Существует риск, что мы придем с оружием наготове и будем чрезмерно регулировать».
Влияние ИИ на здравоохранение уже широко распространено. Управление по контролю за продуктами и лекарствами одобрил 692 продукта AI. Алгоритмы помогают планировать прием пациентов, определять численность персонала в отделениях неотложной помощи и даже расшифровывать и обобщать клинические визиты, чтобы сэкономить время врачей. Они начинают помогать рентгенологам читать МРТ и рентген. Вахтер сказал, что иногда неофициально консультируется с версией ГПТ-4большая языковая модель от компании ОпенАИдля сложных случаев.
Масштаб воздействия ИИ – и потенциал будущих изменений – означают, что правительство уже догоняет.
«Политики ужасно отстают от времени», Майкл Янг, старший управляющий партнер венчурной компании OMERS Ventures, сообщил в электронном письме. Коллеги Янга сделали огромные инвестиции в этот сектор. Рок Здоровьевенчурная компания, утверждает, что финансисты вложили почти 28 миллиардов долларов в компании цифрового здравоохранения, специализирующиеся на искусственном интеллекте.
По словам Вахтера, одна из проблем, с которой сталкиваются регулирующие органы, заключается в том, что, в отличие от лекарств, которые через пять лет будут иметь тот же химический состав, что и сегодня, ИИ меняется со временем. Но управление формируется: Белый дом и многочисленные агентства, специализирующиеся на здравоохранении, разрабатывают правила, обеспечивающие прозрачность и конфиденциальность. Конгресс также проявляет интерес; На прошлой неделе финансовый комитет Сената провел слушания по вопросу искусственного интеллекта в здравоохранении.
Наряду с регулированием и законодательством усиливается лоббирование. CNBC насчитал рост на 185% в количестве организаций, раскрывших лоббистскую деятельность в области ИИ в 2023 году. Торговая группа ТехНет запустила инициативу стоимостью 25 миллионов долларов, включая покупку телевизионной рекламы, чтобы рассказать зрителям о преимуществах искусственного интеллекта.
«Очень сложно понять, как разумно регулировать ИИ, поскольку мы находимся на ранней стадии разработки технологии», Боб Кочерпартнер венчурной компании Venrock, ранее работавший в администрации Обамы, сообщил в электронном письме.
Кохер говорил с сенаторами о регулировании ИИ. Он подчеркивает некоторые трудности, с которыми столкнется система здравоохранения при внедрении этих продуктов. Врачи, сталкивающиеся с риском врачебной халатности, могут с подозрением относиться к использованию технологий, которых они не понимают, для принятия клинических решений.
Анализ данных Бюро переписи населения за январь, проведенный консалтинговой компанией Capital Economics, показал, что 6,1% предприятий здравоохранения планируют использовать ИИ в ближайшие шесть месяцев, что примерно посередине из 14 обследованных секторов.
Как и любой медицинский продукт, системы искусственного интеллекта могут представлять опасность для пациентов, иногда по-новому. Один пример: они могут придумывать вещи.
Вахтер вспомнил своего коллегу, который в качестве теста поручил GPT-3 OpenAI написать страховщику предварительное письмо-разрешение на намеренно «дурацкий» рецепт: препарат для разжижения крови для лечения бессонницы пациента.
Но ИИ «написал прекрасную заметку», сказал он. Система настолько убедительно цитировала «современную литературу», что коллега Вахтер на мгновение задумалась, не пропустила ли она новое направление исследований. Оказалось, что чат-бот сфабриковал свое заявление.
Существует риск ИИ увеличивающее смещение уже присутствует в системе здравоохранения. Исторически цветным людям оказывалась меньшая помощь, чем белым пациентам. Исследования показывают, например, что чернокожие пациенты с переломами реже получают обезболивающие, чем белые. Эта предвзятость может закрепиться, если искусственный интеллект обучится на этих данных и впоследствии будет действовать на их основе.
Исследования в области ИИ используются крупными страховщиками подтвердил, что произошло. Но проблема более масштабна. Вахтер сообщил, что UCSF протестировал продукт для прогнозирования неявок на прием к врачу. Пациенты, появление которых на приеме маловероятно, с большей вероятностью будут записаны дважды.
Тест показал, что цветные люди с большей вероятностью не покажутся. Независимо от того, был ли этот вывод точным, «этический ответ состоит в том, чтобы спросить, почему это происходит и можно ли что-то сделать», — сказал Вахтер.
Если отбросить шумиху, эти риски, вероятно, со временем будут продолжать привлекать внимание. Эксперты по искусственному интеллекту и представители FDA подчеркнули необходимость прозрачных алгоритмов, контролируемых в долгосрочной перспективе людьми — регулирующими органами и сторонними исследователями. Продукты искусственного интеллекта адаптируются и изменяются по мере добавления новых данных. И ученые будут разрабатывать новые продукты.
Политикам со временем придется инвестировать в новые системы для отслеживания искусственного интеллекта, заявил проректор Чикагского университета. Кэтрин Байкер, который давал показания на слушаниях в финансовом комитете Сената. «Самый большой прогресс — это то, о чем мы еще не думали», — сказала она в интервью.
Новости здоровья КФФранее известное как Kaiser Health News, представляет собой национальное новостное издание, выпускающее углубленные журналистские материалы по вопросам здравоохранения.