Финансовый комитет Сената вчера размышлял о будущем: искусственный интеллект и его потенциальное применение в здравоохранении.
И оказывается, что будущее очень похоже на прошлое и настоящее: демократы хотят регулирования. А промышленность хочет денег.
«Есть много причин для оптимизма», — председатель финансового комитета Рон Уайден (Д-Ор.) сказал. Но, предупредил он, алгоритмы нуждаются в регулировании и подотчетности, чтобы быть уверенными, что они не выдают плохих или предвзятых рекомендаций, которые отказывают в медицинской помощи или приводят к ненадлежащей помощи.
Он выразил возмущение результатами исследование 2019 года во главе с Зиад Обермайера Калифорнийский университет в Беркли доцент, который обнаружил, что один коммерческий алгоритм рекомендовал чернокожим пациентам меньше медицинской помощи на основе исторических данных о затратах.
«Как такая ошибочная система попадает в общее пользование??» – сказал Уайден. «Никто не смотрит. Никаких ограждений. Никаких ограждений для защиты пациентов от ошибочных алгоритмов и систем искусственного интеллекта».
Неясно, продается ли этот алгоритм еще, сообщил позже Обермайер.
Слушания ознаменовали последнюю попытку Конгресса осмыслить новейшие системы искусственного интеллекта, которые могут имитировать некоторые формы человеческого мышления для прогнозирования и расчетов или генерировать текст и изображения, которые выглядят обманчиво созданными человеком.
Уайден рекламировал свой «Закон об алгоритмической ответственности». законопроект, призванный заставить компании оценивать свою собственную продукцию и требовать Федеральная торговая комиссия собирать и сообщать данные о системах искусственного интеллекта. Но республиканцы указали, что они не хотят быстро внедрять новые технологии.
ИИ уже широко распространен в здравоохранении; врачи используют эти системы, чтобы систематизировать посещения пациентов в клинических записях и, например, указать на потенциально раковые поражения или полипы. Соответственно, за алгоритмами стоит большая сила Вашингтона: CNBC считает 185 процентов всплеск — со 158 до более 450 — по числу организаций, лоббирующих регулирование ИИ.
Лидеры отрасли — и республиканцы в комитете — не опровергли прямо необходимость регулирования на слушаниях в четверг. Но их видение этого вопроса было более ограниченным и в одном случае подняло вопрос: Могут ли технические наблюдатели следить за техническими наблюдателями?
Возьмите сенатора. Билл Кэссиди (республиканец из Лос-Анджелеса), который в конце слушания задумался о том, что модели ИИ могут получить рейтинг моделей ИИ. Попросив ответы свидетелей, он напомнил им: «Пожалуйста, будьте осторожны в своих ответах» — и прервал их вскоре после того, как большинство сказали ему, что людям необходимо оценить модели.
«На практике это кажется невероятно обременительным», — сообщил он. Чикагский университет Провост Кэтрин Байкер. «Это кажется невозможным», — сказал он Марк Сендаксоруководитель герцогHealth AI Partnership, о предложениях исследователя о необходимости местного человеческого контроля над алгоритмами.
Старший республиканец комитета, сенатор. Майк Крапо (Айдахо) в своем заявлении признал важность «прозрачности» в системах искусственного интеллекта. Но он также осудил идею быстрого принятия законов об ИИ с помощью «универсальных, чрезмерно жестких и неоправданно бюрократических законов».
Хотя предложения по регулированию ИИ были спорными, одна идея получила поддержку республиканцев, свидетелей комиссии и даже некоторых демократов: необходимость того, чтобы промышленность получала деньги за свои инновации.
«По мере появления революционных устройств с поддержкой искусственного интеллекта и других технологий политика покрытия и оплаты Medicare должна идти в ногу со временем», — сказал Крапо в своем заявлении.
Сен. Боб Менендес (DN.J.) отметил, что, согласно недавнему исследованию, Medicare возмещает «менее 20» услуг ИИ, прежде чем задаться вопросом, будет ли полезно большее количество платежей. Другие сенаторы также заявили о поддержке увеличения финансирования отрасли.
Питер Шенруководитель отдела цифровых технологий и автоматизации в Сименс Здоровье, предложил производителям технологий предоставлять данные о затратах в Medicare и получать выплаты в течение пяти лет. В противном случае «непоследовательный, непредсказуемый» подход правительства задушит инновации, утверждал он.
Сендак сказал, что поставщикам медицинских услуг не хватает инфраструктуры и обучения для использования ИИ, отметив, что правительство потратило миллиарды долларов, чтобы побудить их перейти на электронные медицинские записи. «Нам нужны такие же смелые действия сейчас», — сказал он в письменных показаниях.
Эта статья недоступна для распространения из-за ограничений на повторную публикацию. Если у вас есть вопросы о доступности этого или другого контента для переиздания, обращайтесь Новости[email protected].
2024-02-09 14:11:03
1707639968
#Сенаторы #взвешивают #нужен #ли #поводок #ИИ #здравоохранения