Администрация Трампа автоматизирует несправедливость в отношении здоровья

План действий ИИ Белого дома, выпущенный в июле, упоминает «здравоохранение» только три раза. Но это одна из наиболее важных политик здоровья второй администрации Трампа. Его широкие амбиции для ИИ-возвращение защиты от себя, быстрое отслеживание »Инновации под руководством частного сектораИ запрещает «Идеологические догмы, такие как Дей»-Удалят долгосрочные последствия для того, как практикуется медицина, как управляется общественное здравоохранение и кто остается позади.

Уже администрация Трампа уже очистила данные с правительственных веб -сайтов, сократила финансирование для исследований маргинализованных сообществ и оказывало давление правительственных исследователей, чтобы ограничить или отказаться от работы, которая противоречит политической идеологии. Эти действия не просто символические – они формируют то, что измеряется, которые изучаются и какие результаты публикуются. Теперь те же самые ограничения переходят в развитие самого ИИ. В соответствии с политикой администрации разработчики имеют четкий стимул для выбора дизайна или выбора наборов данных, которые не провоцирует политический контрольПолем

Эти сигналы формируют системы ИИ, которые будут направлять медицинские решения в течение десятилетий. Накопление технического выбора, которое следует – засеяно в алгоритмах, встроенных в протоколы и масштабировалось по миллионам пациентов – приведет к урегулированию особых предубеждений этого момента времени в будущее медицины. И история показала, что после того, как смещение кодируется в клинические инструменты, даже очевидный вред может потребоваться десятилетия, чтобы отменить – если они вообще отменены.

Инструменты искусственного интеллекта пронизывали каждый угол медицины до того, как был выпущен план действий: помощь рентгенологам, обработка страховых претензий, даже общение от имени переутомленных поставщиков. Они также используются для быстрого отслеживания открытия новой терапии рака и антибиотиков, одновременно продвигая точное лекарство, которое помогает поставщикам адаптировать лечение для отдельных пациентов. Две трети Врачи использовали ИИ в 2024 году – на 78 процентов прыгнул по сравнению с годом ранее. Вскоре не использование ИИ для определения диагнозов или лечения можно рассматривать как злоупотребление служебным положением.

В то же время обещание ИИ по медицине ограничено недостатками технологии. Одна модель искусственного интеллекта для здравоохранения уверенно галлюцинировал несуществующую часть тела. Другой может сделать процедурные навыки врачей худшийПолем Поставщики требуют более сильного нормативного надзора за инструментами искусственного интеллекта, а некоторые пациенты нерешительный Чтобы ИИ анализировали их данные.

Заявленная цель администрации Трампа План действий ИИ это сохранить американское превосходство в глобальной гонке AI Arms. Но план также побуждает разработчиков передовых моделей искусственного интеллекта делать продукты свободными от «идеологического предвзятости» и «предназначенных для достижения объективной истины, а не по планам социальной инженерии». Это руководство достаточно темно, чтобы разработчики должны интерпретировать смутные идеологические сигналы, а затем тихо калибровать Что их модели могут сказать, показывать или даже научиться избегать пересечения линии, которая никогда не нарисована.

Некоторые медицинские инструменты включают в себя большие языковые модели, такие как CHATGPT. Но многие инструменты ИИ настраиваются, проприетарны и полагаются на более узкие наборы медицинских данных. Учитывая, как эта администрация нацелена на то, чтобы ограничить сбор данных в Министерстве здравоохранения и социальных служб и обеспечить, чтобы эти данные соответствовали его идеям о поле и расе, любые инструменты здоровья, разработанные в соответствии с планом действий Дональда Трампа по ИИ, могут столкнуться с давлением, чтобы полагаться на учебные данные, отражающие аналогичные принципы. (В ответ на запрос о комментариях чиновник Белого дома заявил в электронном письме, что план ИИ и исполнительный приказ президента по научной целостности вместе гарантируют, что «ученые в правительстве используют только объективные, проверенные данные и критерии в области научных решений, а при строительстве и контрактах на ИИ» и что будущие клинические инструменты «не ограничены политическими или идеологическими смещениями».)

Модели не изобретают мир, которым он управляет; Они зависят и отражают данные, которые мы их кормим. Это то, чему каждый научный сотрудник учится на раннем этапе: мусор, мусор. И если правительства сужают то, что считается законными данными о здоровье и исследованиях, поскольку модели искусственного интеллекта встроены в медицинскую практику, слепые пятна не будут просто сохраняться; Они будут усугубить и кальцифицировать в стандартах ухода.

В Соединенных Штатах пробелы в данных уже ограничивали перспективу инструментов ИИ. В первые годы Covid данные о раса и этническая принадлежность часто отсутствовала в отчетах о смерти и вакцинации. Обзор наборов данных, поданных в модели искусственного интеллекта, используемые во время пандемии найденный Точно так же плохое представление. Уборка этих пробелов сложно и дорого, но это лучший способ обеспечить, чтобы алгоритмы не были неизгладимо включать существующее неравенство в клинический кодекс. После многих лет защиты и инвестиций в США были окончательно начал закрывать давние пробелы в том, как мы отслеживаем здоровье и кого подсчитывают.

Но за последние несколько месяцев этот тип хрупкого прогресса был намеренно откащен. Иногда, CDC Веб -страницы были переписаны, чтобы отразить идеологию, а не эпидемиологию. Национальные институты здоровья остановили финансирование для проектов, которые он помечен как «DEI» – несмотря на то, что никогда не определяется Что на самом деле включаетПолем Роберт Ф. Кеннеди-младший издал шум по поводу того, что ученые-ученые публиковать только в правительственных журналах, и требовал Возвращение строгого исследования, опубликованного в Анналы внутренней медицины, Это не обнаружило связи между алюминием и аутизмом. (Кеннеди способствовал противоположной идее: что такие вакциновые ингредиенты являются причиной аутизма.) И недавние исполнительный приказ дает политическим назначенцам контроль над исследовательскими грантами, в том числе полномочиями отменить те, которые не «продвигают политические приоритеты президента». Селективное стирание данных становится основой для будущих решений в области здравоохранения.

Американская медицина раньше наблюдала последствия на основе такого шаткого фонда. Повседневная практика долгое время опиралась на клинические инструменты, которые путают гонку с биологией. В тестировании на функцию легких использовались расовые коррекции, полученные в результате медицины плантации эпохи рабства, что приводит к широко распространенной поддиагностике серьезных заболеваний легких у чернокожих пациентов. В 2023 году Американское грудное общество Призвал использовать нейтральный подход, но усыновление неравномерное, со многими лабораториями и устройствами все еще дефоруются на настройки, основанные на расе. В тесте на функцию почек использовались коэффициенты расовых, которые задерживали специальные рекомендации и право на пересадку. Акушерский калькулятор учитывается в расах и этнической принадлежности так, чтобы увеличить ненужные кесаревые сечения среди чернокожих и латиноамериканских женщин.

После того, как расовые корректировки запекаются в программные значения по умолчанию, клинические руководящие принципы и обучение, они сохраняются-квалифицированно и предсказуемо-на протяжении многих лет. Даже сейчас десятки ошибочных инструментов принятия решений, которые полагаются на устаревшие предположения, остаются в ежедневном использовании. Медицинские устройства рассказывают аналогичную историю. Пульсные оксимеры может пропустить Опасно низкий уровень кислорода у пациентов с темной кожей. Во время пандемии Covid те показания, которые кормили алгоритмы больничной структуры,-уступая различиям в лечении и доверии. После того, как ошибочные показатели превращаются в «объективные» инструменты, предвзятость становится практикой, а затем политикой.

Когда люди, находящиеся в силе, определяют, какие данные имеют значение и выходы без сомнения, результаты могут быть катастрофическими. В начале 20 -го века основатели современной статистики – Францис Гальтон, Рональд Фишер и Карл Пирсон – также были архитекторами движения евгеники. Галтон, который придумал термин ЕвгеникаВ пионеры Корреляция и регрессия и использовали эти инструменты, чтобы утверждать, что такие черты, как интеллект и мораль, были наследственными и должны управляться путем избирательного разведения. Фишер, часто провозглашенный «отцом современной статистики», был активным лидером в Обществе евгеники Великобритании и поддержал свою политику «добровольной» стерилизации тех, кто считается «слабыми». Пирсон, создатель пТесты-значение и хи-квадрат, основали Анналы евгеники Журнал и развернутый статистический анализ, чтобы утверждать, что еврейские иммигранты станут «паразитическая гонка.

Для каждого из этих мужчин-и более широкого сообщества медицинского и общественного здравоохранения, которое поддерживало движение евгеники-подводная объективность помогла преобразовать предубеждение в политику. В случае 1927 года Бак против БеллаВерховный суд кодифицировал свои идеи, когда он поддержал обязательную стерилизацию во имя общественного здравоохранения. Это решение никогда не было официально отменено.

Многие сторонники ИИ утверждают, что опасения по поводу предвзятости преувеличены. Они отметят, что предвзятость была обеспокоена годами, и в некоторой степени они правы: предвзятость всегда присутствовала в моделях ИИ, но его эффекты были более ограничены – отчасти потому, что сами системы были узко развернуты. До недавнего времени количество инструментов искусственного интеллекта, используемых в медицине, было небольшим, и большинство работали на полях здравоохранения, а не по своей сути. Теперь отличается скорость и масштаб расширения ИИ в эту область, в то же время администрация Трампа демонтирует ограждения за регулирование ИИ и формирует будущее этих моделей.

Человеческие провайдеры тоже предвзяты, конечно. Исследователи обнаружили, что медицинские проблемы женщин уволен Чаще всего, чем мужчины, и некоторые белые студенты -медики ложно считают, что у черных пациентов более толстая кожа или чувствует себя меньше боли. Смещение человека и предвзятость ИИ могут быть рассмотрены посредством обучения, прозрачности и подотчетности, но путь для последнего требует учета как человеческой ошибки, так и для самой технологии. Существуют технические исправления – завальные данные, модели переподготовки и аудиты смещения, но они часто узкие и непрозрачные. Многие современные модели ИИ, особенно крупные языковые модели, функционально Черные ящики: Использование означает подачу информации и ожидание выходов. Когда в вычислительном процессе производятся смещения, люди, которые зависят от этого процесса, не знают, когда и как они были введены. Эта непрозрачность подпитывает петлю обратной связи смещения: ИИ усиливает то, что мы вкладываем, а затем формирует то, что мы убираем, оставляя людей более предвзятый за то, чтобы доверять этому.

Развертывание AI «Переместить быстро и нарушать вещи» в здравоохранении, особенно если это основываться на уже предвзятых наборах данных, будет кодировать аналогичные предположения в модели, которые являются загадочными и самостоятельными. К тому времени, когда кто -то узнает недостатки, они не будут просто выпекать в формуле; Они будут неизгладимо встроены в инфраструктуру ухода.