ИИ управляет бизнесом Google в сфере здравоохранения. Вашингтон не знает, что с этим делать.

«Многие из этих инструментов обещают спасти больше жизней», — сказал сенатор. Марк Уорнер (Д-Вирджиния), добавив, что «у них также есть потенциал сделать прямо противоположное — нанести вред пациентам и их данным, усилить человеческую предвзятость и добавить бремя для поставщиков услуг, поскольку они ориентируются в клинической и правовой среде без четких норм».

Искусственный интеллект Google просматривает медицинские записи, исследовательские работы, изображения и клинические рекомендации, чтобы помочь врачам диагностировать заболевания и оценивать варианты лечения. Технический гигант уже продает эти инструменты больницам. Например, компания подписала соглашение с клиникой Мэйо, и оно предусматривает гораздо больше, включая приложения, ориентированные непосредственно на потребителя.

Недавно Warner направила письмо генеральному директору Google Сундару Пичаи, в котором сообщила, что обеспокоена тем, что больницы используют ИИ компании без достаточной проверки.

Марк Исаковиц, руководитель отдела политики и государственных дел компании Google в Северной Америке и бывший руководитель аппарата сенатора Республиканской партии от Огайо Роба Портмана, ответил, что технология компании не предназначена для обработки личной медицинской информации и что она используется только с ограниченными возможностями. Исаковиц сказал, что системы здравоохранения контролируют, как оно используется, и следят за его поведением.

Президент Джо Байден поручил своим агентствам выяснить, как обеспечить, чтобы ИИ в здравоохранении служил пациентам так же, как и обычные врачи, если не лучше, но правила могут появиться через несколько месяцев или лет. Хотя Управление по санитарному надзору за качеством пищевых продуктов и медикаментов одобряет медицинские устройства, использующие искусственный интеллект, у него нет правил, регулирующих использование передовых программных инструментов.

Google не ждет, пока агентство их напишет. Сейчас компания тестирует свой ИИ вместе с исследователями клиники Мэйо в качестве помощников. HCA Healthcare, которая управляет более чем 2000 больницами и другими медицинскими учреждениями в США и Великобритании, использует его для написания клинических заметок для своих врачей и медсестер.

Bayer Pharmaceuticals также тестирует его в клинических испытаниях, помогая налаживать коммуникации. А компания электронных медицинских записей Meditech использует эту технологию для обобщения истории болезни пациентов.

Пока законодатели, такие как Уорнер, и регулирующие органы, такие как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов, размышляют, что делать, Google нанимает бывших государственных регуляторов здравоохранения, которые имеют хорошие возможности для защиты интересов компании.

Цитата «доктор в кармане» принадлежит Карен ДеСальво, которая курировала регулирование медицинских информационных технологий при президенте Бараке Обаме и которая сейчас является главным директором по здравоохранению Google.

Стартапы обеспокоены тем, что Google и другие технологические гиганты будут настаивать на введении правил, которые потеснят более мелких конкурентов.

Небольшие фирмы хотят отказаться от требований к отчетности, которые Байден поручил своим агентствам разработать в октябрьском указе о регулировании ИИ. Они считают, что такие требования будут простыми для таких титанов, как Google или Microsoft, но трудными для менее обеспеченных конкурентов.

«По сути, они собираются создать систему, в которой мы будем зависеть только от них в продвижении вперед», — сказал Пунит Сони, генеральный директор компании Suki AI, занимающейся ведением клинических записей, имея в виду крупных технологических игроков в сфере здравоохранения, включая Google.

Урок извлечен

Google извлек важный урок из сотрудничества с Вашингтоном в 2019 году.

Именно тогда компания впервые попыталась применить свои навыки работы с «большими данными» к записям пациентов — сделка с сетью больниц Ascension из Сент-Луиса на анализ десятков миллионов медицинских записей — вызвала расследование Министерства здравоохранения и социальных служб по поводу конфиденциальности. обеспокоенность.

На этот раз Google, похоже, опережает проблемы с регулирующими органами до того, как они возникнут.

Материнская компания Google наняла нескольких бывших сотрудников Управления по санитарному надзору за качеством пищевых продуктов и медикаментов, в том числе Бакула Пателя, бывшего директора по цифровому здравоохранению агентства, который руководил первыми разработками FDA в области искусственного интеллекта. Агентство, возглавляемое бывшим сотрудником материнской компании Google Робертом Калифом, рассчитывает возглавить разработку правил в администрации Байдена.

Google также является членом Коалиции за ИИ в здравоохранении — группы систем здравоохранения и технологических компаний, работающих над формированием стандартов ИИ в координации с федеральными агентствами здравоохранения. Группа опубликовала свой первый «план» ИИ в здравоохранении в этом году. Это также помогло информировать Кодекс поведения AI в сфере здравоохранения Национальной медицинской академии.

После указа президента Байдена об искусственном интеллекте политики пытаются освоить эту технологию — Байден запросил отчеты и рекомендации и установил сроки — и Google хочет помочь.

В середине ноября, компания опубликовала политическую программу для ИИ, призывая к принятию законов, способствующих инновациям, а также инфраструктуры для поддержки развития и внедрения ИИ.

Компания считает себя партнером правительства. Патель, ныне старший директор по глобальной стратегии и регулированию цифрового здравоохранения в Google, сказал, что компания тратит много времени на объяснение чиновникам того, как работает технология, чтобы они могли устанавливать стандарты.

«Мы не можем говорить им, что делать, но мы можем их обучать», — сказал он.

Новый ИИ

Искусственный интеллект, который продает Google, находится в серой зоне регулирования.

FDA разрешает использование медицинских устройств с поддержкой искусственного интеллекта, но его обзоры были предназначены для менее передовых технологий.

Никто из правительства не гарантирует, что новые программные инструменты сделают то, что обещают.

В прошлом году агентство сказал, что будет искать провести обзор некоторых из этих продуктов, но еще не сделал этого. Тем временем агентство опубликовало план действий по регулированию ИИ и рекомендации относительно того, какие алгоритмы входят в сферу его действия и какую информацию компании должны включать в заявки на получение маркетингового разрешения.

Администрация Байдена в своем указе поделилась положениями о том, как агентства должны отслеживать и собирать данные с помощью передовых моделей искусственного интеллекта, которые могут иметь последствия для национальной безопасности или общественного здравоохранения. Тем не менее, указ в основном представляет собой просьбу к агентствам провести исследования, чтобы лучше понять, как следует защищать технологии.

Это предварительный шаг к написанию правил, которые могут занять месяцы или годы.

Тем временем Конгресс постепенно набирает обороты. И комитет Сената по здравоохранению, образованию, труду и пенсиям, и комитет Палаты представителей по энергетике и торговле. провели слушания изучение искусственного интеллекта и способов его регулирования в сфере здравоохранения.

Участники задавали вопросы о влиянии ИИ на все: от сбора личных данных до его использования при разработке биологического оружия. Но пока нет законодательство в ближайшее время.

Сенаторы во главе с Джон Тьюн (РС.Д.) и Эми Клобучар (демократ от Миннесоты) предложили Закон об исследованиях, инновациях и подотчетности в области искусственного интеллекта от 2023 годано он не специфичен для здравоохранения и не получил развития с момента его введения в прошлом месяце.

Между тем, FDA ожидает в этом году большого роста производства медицинских устройств с поддержкой искусственного интеллекта. увеличится более чем на 30 процентов по сравнению с 2022 годом.

Google постоянно запускает проекты и продукты в области искусственного интеллекта. Сейчас компания лицензирует алгоритмы для выявления рака молочной железы, рака легких и генных мутаций. Он также продолжает тестировать ИИ в качестве инструмента для диагностики диабетической ретинопатии, а также для выявления аномалий на ультразвуковых изображениях.

Внедрение Google Med PaLM-2, бота, который может отвечать на вопросы и сдавать экзамены на получение медицинской лицензии, основывается на существующих отношениях с медицинскими компаниями. Bayer сотрудничает с Google Cloud on AI для проведения клинических испытаний и раннего открытия новых лекарств. Прежде чем Google начал пилотировать Med-PaLM 2 в клинике Майо, они сотрудничали в области искусственного интеллекта, который помогает планировать радиологическое лечение рака головы и шеи. HCA Health использовала Google Cloud с 2021 года.

Видение Google в области здравоохранения не ограничивается медицинскими компаниями. У него есть амбиции сыграть роль в охране здоровья потребителей. У компании уже есть FitBit, носимое устройство, которое собирает показатели жизнедеятельности и другие показатели фитнеса. Компания протестировала и другие потребительские инструменты, такие как DermAssist, предназначенный для диагностики кожных заболеваний и отмеченный в Европе как медицинское устройство с низким уровнем риска.

ДеСальво рассматривает смартфоны как ключевой инструмент в медицине будущего.

«Так много всего произойдет только с устройством, которое, честно говоря, довольно недорогое и находится в руках огромной части планеты», — сказал ДеСальво на мероприятии Google в марте. «Мне очень хотелось бы думать об этом как о платформе для людей и потребителей».

Конфиденциальность и рыночная власть

Основная обеспокоенность регулирующих органов, экспертов по правовым вопросам и стартапов заключается в том, что ИИ проникнет в здравоохранение прежде, чем законодатели смогут осмыслить это.

Мейсон Маркс, старший научный сотрудник Центра Петри-Флома Гарвардского юридического факультета, сказал, что дело не только в том, что не существует законов, регулирующих новый ИИ. По его словам, старые законы, призванные защищать пациентов, на самом деле не выдерживают веса технологий следующего поколения.

Маркс обеспокоен тем, что HIPAA, закон, принятый десятилетиями и призванный защищать конфиденциальность пациентов, разваливается перед лицом больших языковых моделей, поскольку HIPAA позволяет системам здравоохранения и их поставщикам использовать обезличенные данные пациентов.

«Как только вы удалите определенные личные идентификаторы, вы сможете делать с ними все, что захотите», — сказал он. Исследователи отмечают что обезличенные данные могут быть повторно идентифицированы, если их сопоставить с дополнительными данными с использованием ИИ.

Даже если это не так, существуют этические соображения, сказал Маркс. Он указывает на инцидент с Crisis Text Line, текстовая горячая линия по психическому здоровью подростков, которая продавала обезличенные данные в маркетинговых целях без согласия пользователя. Это не является противозаконным, но он сомневается в том, этично ли это, особенно когда компании используют эти данные для улучшения систем искусственного интеллекта, от которых они получают прибыль.

По его словам, получение доступа к этим данным может также иметь антимонопольные последствия. «Такие компании, как Google, которые вкладывают значительные средства в системы искусственного интеллекта для больниц и систем здравоохранения, могут получить огромное конкурентное преимущество или монопольное положение со всеми данными, которые они генерируют», — сказал Маркс.

Сони из Suki AI также обеспокоена вопросами конкуренции и конфиденциальности, но с другой точки зрения.

Он обеспокоен тем, что регулирующие органы сосредотачиваются на разработке правил, которые создадут бремя соблюдения требований, которое не обязательно гарантирует защиту конфиденциальности или предвзятости, но затрудняет конкуренцию мелким инноваторам с такими богатыми фирмами, как Google.

«Мне кажется, что мы удвоили внимание к отчетности, а не объяснили соблюдение требований», — сказал он. «Я бы предпочел, чтобы мы потратили некоторое время на то, чтобы выяснить, что такое AI-версия HIPAA».