Как «уверенный авторитет» обзоров Google AI ставит под угрозу здоровье населения | Google

Есть ли у меня грипп или ковид? Почему я просыпаюсь с чувством усталости? Что вызывает боль в груди? На протяжении более двух десятилетий ввод медицинских вопросов в самую популярную в мире поисковую систему давал список ссылок на веб-сайты с ответами. Google эти вопросы о здоровье сегодня, и ответ, скорее всего, будет написан искусственным интеллектом.

Сундар Пичаи, исполнительный директор Google, впервые изложил планы компании по внедрению искусственного интеллекта в свою поисковую систему на ежегодной конференции в Маунтин-Вью, штат Калифорния, в мае 2024 года. Это изменение ознаменовало самую большую встряску основного продукта Google за четверть века. К июлю 2025 года технология распространилась на более чем 200 стран на 40 языках, и каждый месяц обзоры ИИ обслуживают 2 миллиарда человек.

Благодаря быстрому внедрению обзоров ИИ Google стремится защитить свой традиционный поисковый бизнес, который приносит около 200 миллиардов долларов (147 миллиардов фунтов стерлингов) в год, прежде чем выскочки-конкуренты в области ИИ смогут его пустить под откос. «Мы лидируем на переднем крае искусственного интеллекта и поставок с невероятной скоростью», Пичаи сказал в июле прошлого года. Обзоры AI, в частности, «работали хорошо», добавил он.

Но обзоры несут в себе риски, говорят эксперты. Они используют генеративный искусственный интеллект для предоставления снимков информации по теме или вопросу, добавляя диалоговые ответы поверх традиционных результатов поиска в мгновение ока. Они могут ссылаться на источники, но не обязательно знают, когда этот источник неверен.

Через несколько недель после запуска этой функции в США пользователи столкнулись с неправдой по широкому кругу предметов. В одном обзоре AI говорится, что Эндрю Джексон, седьмой президент США, окончил колледж в 2005 году. Элизабет Рид, руководитель службы поиска Google: ответил на критику в сообщении в блоге. Она признала, что «в небольшом количестве случаев» AI Reviews неверно истолковывала формулировки на веб-страницах и предоставляла неточную информацию. «В масштабах Интернета, с миллиардами запросов, поступающих каждый день, обязательно будут некоторые странности и ошибки», — написала она.

Но когда эти вопросы касаются здоровья, точность и контекст имеют важное значение и не подлежат обсуждению, говорят эксперты. Google сталкивается с растущим вниманием к своим обзорам искусственного интеллекта по медицинским запросам после расследование Guardian обнаружили, что люди подвергаются риску причинения вреда из-за ложной и вводящей в заблуждение информации о здоровье.

Компания заявляет, что обзоры ИИ «надежный“. Но Хранитель нашел некоторые медицинские заключения содержат неточную медицинскую информацию и подвергают людей риску причинения вреда. В одном случае, который эксперты назвали «действительно опасным», Google ошибочно посоветовал людям с раком поджелудочной железы избегать продуктов с высоким содержанием жиров. Эксперты заявили, что это полная противоположность тому, что следует рекомендовать, и может увеличить риск смерти пациентов от этой болезни.

В другом «тревожном» примере компания предоставила фальшивую информацию о важнейших тестах функции печени, из-за чего люди с серьезными заболеваниями печени могли ошибочно думать, что они здоровы. По словам экспертов, то, что в Обзорах ИИ считалось нормальным, могло радикально отличаться от того, что на самом деле считалось нормальным. Эти сводки могут привести к тому, что тяжелобольные пациенты ошибочно подумают, что у них нормальный результат теста, и не потрудятся прийти на повторный прием.

Также предоставлены обзоры ИИ о тестах на рак у женщин.совершенно неправильно»информация, которая, по словам экспертов, может привести к тому, что люди будут игнорировать подлинные симптомы.

Google изначально стремился преуменьшить выводы Guardian. По словам компании, исходя из того, что смогли оценить ее собственные врачи, обзоры ИИ, которые встревожили экспертов, связались с авторитетными источниками и рекомендовали обратиться за советом к эксперту. «Мы вкладываем значительные средства в качество обзоров ИИ, особенно по таким темам, как здравоохранение, и подавляющее большинство из них предоставляют точную информацию», — сказал представитель.

Однако через несколько дней компания удалила некоторые обзоры ИИ по вопросам здоровья, отмеченным Guardian. «Мы не комментируем отдельные удаления из поиска», — сказал представитель. «В тех случаях, когда обзоры ИИ упускают какой-то контекст, мы работаем над широкими улучшениями, а также принимаем меры в соответствии с нашей политикой, где это необходимо».

Хотя эксперты приветствовали удаление некоторых сводок ИИ по вопросам здоровья, многие по-прежнему обеспокоены. «Нас больше всего беспокоит то, что он придирается к одному результату поиска, и Google может просто отключить обзоры ИИ для этого, но он не решает более важную проблему, связанную с обзорами ИИ для здоровья», — говорит Ванесса Хебдич, директор по коммуникациям и политике в British Liver Trust, благотворительной организации, занимающейся здоровьем печени.

«Все еще существует слишком много примеров того, как обзоры искусственного интеллекта Google предоставляют людям неточную информацию о здоровье», — добавляет Сью Фаррингтон, председатель Информационного форума для пациентов, который продвигает научно обоснованную медицинскую информацию для пациентов, общественности и медицинских работников.

А новое исследование вызвало еще больше беспокойства. Когда исследователи проанализировали ответы на более чем 50 000 поисковых запросов, связанных со здоровьем, в Германии, чтобы увидеть, на какие источники AI Обзоры полагаются больше всего, один результат сразу же выделился. Самым цитируемым доменом был YouTube..

«Это важно, потому что YouTube не является медицинским издателем», исследователи написали. “Это универсальная видеоплатформа. Любой желающий может загружать туда контент (например, сертифицированные врачи, больничные каналы, а также влиятельные лица в сфере здравоохранения, лайф-коучи и авторы вообще без медицинского образования)”.

В медицине важно не только то, откуда берутся ответы на этот вопрос или уровень их точности, но и то, как они преподносятся пользователям, говорят эксперты. «Благодаря обзорам ИИ пользователи больше не сталкиваются с множеством источников, которые они могут сравнивать и критически оценивать», — говорит Ханна ван Кольфшотен, исследователь в области ИИ, здравоохранения и права из Базельского университета. «Вместо этого им предоставляется единственный, уверенный, сгенерированный искусственным интеллектом ответ, демонстрирующий медицинский авторитет.

“Это означает, что система не просто отражает медицинскую информацию в Интернете, но и активно ее реструктурирует. Когда этот ответ строится на источниках, никогда не предназначенных для удовлетворения медицинских стандартов, таких как Ютуб видео, это создает новую форму нерегулируемой медицинской власти в Интернете».

Google утверждает, что обзоры с использованием искусственного интеллекта созданы для отображения информации, подкрепленной лучшими результатами в Интернетеи включать ссылки на веб-контент, подтверждающий информацию, представленную в резюме. Люди могут использовать эти ссылки, чтобы глубже изучить тему, сообщили в компании Guardian.

Но отдельные блоки текста в Обзорах ИИ, объединяющие информацию о здоровье из нескольких источников, могут вызвать путаницу, говорит Николь Гросс, доцент кафедры бизнеса и общества в Национальном колледже Ирландии.

«После появления сводки ИИ пользователи с гораздо меньшей вероятностью будут проводить дальнейшие исследования, а это означает, что они лишаются возможности критически оценивать и сравнивать информацию или даже использовать свой здравый смысл, когда дело касается вопросов, связанных со здоровьем».

Эксперты выразили Guardian и другие опасения. По их словам, даже если и когда Обзоры ИИ действительно предоставляют точные факты по конкретной медицинской теме, они могут не отличить убедительные доказательства из рандомизированных исследований от более слабых доказательств из обсервационных исследований. Некоторые также упускают из виду важные предостережения относительно этих доказательств, добавляют они.

Если такие утверждения перечислены рядом друг с другом в обзоре ИИ, может также создать впечатление, что некоторые из них более авторитетны, чем есть на самом деле. Ответы также могут меняться по мере развития обзоров ИИ, даже если наука не изменилась. «Это означает, что люди получают разные ответы в зависимости от того, когда они ищут, и этого недостаточно», — говорит Афина Ламнисос, исполнительный директор благотворительной организации по борьбе с раком Eve Appeal.

Google сообщил Guardian, что ссылки, включенные в обзоры AI, были динамичными и менялись в зависимости от информации, которая была наиболее актуальной, полезной и своевременной для данного поиска. Если AI Reviews неправильно интерпретирует веб-контент или упускает какой-то контекст, компания будет использовать эти ошибки для улучшения своих систем, а также принимать меры, когда это необходимо, говорится в сообщении.

Самое большое беспокойство вызывает то, что фальшивая и опасная медицинская информация или советы в Обзорах ИИ «в конечном итоге переводятся в повседневную практику, распорядок дня и жизнь пациента, даже в адаптированных формах», — говорит Гросс. «В здравоохранении это может превратиться в вопрос жизни и смерти».