Google удаляет некоторые сводки о состоянии ИИ после того, как расследование обнаружило «опасные» недостатки

В воскресенье Google удаленный некоторые из его Обзоры ИИ сводки о состоянии здоровья после того, как расследование Guardian показало, что люди подвергаются риску из-за ложной и вводящей в заблуждение информации. Удаление произошло после того, как газета обнаружила, что функция генеративного искусственного интеллекта Google предоставляет неточную информацию о состоянии здоровья в верхней части результатов поиска, что потенциально может привести к тому, что тяжелобольные пациенты ошибочно заключят, что они здоровы.

Google отключил определенные запросы, такие как «каков нормальный диапазон анализов крови в печени», после того как эксперты, с которыми связалась The Guardian, отметили результаты как опасные. В отчете также подчеркивается серьезная ошибка, касающаяся рака поджелудочной железы: ИИ предлагает пациентам избегать продуктов с высоким содержанием жиров. Эта рекомендация противоречит стандартным медицинским рекомендациям по поддержанию веса и может поставить под угрозу здоровье пациентов. Несмотря на эти выводы, Google деактивировал только сводки по запросам о тестировании печени, оставив доступными другие потенциально опасные ответы.

Расследование показало, что поиск норм печеночных тестов приводил к появлению таблиц необработанных данных (с перечислением конкретных ферментов, таких как АЛТ, АСТ и щелочная фосфатаза), в которых не было существенного контекста. Функция искусственного интеллекта также не смогла скорректировать эти цифры с учетом демографических данных пациентов, таких как возраст, пол и этническая принадлежность. Эксперты предупредили, что, поскольку определение «нормы» в модели искусственного интеллекта часто отличается от реальных медицинских стандартов, пациенты с серьезными заболеваниями печени могут ошибочно полагать, что они здоровы, и пропускать необходимый последующий уход.

Ванесса Хебдич, директор по коммуникациям и политике British Liver Trust, рассказала The Guardian, что тест на функцию печени представляет собой набор различных анализов крови и что понимание результатов «сложно и включает в себя гораздо больше, чем просто сравнение набора цифр». Она добавила, что обзоры ИИ не предупреждают о том, что кто-то может получить нормальные результаты этих тестов, если у него серьезное заболевание печени и ему требуется дополнительная медицинская помощь. «Эти ложные заверения могут быть очень вредными», — сказала она.

Google отказался комментировать The Guardian конкретные удаления. Представитель компании сказал Грань того, что Google инвестирует в качество обзоров ИИ, особенно по темам здравоохранения, и что «подавляющее большинство из них предоставляют точную информацию». Представитель добавил, что внутренняя команда врачей компании проверила то, что было опубликовано, и «обнаружила, что во многих случаях информация не была неточной, а также поддерживалась высококачественными веб-сайтами».