Сколько доверять ИИ для нашего здоровья

1754721236
2025-08-08 15:22:00

Загрузка игрока

Анализируя изображения КТ в мозге, искусственный интеллект Google изобрел анатомическую часть, которой не существует, написав отчет, который затем был вставлен в научное исследование, именно в полезности ИИ для поставки медицинских диагнозов. Ошибка была замечена неврологом, который не участвовал в исследовании и была только частично исправлена Google, который пытался свести к минимуму свой объем. История, занятая несколькими сайтами технологий и здоровья, символизирует способ, которым искусственный интеллект, демонстрируя большой потенциал в области медицинской помощи, может привести к вводящим в заблуждение результатам, если не адекватно контролируется.

В дополнение к написанию текстов, рисованию, изменению изображений и составлению музыки, системы Искусственный интеллект (ИИ) Они будут все чаще использоваться в многочисленных рабочих местах, включая зоны здравоохранения. Некоторые из величайших разработчиков, таких как OpenAI и Google, в течение некоторого времени поддерживали, что их ИИ можно использовать не только в Разработка новых лекарствно также для того, чтобы помочь врачам поставить более точные и точные диагнозы. Вокруг этой возможности есть большие возможности и энтузиазм, но несколько врачей и экспертов ИИ приглашают определенную осторожность и распознают ограничения, которые текущие приложения должны диагностировать.

В течение более года Google продвигает прогресс и результаты, полученные Med-Gemini, набор мультимодальных моделей (то есть, которые объединяют больше вещей, такие как информация из изображений, текстов и других источников), специализируемых на медицине. Это система, которая может суммировать медицинские тексты, оценивать симптомы, сообщенные пациентом, чтобы попытаться поставить диагноз, а также может анализировать изображения, такие как символы рентгенограмм, КТ и магнитно -резонансы, обнаружение аномалий и сообщать их врачам. Последняя задача оправдана из нескольких других, чтобы они уже были доступны в течение некоторого времени и оказались очень многообещающими, с тестами, в которых изображения изображений изображений иногда видели вещи, которые не наблюдали рентгенологов. Но все не всегда идет в правильном направлении.

ИИ может на самом деле иметь галлюцинации и поэтому сообщайте о чем -то, что не существует, или изобретает здорового растения анатомической частью, со всеми рисками, которые могут их достичь в случае несчастных оценок от врачей, которые используют это программное обеспечение. Med-Gemini сделал это, создав часть мозга, которого не существует, и который затем оказался в научном исследовании, в котором говорилось о достигнутом прогрессе, достигнутом этим ИИ.

Чтобы понять проблему, необходим быстрый урок анатомии. Ганглии основания («базальные ганглии» на английском языке) представляют собой структуру мозга, образованная нейронами, которые находятся у основания мозга и участвуют в многочисленных функциях, таких как контроль движений, обучение и лечение эмоций, в то время как основная артерия («базилярная артерия») – это кровяный сосуд, который привносит кровли в структуры мозга. Поэтому они имеют очень разные функции и, следовательно, требуют различных методов лечения в соответствии с проблемами, которые они могут иметь.

Галлюцинация Med-Gemini состояла в изобретении «основных ганглий» («базилярные ганглии» на английском языке), анатомической части, которой не существует. Ошибка не была замечена теми, кто рассмотрел отчет, и теми, кто тогда подготовил его студия Scientific по навыкам искусственного интеллекта Google в области медицины. «Основные ганс» также оказались в официальном блоге компании в мае 2024 года, в элемент Раскрытие, которое иллюстрировало основные моменты исследования, чтобы подчеркнуть прогресс, полученный с новым ИИ.

Часть исследования, которая иллюстрирует навыки Med-Gemini с «основными ганглиями»

Как у него есть сказал Технологический сайт ГраваПозже ошибка была замечена неврологом, который провел некоторые исследования с ИИ. Он предупредил Google, который изменил популярную статью, не указав, что он исправил ошибку, которая также продолжала присутствовать в научном исследовании.

Невролог публично сообщил, что статья была исправлена без нового показания, и только в этот момент Google снова изменил ее, добавив объяснение, которое все еще оставило бы несколько врачей озадаченными: «Обратите внимание, что« базовая »является общей ошибкой транскрипции слова« базальный », который Мед-Джемини узнал из данных, используемых для его обучения, даже если его отчет остается». Для Google это было больше, чем опечатка, чем галлюцинация.

Если вы используете одну из основных поисковых систем для научных исследований, таких как Google Scholar, события для «базилярных ганглиев» составляют менее ста, в то время как для «базальных ганглиев» почти 900 тысяч, а для «базилярной артерии» почти 150 тысяч. Во время обучения в Med Gemini он должен был бы проанализировать гораздо больше текстов, содержащих две версии правильные, чем немногие, с ошибкой, поэтому неясно, почему в этом конкретном случае он создал термин, который не имеет смысла с медицинской точки зрения.

Никто не рисковал из -за ошибки, но аномальное поведение ИИ не должно быть недооценено, особенно в области медицины. В серии тестов у некоторых врачей есть отмеченный Эти другие модели, как меджжая, всегда разработанная Google, значительно изменяют свои ответы в зависимости от того, как они подвергаются сомнению, создавая различные отчеты для одних и тех же проанализированных изображений. Если в приглашении, т.е. в тексте, который содержит запрос, было вставлено многие подробности о пациенте, он предоставил ему правильный диагноз проблемы, в то время как в случае более расплывчатого запроса система не обнаружила каких -либо проблем со здоровьем, несмотря на то, что это была очевидна в плите.

Крупные технологические компании, которые контролируют самые известные модели, такие как CHATGPT и Gemini, говорят, что их ИИ должен рассматриваться как помощь для врачей, а не как их заменители, подразумевая, что окончательная проверка всегда принадлежит врачу как в отношении диагнозов, так и для лечения. Но даже в этом случае могут быть проблемы. ИИ будет все чаще применяться для написания отчетов и рецептов, так что они более понятны для пациентов и быстрее заполнять для врачей. Их всегда будет решать им, чтобы ИИ не понял или изобрел свою часть, с риском, что при сотом, подобном другим, врач что -то теряет с риском для пациента, который может быть минимальным как очень серьезным.

Те, кто разрабатывает модели, часто помнят, что через несколько лет был огромный прогресс в их точности, перед лицом более или менее стабильного количества человеческих ошибок в медицинской области, что может быть уменьшено благодаря распространению ИИ. Потенциала не хватает, и уже есть разные переживания многообещающийНо есть также предложения, чтобы избежать того, что существует «раса к ИИ», как уже произошло в других секторах, чтобы они могли лучше изучать и проанализировать затраты и возможности их использования в секторе здравоохранения.

Как он всегда объяснял Грава Джонатан Чен, профессор, связанный со Стэнфордской медицинской школой: «Это действительно странный момент, в котором многие из этих вещей слишком быстро приняты в клинической области. Они еще не спелые. […] Когда мы имеем дело с медициной, что -то несовершенное может показаться невыносимым ».

#Сколько #доверять #ИИ #для #нашего #здоровья