Чатгпт в роли… доктора?

ИЛИ ОпенАИ Похоже, она готова сделать еще один шаг в области медицинского искусственного интеллекта, создав новый специальный инструмент, носящий название Режим врача. Хотя официального объявления не было, первые признаки показывают, что компания рассматривает возможность предоставления медицинских консультаций более безопасным и контролируемым образом, основываясь исключительно на научных данных и достоверных источниках.

Информация поступила из Тибор Блахоинженер компании АИПРМкоторый обнаружил соответствующие ссылки на код онлайн-версии ЧатGPT. Согласно анализу, новая функция, судя по всему, была разработана как специальный интерфейс для поиска медицинской информации — что-то вроде «защищенного пространства», аналогичного границам, установленным для подростков-пользователей платформы.

Хотя подробности не разглашаются, наличие этой опции указывает на то, что Openai активно рассматривает возможность предоставления достоверных ответов на вопросы. здоровьеизбегая дезинформации, которая иногда связана с большими лингвистическими моделями.

По словам разработчика Джастин Энджелпрокомментированный в x, Режим врача Это может работать так: «Медицинский режим«Недавно компания объявила Консенсус. Там, искусственный интеллект Он ограничивает свои ответы исключительно данными научных медицинских публикаций и проверенных баз данных, избегая любой непроверенной информации. По сути, система отсечет любой источник, не принадлежащий к области документированных медицинских знаний. Если что-то подобное справедливо и для Chatgpt, то мы поговорим о важном шаге на пути к созданию более надежного инструмента цифрового здравоохранения.

Интерес Openai к медицинскому сектору не нов. Несколько месяцев назад компания работала с Люблю здоровье для теста ‘фельдшер с искусственным интеллектомПо первым результатам, системе удалось снизить уровень диагностических ошибок на 16%, подтвердив потенциал искусственного интеллекта в поддержке врачей. В то же время, СтанфОрд Медицинский факультет разрабатывает ЧатEHRинструмент, который позволяет врачам общаться с медицинскими записями на естественном языке, облегчая доступ к данным и ускоряя принятие решений.

Однако перспектива А. Режим врача Это не перестает вызывать беспокойство. Статья, недавно опубликованная в журнале Научные отчеты предупреждает о риски, с которыми сопряжено использование таких систем, как ChatGPT, в медицинской практике. Исследователи отмечают, что, несмотря на достижения, по-прежнему существует высокий риск возникновения «иллюзий» – то есть случаи, когда ИИ убедительно выдает неверную или неточную информацию.. Кроме того, чрезмерное использование технической терминологии или сложной фразеологии может затруднить интерпретацию ответов как медицинским работникам, так и обычным гражданам.

Openai, похоже, пытается решить именно эти проблемы. Идея одна Режим врача Он мог бы гарантировать, что Chatgpt будет получать ответы только из строго отобранных и надежных источников, таких как медицинские журналы, признанные базы данных или клинические инструкции. Такая модель могла бы существенно ограничить риск неправильных или опасных советов. Явление, которое уже вызвало инциденты, например, недавно упомянутое у пациента, у которого случился психотический эпизод из-за неверной информации, полученной от ИИ..

Идея искусственного интеллекта, способного давать медицинские советы исключительно на основе научных данных, несомненно, привлекательна. Это могло бы помочь врачам в повседневной практике, облегчить информирование пациентов и снизить нагрузку на системы здравоохранения. С другой стороны, необходимость строгого контроля, надзора и четких границ остается критической. Искусственный интеллект может стать ценным инструментом, но не заменой медицинского кризиса.

Ли Режим врача Это действительно будет разрез или просто эксперимент, который останется в документах, это еще предстоит выяснить.

[via]