Можем ли мы доверять ChatGPT в правильном понимании основ? – Блог о здравоохранении

Мэтью Холт

У Эрика Тополя есть статья в его отличном информационном бюллетене. Наземная правдасегодня о ИИ в медицине. Он ссылается на статью, которую он и его коллеги написали в Природа о Универсальном медицинском искусственном интеллекте (медицинская версия ГАИ). Это больше о последних версиях LLM (Large Language Models). Они отличаются от предыдущего ИИ, который был по сути сосредоточен на одной проблеме, а в медицине это в основном означало радиологию. Теперь вы можете вводить различные типы информации и получать множество разных ответов.

Эрик и его коллеги завершили свою статью следующим заявлением: «В конечном счете, GMAI обещает беспрецедентные возможности для здравоохранения, поддерживая клиницистов в решении ряда важных задач, преодолевая коммуникативные барьеры, делая высококачественную помощь более доступной и снижая административную нагрузку на клиницистов, чтобы они могли проводить больше времени с пациентами». Но он отмечает, что «Есть поразительные обязательства и проблемы, с которыми необходимо справиться. «Галлюцинации» (также известные как выдумки или BS) являются серьезной проблемой, наряду с предвзятостью, дезинформацией, отсутствием проверки в проспективных клинических испытаниях, конфиденциальностью и безопасностью и глубокими опасениями по поводу вопросы регулирования».

Он говорит, что в LLM есть необъяснимые ошибки, и поэтому нам нужен человек, чтобы убедиться, что ИИ не ошибается. У меня самого был яркий пример этого на тему, которая была чисто простым расчетом хорошо опубликованного набора фактов. Я спросил ChatGPT (3, а не 4) об исторических показателях фондового рынка. Очевидно, ChatGPT может сдать медицинские экзамены, чтобы стать врачом. Но если бы он ответил с таким же уровнем точности о клинической проблеме, я был бы очень обеспокоен!

Краткое видео о том, как я использую ChatGPT для «исследования» фондового рынка, приведено ниже: