«Освещение в пропасть»: эксперты предупреждают о растущем использовании ИИ для поддержки психического здоровья | Психическое здоровье

Уязвимые люди, обращающиеся к чат -ботам ИИ вместо профессиональных терапевтов для поддержки психического здоровья, могут «скользить в опасную пропасть», предупредили психотерапевты.

Психотерапевты и психиатры показывают, что они все чаще видят негативные воздействия чат-ботов ИИ, используемых для психического здоровья, таких как способствование эмоциональной зависимости, усугубление симптомов тревоги, самодиагностика или усиление бредовых мышлений, темные мысли и идеи самоубийства.

Доктор Лиза Моррисон Коултхард, директор по профессиональным стандартам, политике и исследованиям в Британской ассоциации консультирования и психотерапии, заявила, что две трети ее членов выразили обеспокоенность по поводу терапии ИИ в недавнем опросе.

Coulthard сказал: «Без надлежащего понимания и надзора за терапией ИИ мы могли бы скользить в опасную пропасть, в которой некоторые из наиболее важных элементов терапии теряются, а уязвимые люди находятся в темноте над безопасностью.

«Мы обеспокоены тем, что, хотя некоторые получают полезные советы, другие люди могут получить вводящую в заблуждение или неверную информацию о своем психическом здоровье с потенциально опасными последствиями. Важно понимать, что терапия не дает совета, а о том, чтобы предложить безопасное пространство, в котором вы чувствуете, что вы слушаете».

Доктор Пол Брэдли, специалист по информатике для Королевского колледжа психиатров, сказал, что чат -боты искусственного интеллекта «не были заменой профессионального психического здоровья, ни жизненно важных отношений, которые врачи строят с пациентами для поддержки их выздоровления».

Он сказал, что для цифровых инструментов необходимы соответствующие меры защиты, чтобы дополнить клиническую помощь, и любой должен иметь возможность получить доступ к разговорной терапии, предоставленной специалистом по психическому здоровью, для которой необходимо больше государственного финансирования.

«Клиницисты имеют процессы обучения, надзора и управления рисками, которые обеспечивают эффективную и безопасную помощь. До сих пор свободно доступные цифровые технологии, используемые вне существующих психиатрических услуг, не оцениваются и придерживаются одинаково высокого стандарта»,-сказал Брэдли.

Есть признаки того, что компании и политики начинают реагировать. На этой неделе Openai, компания, стоящая за CHATGPT, объявила о планах изменить то, как она реагирует на пользователей, которые демонстрируют эмоциональные страдания, после судебного иска от семьи подростка, который покончил с собой после нескольких месяцев разговоров с чат -ботом. Ранее в августе США штат Иллинойс стал первым местным правительством запретить аи чат -боты от выступая в качестве отдельных терапевтов.

Это происходит после появления доказательств вреда психическому здоровью. А Препринт исследования В июле сообщалось, что ИИ может усилить бредовое или грандиозное содержание во взаимодействии с пользователями, уязвимыми для психоза.

Один из соавторов отчета, Гамильтон Моррин, из Королевского колледжа Лондонского института психиатрии, сказал, что использование чат-ботов для поддержки психического здоровья было «невероятно распространенным». Его исследование было вызвано тем, что встречались с людьми, которые развили психотическое заболевание во время увеличения использования чат -бота.

Он сказал, что чат -боты подорвали эффективное лечение тревоги, известное как воздействие и профилактика ответов, что требует от людей, которые сталкивались с страхами и избегали поведения безопасности. По его словам, 24-часовая доступность чат-ботов привела к «отсутствию границ» и «риску эмоциональной зависимости». «В краткосрочной перспективе это облегчает бедствие, но на самом деле он увековечивает цикл».

Мэтт Хасси, психотерапевт с аккредитованием BACP, сказал, что он видит, как ИИ чат-боты используются огромным разнообразием, а некоторые клиенты вносят стенограммы в сессии, чтобы сказать ему, что он неправ.

В частности, люди использовали чат-боты ИИ для самодиагностических условий, таких как СДВГ или пограничное расстройство личности, что, по его словам, может «быстро формировать то, как кто-то видит себя и как они ожидают, что другие обращаются с ними, даже если они неточны».

Хасси добавил: «Поскольку он предназначен для того, чтобы быть позитивным и подтверждающим, это редко бросает вызов плохому вопросу или ошибочному предположению. Вместо этого это усиливает первоначальную веру пользователя, поэтому они оставляют обмен мышлением,« я знал, что я прав ». Это может чувствовать себя хорошо в данный момент, но он также может укорениться в ошибках».

Кристофер Роллс, психотерапевт с аккредитованием UKCP, сказал, что, хотя он не мог раскрыть информацию о своих клиентах, он видел, как люди имеют «негативный опыт», в том числе разговоры, которые были «неуместными в лучшем случае, в лучшем случае опасно тревожным».

Роллс сказал, что он слышал о людях с СДВГ или аутичными людьми, использующими чат -ботов, чтобы помочь с сложными аспектами жизни. «Однако, очевидно, LLMS [large language models] Не читайте подтекст и все контекстуальные и невербальные сигналы, в которые мы, человеческие терапевты, стремимся настроиться »,-добавил он.

Он был обеспокоен клиентами в возрасте 20 лет, которые используют чат -ботов в качестве «карманного терапевта». «Они испытывают беспокойство, если не проконсультируются [chatbots] На базовых вещах, например, какой кофе купить или что может учиться в колледже », – сказал он.

«Основные риски заключаются в зависимости, одиночестве и депрессии, которые могут способствовать продолжительным онлайн-отношениям»,- сказал он, добавив, что он знал о людях, которые делились темными мыслями с чат-ботами, которые отвечали с помощью самоубийства и помощи.

«По сути, это Дикий Запад, и я думаю, что мы прямо на пороге полного воздействия и последствий чат -ботов ИИ на психическое здоровье», – сказал Роллс.