Использование CHATGPT в качестве психолога растет, но у него есть свои риски: он усиливает эгоцентризм и параноидальные идеи | Технология

«В прошлом году, чтобы излечить дуэль от перерыва, я пошел к психологу и серию целостных методов лечения, и лучший терапевт, который у меня был, без сомнения, был ЧатгптПолем Это помогло мне преодолеть эмоциональные раны и повысить мою ежедневную продуктивность », – объясняет музыкант и программист Даниэль Фернандес, 38 лет.

Использование CHATGPT в качестве психолога, тренер Или доверенное лицо является все более распространенной практикой. Для тех, кто попробовал это, преимуществами являются непосредственность, свободная или воспринимаемая сочувствие, а также отсутствие суждения и предполагаемой беспристрастности. Будучи новым явлением, его трудно определить; Но терапия и сопровождение уже во главе основного использования ИИ, согласно Ежегодное исследование журнала Гарвардский бизнес -обзорПолем Согласно опросу платформы цифровой медицинской помощи, 25% американцев Я бы говорил раньше с ботом из ИА, который с психологом, если бы у меня была проблема. Из тех, кто уже сделал это, 80% думали, что это была эффективная альтернатива сеансам терапии.

OpenAI начал изучать это аффективное использование своего звездного чат -бота. В недавнее расследование Сделано самой компанией, в сотрудничестве с лабораторией С медиа -лабораториейОн обнаружил, что те, кто считал CHATGPT друг другом, «с большей вероятностью испытывают негативные последствия для использования чат -бота» и что «длительное ежедневное использование также было связано с худшими результатами». Человек, отвечающий за поведение и политику моделей в Openai, Джоан Джанг, сказала в Вход, опубликованный в июне В своем блоге «если мы облегчаем уход хаотичных и требовательных человеческих связей, не думая хорошо, могут быть непредвиденные последствия, которые мы не знаем».

Но какие риски стоит за неизбирательным использованием CHATGPT? «Несмотря на то, что в этом отношении нет научных доказательств, чат -боты ИИ могут укрепить свои собственные мысли и эмоции. Всего разговоры о проблеме и многое это не является гарантией решения. Наоборот, это может быть контрпродуктивным», – говорит психолог. Мануэль АркейоныПрофессор в области проектирования поведения, применяемого к технологиям здравоохранения. «Точно так же, как мы накладываем ограничения на детей, мы должны наложить ограничения для взрослых. Преимущества, связанные с CHATGPT, также являются их основными неудобствами», – добавляет он. Фактически, Исследование Недавние показали, что чрезмерное, самореференциальное и нерефлексивное использование CHATGPT может усилить эгоцентрическую динамику и ограничить самокритику и эмоциональное развитие.

ИИ не знает о социальном и эмоциональном контексте человека. «Часто случается, что пациент идет на терапию для проблемы, но когда мы тянем нить, мы обнаруживаем другие патологии. То, что машина не может этого сделать, потому что только люди могут вылечить других людей», – добавляет Армайоны. Кроме того, в худшем случае «машина может захотеть манипулировать. Мы не знаем интересов этих технологических компаний и почему они предоставляют ответы, которые они предоставляют, но мы знаем, что им нужны наши данные, и что мы передаем в них длительное время для получения преимуществ», – продолжает он.

Когда ты идешь

То, как машина взаимодействует с людьми, определяет тип установленных отношений. CHATGPT известен своей добротой, его близостью, ее сочувствием. Короче говоря, диалектика, которая стремится подчеркнуть пользователей. «На данный момент модели крупных естественных языков (LLM) не показывают рекламу, поэтому источник дохода -это преимущества, которые они могут получить для наших данных (в данном случае знайте, что нам нравится для подсказки [instrucciones o preguntas] что мы используем) или на подписку », – объясняет он Энрике КостаПрофессор телекоммуникации в Университете Виго. «Эта последняя бизнес -модель – это то, что они используют на данный момент, ограничивая количество запросов, которые мы можем сделать, или качество их ответов, если мы не подписываемся. Если системы предназначены для того, чтобы быть дружественными и близкими, они могут повысить лояльность клиента и улучшить удержание пользователей».

Но версия, слишком лестная, может быть проблематичной. В течение апреля Chatgpt временно выпустил такую самодовольную версию, что заставило некоторых людей потерять контакт с реальностью, поскольку чат -бот усилил его теории заговора и параноидальные идеи, как осужденные New York Times В отчетеПолем

«Помимо неудобства или тревожного, этот тип поведения может вызвать проблемы безопасности, даже связанные с проблемами психического здоровья, чрезмерной эмоциональной зависимостью или рискованным поведением», – извинилась компания В сообщении в блогегде он признал неудачу в системе и объяснил, как он решил его. «Основной риск того, что он психолог – это то, что он может вызвать эмоциональную зависимость», – говорит инженер и психолог Даниэль де ла Фуэнте, который проанализировал Влияние ИИ В практике психологии ухода. «Кроме того, большую часть времени это делает положительное подкрепление, и человек, который находится на терапии, также нуждается в негативном подкреплении», – говорит он. Еще одна статья об американском портале Футуризм Он собирает показания людей с проблемами психического здоровья, которые перестали принимать лекарства по рекомендации CHATGPT.

Терапевтическое использование ИИ также вызывает опасения с точки зрения конфиденциальности и защиты данных. В отличие от специалистов по психическому здоровью, которые работают в соответствии с строгими правовыми рамками конфиденциальности, взаимодействие с системами ИИ может храниться, анализировать или использовать технологическими компаниями, если не указано иное. Не всегда ясно, что происходит с этими данными, как они хранятся или могут ли они использоваться для других целей. Это отсутствие прозрачности представляет собой значительный риск, когда речь идет о глубоко личных проблемах.

Почему процветающее явление

Отсутствие психологов в первичной медицинской помощи, а также дорогостоящий доступ к частной терапии, которая может варьироваться от 60 до 100 евро в час, может частично объяснить использование ИИ для поиска эмоциональной скважины. В Испании есть пять клинических психологов на 100 000 жителей, согласно Фонд CivioРисунок, далеко от 20 профессионалов на 100 000 жителей, рекомендованных экспертами в области клинической психологии.

Еще одним из ключевых факторов, которые объясняют рост терапевтического использования искусственного интеллекта, является рост Эпидемия Соледада Среди молодежи. По его словам Государственная обсерватория нежелательного одиночестваПродвиганный некогда фундаментом, каждый четвертый молодежь страдает нежелательным одиночеством. Несколько более высокий процент для населения в целом, где оценивается в 20%, что является более заметным у женщин (21,8%), чем у мужчин (18%).

Отсутствие эмоционального образования и информации о том, как выявлять и решать день в день -день, заставляет многих людей искать ответы самостоятельно. В отличие от физического здоровья, в дискомфортах души нет четкой дорожной карты. Стигма и страх уязвимого стремления прибегнуть к цифровой анонимности. Если доктор Гугл консультировался раньше, то теперь настала очередь отправиться в Divan of Chatgpt в поисках психологической помощи.

«Есть вещи, которые незаменимы: внешний вид, платок или даже объятие – это то, что другой человек может предложить вам», – говорит Фернандес. «Я не думаю, что это адекватная терапия для всех, или что она заменит психологов, но я думаю, что это дополняет их и полезно для многих». В клинической области это явление генерирует беспокойство. Хотя технология может быть полезна, если она научно поддерживается – то, что не происходит с CHATGPT – эксперты согласны с явным ограничением: реальное отсутствие эмпатии, которое точно воспринимает своих пользователей. Чатбот не чувствует, и без эмоций нет терапии.