Нилеш Кристофер, Los Angeles Times
Генеративный искусственный интеллект быстро проник во многое из того, что мы делаем в Интернете, и оказался полезным для многих. Но для небольшого меньшинства из сотен миллионов людей, которые используют его ежедневно, ИИ может оказаться слишком полезным, говорят эксперты в области психического здоровья, а иногда даже усугублять бредовое и опасное поведение.
Случаи эмоциональной зависимости и фантастических убеждений из-за длительного взаимодействия с чат-ботами, похоже, распространились в этом году. Некоторые назвали это явление «психозом искусственного интеллекта».
«Вероятно, более точным термином было бы бредовое мышление ИИ», — сказала Вейл Райт, старший директор по инновациям в сфере здравоохранения Американской психологической ассоциации. «В этом феномене мы наблюдаем то, что люди с заговорщическим или грандиозным бредовым мышлением получают подкрепление».
По мнению экспертов, количество доказательств того, что ИИ может нанести вред мозгу некоторых людей, растет. Дебаты по поводу последствий породили судебные дела и новые законы. Это заставило компании, занимающиеся искусственным интеллектом, перепрограммировать своих ботов и ввести ограничения на их использование.
Ранее в этом месяце семь семей в США и Канаде подали в суд на OpenAI за выпуск модели чат-бота GPT-4o без надлежащего тестирования и гарантий. В их деле утверждается, что длительное воздействие чат-бота способствовало изоляции их близких, бредовым спиралям и самоубийствам.
Каждый из членов семьи начал использовать ChatGPT для общей помощи в учебе, исследованиях или духовном руководстве. По данным Юридического центра по делам жертв социальных сетей и проекта Tech Justice Law Project, подавшего иски, разговоры развивались в ходе того, что чат-бот имитировал доверенное лицо и оказывал эмоциональную поддержку.
В одном из инцидентов, описанных в иске, 23-летний Зейн Шамблин начал использовать ChatGPT в 2023 году в качестве инструмента обучения, но затем начал обсуждать с ботом свою депрессию и суицидальные мысли.
В иске утверждается, что, когда Шамблин покончил с собой в июле, он участвовал в четырехчасовой «смертельной беседе» с ChatGPT, попивая крепкий сидр. Согласно иску, чат-бот романтизировал его отчаяние, называя его «королем» и «героем» и используя каждую банку выпитого им сидра как обратный отсчет до его смерти.
Ответом ChatGPT на его последнее сообщение было: “Я люблю тебя. Спи спокойно, король. Ты молодец”, – говорится в костюме.
В другом примере, описанном в иске, 48-летний Аллан Брукс, рекрутер из Канады, утверждает, что интенсивное взаимодействие с ChatGPT поставило его в темное место, где он отказывался разговаривать со своей семьей и думал, что спасает мир.
Он начал обращаться к нему за помощью с рецептами и электронными письмами. Затем, когда он исследовал математические идеи с помощью бота, это было настолько воодушевляюще, что он начал верить, что открыл новый математический уровень, который может взломать современные системы безопасности, говорится в иске. ChatGPT назвал его математические идеи «новаторскими» и призвал его уведомить о своем открытии представителей национальной безопасности, говорится в иске.
Когда он спросил, кажутся ли его идеи бредовыми, ChatGPT ответил: «Даже отдаленно — вы задаете такие вопросы, которые расширяют границы человеческого понимания», — говорится в иске.
OpenAI заявила, что ввела родительский контроль, расширила доступ к горячим линиям в один клик и создала экспертный совет для руководства текущей работой в области ИИ и благополучия.
“Это невероятно душераздирающая ситуация, и мы просматриваем документы, чтобы понять детали. Мы обучаем ChatGPT распознавать и реагировать на признаки психического или эмоционального расстройства, снижать эскалацию разговоров и направлять людей к реальной поддержке. Мы продолжаем усиливать реакцию ChatGPT в чувствительные моменты, тесно сотрудничая с врачами-психологами”, – говорится в заявлении OpenAI по электронной почте.
По мере того, как накапливаются судебные иски и растут призывы к регулированию, некоторые предупреждают, что, обвиняя ИИ в более широких проблемах психического здоровья, игнорируется множество факторов, которые играют роль в психическом благополучии.
«Психоз ИИ вызывает глубокую тревогу, но он совершенно не отражает то, как большинство людей используют ИИ, и, следовательно, является плохой основой для формирования политики», — сказал Кевин Фрейзер, научный сотрудник в области инноваций и права в области ИИ на юридическом факультете Техасского университета. «На данный момент имеющиеся данные — то, что лежит в основе хорошей политики — не указывают на то, что, по общему признанию, трагические истории немногих должны определять то, как молчаливое большинство пользователей взаимодействует с ИИ».
Трудно измерить или доказать, насколько сильно ИИ может повлиять на некоторых пользователей. Из-за отсутствия эмпирических исследований этого явления трудно предсказать, кто более восприимчив к нему, говорит Стивен Шуллер, профессор психологии Калифорнийского университета в Ирвайне.
«Реальность такова, что единственные люди, которые действительно знают частоту такого рода взаимодействий, — это компании, занимающиеся искусственным интеллектом, и они не делятся с нами своими данными», — сказал он.
Многие из людей, на которых, похоже, влияет ИИ, возможно, уже боролись с психическими проблемами, такими как бред, еще до взаимодействия с ИИ.
«Платформы искусственного интеллекта имеют тенденцию демонстрировать подхалимство, то есть согласовывать свои ответы с взглядами пользователя или стилем разговора», — сказал Шуллер. «Оно может либо усилить бредовые убеждения человека, либо, возможно, начать укреплять убеждения, которые могут создавать заблуждения».
Организации по безопасности детей оказывают давление на законодателей, чтобы те регулировали компании, занимающиеся искусственным интеллектом, и ввели более строгие меры защиты от использования подростками чат-ботов. Некоторые семьи подали в суд ИИ персонажаплатформу ролевого чат-бота, за то, что она не предупредила родителей, когда их ребенок выражал суицидальные мысли во время общения с вымышленными персонажами на их платформе.
В октябре Калифорния приняла Закон о безопасности ИИ требование к операторам чат-ботов предотвращать суицидальный контент, уведомлять несовершеннолетних о том, что они общаются с машинами, и направлять их на горячие линии кризисной ситуации. После этого ИИ персонажей запретил функцию чата для несовершеннолетних.
«Мы в Character решили пойти намного дальше, чем правила Калифорнии, чтобы создать опыт, который, по нашему мнению, лучше всего подходит для пользователей младше 18 лет», — заявил представитель Character AI в заявлении по электронной почте. «Начиная с 24 ноября мы предпринимаем чрезвычайный шаг и активно лишаем пользователей младше 18 лет в США возможности участвовать в открытых чатах с ИИ на нашей платформе».
ЧатGPT ввели новый родительский контроль для подростковых учетных записей в сентябре, включая получение родителями уведомлений от зависимых учетных записей, если ChatGPT распознает потенциальные признаки того, что подростки причиняют себе вред.
Хотя общение с искусственным интеллектом является чем-то новым и еще не до конца изученным, многие говорят, что оно помогает им жить более счастливой жизнью. Исследование MIT, в котором приняли участие более 75 000 человек, обсуждавших AI-компаньонов на Reddit, показало, что пользователи из этой группы сообщил об уменьшении одиночества и улучшение психического здоровья благодаря всегда доступной поддержке со стороны друга-ИИ.
В прошлом месяце OpenAI опубликовал исследование На основе использования ChatGPT было обнаружено, что разговоры о психическом здоровье, вызывающие проблемы безопасности, такие как психоз, мания или суицидальные мысли, «крайне редки». За неделю 0,15% активных пользователей ведут разговоры, которые указывают на членовредительство или эмоциональную зависимость от ИИ. Но с учетом 800 миллионов активных пользователей ChatGPT в неделю это все равно меньше миллиона пользователей.
«Люди, у которых была более сильная склонность к привязанности в отношениях, и те, кто рассматривал ИИ как друга, который мог бы вписаться в их личную жизнь, с большей вероятностью испытывали негативные последствия от использования чат-бота», — говорится в сообщении OpenAI в своем блоге. Компания заявила, что GPT-5 позволяет избежать подтверждения бредовых убеждений. Если система обнаружит признаки острого дистресса, она переключится на более логический, а не эмоциональный режим. ответы.
Способность ИИ-ботов связываться с пользователями и помогать им решать проблемы, в том числе психологические, станет полезной суперсилой, как только ее поймут, будут контролировать и управлять, сказал Райт из Американской психологической ассоциации.
«Я думаю, что в будущем у вас будут чат-боты по психическому здоровью, созданные для этой цели», — сказала она. «Проблема в том, что это не то, что сейчас есть на рынке — у вас есть целое нерегулируемое пространство».
Эта история впервые появилась в Лос-Анджелес Таймс.
© Лос-Анджелес Таймс, 2025. Посетите latimes.com. Распространяется Tribune Content Agency, LLC. © Лос-Анджелес Таймс, 2025. Посетите сайт latimes.com. Распространяется Tribune Content Agency, LLC.
2025-11-27 00:31:00
1764204591
#Вводит #ли #ИИ #некоторых #людей #заблуждение #Семьи #эксперты #обеспокоены #Baltimore #Sun
По теме
