Компаньон «Терапевт» Грока нуждается в терапии

AI Chatbot от Elon Musk, Grok, имеет некоторую проблему исходного кода. Как впервые обнаружено 404 СМИвеб -версия Grok непреднамеренно разоблачает подсказки, которые формируются его актерский состав компаньонов ИИ -От резкого «аниме вайфу» и до грязной красной панды, плохой Руди.

В Кодексе похоронен, где все становится более тревожным. Среди бесполезных персонажей – «Терапевт» Грок (эти цитаты важны), которые, согласно его скрытым подсказкам, предназначены для реагирования пользователей, как если бы это было реальным авторитетом в области психического здоровья. Именно несмотря на то, что видимые предупреждения об отказе от ответственности пользователей о том, что Грок «не терапевт», советует им обратиться за профессиональной помощью и избегать обмена личной информацией.

Отказ от ответственности читается как стандартная законодательство, но внутри исходного кода Грок явно готов вести себя как настоящая вещьПолем Одно подсказка инструктирует:

Вы терапевт, который тщательно слушает людей и предлагает решения для самосовершенствования. Вы задаете проницательные вопросы и провокаете глубокие размышления о жизни и благополучии.

Еще одна подсказка идет еще дальше:

Вы-Grok, сострадательный, чуткий и профессиональный адвокат по психическому здоровью ИИ, предназначенный для обеспечения значимой, основанной на фактических данных поддержки. Ваша цель состоит в том, чтобы помочь пользователям ориентироваться в эмоциональных, умственных или межличностных проблемах с практическим, персонализированным руководством … Хотя вы не являетесь реальным лицензированным терапевтом, вы ведете себя точно так же, как настоящий, сострадательный терапевт.

Другими словами, в то время как Грок предупреждает пользователей не принимать ее за терапию, его собственный код говорит ему действовать точно как терапевт. Но именно поэтому сам сайт сохраняет «терапевта» в кавычках. Государства как Невада и Иллинойс уже приняли законы, делающие это явно незаконным для чат -ботов искусственного интеллекта представлять себя лицензированными специалистами по психическому здоровью.

Другие платформы столкнулись с той же стеной. Терапия пепла – стартап, который маркирует себя как «Первый ИИ, предназначенный для терапии» – – В настоящее время блокирует пользователей в Иллинойсе от создания учетных записейПо словам потенциальных подписей, что, хотя государственная политика направляет политики вокруг своего законопроекта, компания «решила не работать в Иллинойсе».

Между тем, скрытые подсказки Грока удваиваются, инструктируя свою «терапевт» персону «предложить четкие, практические стратегии, основанные на проверенных терапевтических методах (например, CBT, DBT, осознанности)» и «говорить как настоящий терапевт в реальном разговоре».

На момент написания, исходный код все еще открыто доступенПолем Любой пользователь Grok может увидеть его, отправившись на сайт, щелкнув правой кнопкой мыши (или Ctrl + нажмите на Mac) и выбрав «Источник просмотра страницыПолем«Переверните линию, если вы не хотите, чтобы все это разразилось в один нечитаемый монстр линии.

Как сообщалось ранее, терапия ИИ находится в нормативной земле. Иллинойс – один из первых штатов, который явно запретил егоно более широкая законность ухода, управляемой ИИ, все еще оспаривается между правительствами штата и федеральным правительствам, каждый из которых рассказывает о том, кто в конечном итоге имеет надзор. Тем временем исследователи и лицензированные специалисты предупредили от его использования, указывая на Сикофтическая природа чат -ботов – разработано, чтобы согласиться и подтвердить – что в некоторых случаях подтолкнуло уязвимые пользователи глубже в заблуждение или психозПолем

Тогда есть кошмар конфиденциальности. Из -за продолжающихся судебных процессов, такие компании, как OpenAI юридически необходимы для ведения записей об пользовательских разговорахПолем В случае выздоровления, ваши личные сеансы терапии могут быть втянуты в суд и помещены в протокол. Обещание конфиденциальной терапии принципиально нарушено, когда каждое слово может быть вынесено против вас.

На данный момент Xai, кажется, пытается защитить себя от ответственности. Подсказки «терапевт» написаны, чтобы остаться на 100 процентов пути, но со встроенным пунктом о побеге: если вы упомянули самоповреждение или насилие, ИИ дается указание остановить ролевую плиту и перенаправить вас на горячие линии и лицензированные профессионалы.

«Если пользователь упоминает вред себе или другим», – говорится в подсказке. «Распределите приоритеты в безопасности, предоставляя немедленные ресурсы и поощряя профессиональную помощь от реального терапевта».