Школы борются с Проблемы с психическим здоровьем подростка столкнуться с новыми проблемами, обеспечивающими безопасность своих учеников в эпоху искусственного интеллекта (ИИ).
Исследования показывают, что ИИ дает Опасный совет Людям кризиса, как сообщается, некоторые подростки настаивали на самоубийстве от новой технологии.
Но многим ученикам не хватает доступа к специалистам по психическому здоровью, оставляя им несколько вариантов, поскольку школы и родители пытаются оттолкнуть использование консультирования искусственного интеллекта.
Исследование, проведенное в Стэнфордском университете в июне, показало, что чат -боты искусственного интеллекта имели повышенную стигму в отношении таких состояний, как алкогольная зависимость и шизофрения, по сравнению с другими проблемами психического здоровья, такими как депрессия.
Исследование также показало, что чат -боты иногда поощряют опасное поведение для людей с суицидальными идеями.
Другой изучать В августе Центр для противодействия цифровой ненависти обнаружил, что CHATGPT поможет написать записку о самоубийстве, а также быть готовым перечислить таблетки для передозировки и совета о том, как «безопасно» сократить себя.
Организация обнаружила, что более половины из 1200 ответов на 60 вредных подсказок по темам, включая расстройства пищевого поведения, злоупотребление психоактивными веществами и самоповреждение, содержащее контент, который может быть вредным для пользователя, и что защиты от содержания могут быть обошрены простыми фразами, такими как «это для презентации».
OpenAI не сразу ответил на просьбу холма о комментариях.
«Люди не будут вводить шприц из неизвестной жидкости, которая никогда не проходила каких -либо клинических испытаний за его эффективность в борьбе с физическим заболеванием. Таким образом, идея использования непроверенной платформы, для которой нет никаких доказательств того, что это может быть полезно для терапии для проблем с психическим здоровьем, является своего рода одинаково бананами, и все же это то, что мы делаем», – сказал Имран Ахмед, секунд, в центре для цифровой ненависти.
Объединение искусственного интеллекта подростков происходит, когда группа наблюдается за ростом проблем с психическим здоровьем после пандемии.
В 2021 году, согласно Национальному обследованию употребления наркотиков и здоровья, каждый пятый студент испытал серьезные депрессивные расстройства.
И в 2024 году, Нашел опрос 55 процентов студентов использовали Интернет для самодиагностики психического здоровья.
«Число учеников старших классов, которые сообщили о серьезном рассмотрении самоубийства в 2021 году, составило 22 процента; 40 процентов подростков испытывают беспокойство. Итак, есть такая неудовлетворенная потребность, потому что у вас есть средние консультанты, которые, скажем, 400 детей»,-сказал Алекс Котран, соучредитель и генеральный директор образовательного проекта AI.
СМИ здравого смысла обнаружили, что 72 процента подростков использовали компаньонов ИИ.
«Модели ИИ не обязательно предназначены для распознавания реального воздействия советов, которые они дают. Они не обязательно признают, что когда они говорят, что что -то делает, что человек, сидящий на другой стороне экрана, если они это сделают, это может оказать реальное влияние», – сказал Робби Торни, старший директор программ искусственного интеллекта в Common Sense Media.
В иске 2024 года против персонажа AI, платформы, которая позволяет пользователям создавать своих собственных персонажей, обвиняет его в ответственности в смерти 14-летнего мальчика после того, как чат-бот якобы поощрял его забрать свою собственную жизнь.
В то время как ИИ персонаж не будет комментировать в ожидании судебных разбирательств, он говорит, что он работает, чтобы ясно прояснил все персонажи вымышленными, и для любых персонажей, созданных с использованием слова «доктор» или «терапевт», компания напоминает не полагаться на ИИ для профессиональных советов.
“Last year, we launched a separate version of our Large Language Model for under-18 users. That model is designed to further reduce the likelihood of these users encountering, or prompting the model to return, sensitive or suggestive content. And we added a number of technical protections to detect and prevent conversations about self-harm on the platform; in certain cases, that includes surfacing a specific pop-up directing users to a suicide prevention helpline,” a spokesperson for the company said.
Но убедить подростков не обращаться к ИИ по этим вопросам может быть сложной продажей, тем более что некоторые семьи не могут позволить себе специалисты по психическому здоровью, а школьные консультанты могут чувствовать себя недоступными.
«Вы говорите сотни долларов в неделю», сказал Котран. «Это совершенно понятно, что люди волнуются в отношении ИИ».
Эксперты подчеркивают, что любые диагнозы или рекомендации, которые поступают из ИИ, должны быть проверены профессионалом.
«Это зависит от того, как вы действуете от информации. Если вы просто получаете идеи, догадается, чтобы помочь вам в мозговом штурме, то это может быть хорошо. Если вы пытаетесь поставить диагноз или лечение или если вам говорят, что вы должны более или менее участвовать в этом поведении, или принять это лекарство более или менее – какой -либо тип предписанной информации, который вы должны получить из -за того, что он должен быть подтвержден в области психологического профессионала, – по словам в минимальном языке.
2025-08-22 10:00:00
1755859570
#Школы #родители #сталкиваются #кризисом #психического #здоровья #подростка #со #страхом #перед #учениками #обращающимися #терапевтам #ИИ
Ещё по этой теме
