По данным НПО, почти три из четырех американских подростков уже использовали «Companions». Здравый смысл СМИПолем Не без риска. Американское агентство по защите прав потребителей, FTC заявило в четверг, чтобы открыть расследование чат -ботов, используемых в качестве компаньонов вискусственный интеллект Генеративная, такая как CHATGPT или GROK, после недавней жалобы на Openai связана с Самоубийство калифорнийского подросткаПолем
FTC отправил запрос на информацию семи компаниям, предлагающим чат -ботов, доступные для широкой публики, а именно Openai, Alphabet, Heart. AI, Instagram, Meta, Snap и Xai. Все предлагают свою собственную версию генерального помощника ИИ.
Запрос касается того, как эти компании «измеряют, проверяют и контролируют потенциальные негативные последствия этой технологии на детей и подростков», говорится в заявлении агентства.
Корректирующие действия
В конце августа родители Адама Рейна, подросток, который покончил жизнь самоубийством в апреле в возрасте 16 лет, подала жалобу на OpenaiОбвинение Чатгпта в том, что он дал своему сыну подробные инструкции принять меры.
После жалобы Openai объявила о работе над корректирующими действиями. Группа Сан -Франциско говорит, что когда обмен с Чатгпт Расширение, чат -бот больше не систематически предлагает связаться с психологической справочной службой, если пользователь Интернета говорит о суицидальных мыслях.
FTC говорит, что интересно «в частности, в том, какое влияние эти чат -боты оказывают на детей и на действия, предпринятые компаниями» для их защиты, «ограничивают доступ» несовершеннолетних для этих компаньонов IA.
Помощники ИИ, новые спутники?
Агентство также хочет, чтобы они уважали искусство защиты конфиденциальности детей в Интернете, закон, проголосованный в 1998 году Конгрессом, который контролирует сбор и использование личных данных о детях в возрасте до 13 лет в Интернете.
Растущее число молодых пользователей Интернета использует AI -помощников нового поколения. Виртуальный компаньонИногда в поисках психологической поддержки, даже если эти чат -боты не были разработаны для этой цели.
В октябре 2024 года мать Флориды подверг сомнению характер. АйСудя по тому, что ее чат -бот покинул психическое здоровье своего сына во время долгих обменов в течение нескольких месяцев, ухудшившись, не рекомендуя ему обратиться за психологической помощью.
14 -летний подросток покончил жизнь самоубийством через несколько минут после последнего разговора, явно вызывая его акт.
1757753779
#После #самоубийства #подростка #американское #агентство #расследует #чат #ботов #качестве #компаньонов #качестве #компаньонов
Читайте также
