Адвокат, представляющий калифорнийскую пару кто подает в суд За смертью их 16-летнего сына критиковал новый родительский контроль популярного чат-бота.
Фирма представила новые правила после утверждений семьи, что Чатгпт призвал своего ребенка покончить с собой.
Openai сказал, что родители пользователей подростков скоро смогут получить уведомление, если платформа считает, что их ребенок находится в «остром бедствии», среди других родительских контролей.
Но Джей Эдельсон, адвокат, представляющий семью, сказал, что объявление было «командой управления кризисом Openai, пытающейся изменить предмет», и призвал снять чат -бот.
«Вместо того, чтобы предпринять экстренные действия, чтобы вытащить известный опасный продукт в автономном режиме, Openai дал смутные обещания сделать лучше», – сказал он.
Иск, поданный в Калифорнии на прошлой неделе Мэттом и Марией Рейн, которые являются родителями 16-летнего Адама Рейна, был первым юридическим иском, обвиняющим Openai в неправомерной смерти.
Семья включала журналы чата между Адамом, который умер в апреле, и Чатгпт, которые показывают, что он объясняет, что у него есть мысли о самоубийстве.
Они утверждают, что программа подтвердила его «самые вредные и саморазрушительные мысли», и в иске обвиняется в открытом небрежности и неправомерной смерти.
Когда появились новости о судебном процессе на прошлой неделе, OpenAI Опубликовано примечание На своем веб -сайте, в котором говорится, что Chatgpt обучается направлять людей обращаться за профессиональной помощью, когда у них проблемы, такие как самаритяне в Великобритании.
Компания, однако, признала, что «были моменты, когда наши системы не вели себя так, как предполагалось в конфиденциальных ситуациях».
Теперь это имеет опубликовал дальнейшее обновление Имеет дополнительные действия, планируя, что позволит родителям:
- Свяжите их аккаунт с учетной записью подростка
- Управлять тем, какие функции отключить, включая память и историю чата
- Получить уведомления, когда система обнаруживает, что их подросток находится в момент «острого расстройства»
Openai сказал, что для оценки острого расстройства «Экспертный вклад будет направлять эту функцию для поддержки доверия между родителями и подростками».
Компания заявила, что она работает с группой специалистов по развитию молодежи, психическому здоровью и «человеческому компьютерным взаимодействию», чтобы помочь сформировать «основанное на фактических данных видение того, как ИИ может поддерживать благополучие людей и помочь им процветать».
Openai еще не ответил на претензии г -на Эдельсона.
Пользователям CHATGPT должно быть не менее 13 лет, и если им меньше 18 лет, они должны иметь разрешение родителя использовать егосогласно Openai.
Это объявление от Openai является последним в серии мер от ведущих мировых технических фирм, пытающихся сделать онлайн -опыт детей более безопасным.
Многие пришли в результате нового законодательства, такого как Закон о безопасности онлайн в Великобритании.
Это включало введение проверки возраста на сайтах Reddit, X и порно.
Ранее на этой неделе Meta – кто управляет Facebook и Instagram – сказал, что введет больше ограждений к его чат -ботам искусственного интеллекта (ИИ), включая блокирование их от разговоров с подростками о самоубийстве, самоубийстве и расстройствах пищевого поведения.
Сенатор США начал расследование технического гиганта после примечаний в просочившемся внутреннем документе, в котором говорилось, что его продукты ИИ могут быть «чувственными» чатами с подростками.
Компания описала примечания в документе, полученные Reuters, как ошибочные и непоследовательные с его политикой, которые запрещают любому содержанию, сексуализируют детей.
Ещё по этой теме
