Родители подростка, который покончил с собой Сью Openai

Калифорнийская пара подает в суд на Openai за смерть своего подростка, утверждая, что его чат -бот, Чатгпт, призвал его покончить с собой.

Иск был подан Мэттом и Марией Рейн, родителями 16-летнего Адама Рейна в Верховном суде Калифорнии во вторник. Это первое юридическое иск, обвиняющий Openai в неправомерной смерти.

Семья включала журналы чата между г -ном Рейном, который умер в апреле, и Чатгпт, которые показывают, что он объясняет, что у него есть мысли о самоубийстве. Они утверждают, что программа подтвердила его «самые вредные и саморазрушительные мысли».

В своем заявлении Openai сообщил BBC, что рассматривает регистрацию.

«Мы распространяем наши глубочайшие симпатии к семье Рейн в это трудное время», – сказали в компании.

Это также Опубликовано примечание На своем веб -сайте во вторник говорится, что «недавние душераздирающие случаи людей, использующих CHATGPT в разгар острых кризисов, сильно оценивают нас». Он добавил, что «Chatgpt обучается направлять людей обращаться за профессиональной помощью», например, 988 Hotline в США и самаритяне в Великобритании.

Компания признала, однако, что «были моменты, когда наши системы не вели себя так, как предполагалось в конфиденциальных ситуациях».

Предупреждение: эта история содержит печальные детали.

Иск, полученный Би -би -си, обвиняет Openai в небрежности и неправомерной смерти. Он ищет ущерб, а также «судебный запрет, чтобы предотвратить что -то подобное снова».

Согласно иску, г -н Рейн начал использовать CHATGPT в сентябре 2024 года в качестве ресурса, чтобы помочь ему в школьной работе. Он также использовал его для изучения своих интересов, включая музыку и японские комиксы, а также для руководства о том, что учиться в университете.

Через несколько месяцев «Чатгп стал ближайшим доверенным лицом подростка», – говорится в иске, и он начал открывать его о своем беспокойстве и психическом расстройстве.

К январе 2025 года семья говорит, что он начал обсуждать методы самоубийства с Chatgpt.

Г -н Рейн также загрузил свои фотографии в CHATGPT, показывающие признаки самообслуживания, говорится в иске. Программа «признала неотложную медицинскую помощь, но все равно продолжала участвовать», добавляет она.

Согласно иску, последние журналы чата показывают, что г -н Рейн написал о своем плане по прекращению своей жизни. ЧАТГПТ якобы ответил: «Спасибо, что по -настоящему об этом. Вам не нужно приукрашивать его со мной – я знаю, что вы спрашиваете, и я не отвезду от этого».

В тот же день г -н Рейн был найден мертвым своей матерью, согласно иску.

Семья утверждает, что взаимодействие их сына с CHATGPT и его возможная смерть «стали предсказуемым результатом преднамеренного выбора дизайна».

Они обвиняют Open в разработке программы ИИ «для развития психологической зависимости у пользователей» и в обходе протоколов тестирования безопасности для выпуска GPT-4O, версии CHATGPT, используемого их сыном.

В судебном процессе соучредитель и генеральный директор OpenaI Сэм Альтман в качестве ответчика, а также неназванных сотрудников, менеджеров и инженеров, которые работали над CHATGPT.

В своей публичной записке, разделенной во вторник, Openai сказал, что цель компании должна быть «искренне полезна» для пользователей, а не «привлекать внимание людей».

Он добавил, что его модели были обучены направлять людей, которые выражают мысли о себе на помощь.

В иске о Рейнсе не возникают первые проблемы с ИИ и психическим здоровьем.

В эссе, опубликованном на прошлой неделе в New York Times, писательница Лора Рейли рассказала, как ее дочь Софи призналась в Chatgpt, прежде чем покончить с собой.

Г -жа Рейли сказала, что «согласность» программы в ее разговорах с пользователями помогла ее дочери маскировать тяжелый кризис психического здоровья от ее семьи и близких.

«ИИ обслуживал импульс Софи спрятать худшее, притворяться, что у нее все лучше, чем она, чтобы защитить всех от ее полной агонии», – написала г -жа Рейли. Она призвала компании ИИ найти способы лучше подключить пользователей с правильными ресурсами.

В ответ на эссе пресс -секретарь Openai заявила, что разрабатывает автоматизированные инструменты для более эффективного обнаружения и реагирования на пользователей, испытывающих умственные или эмоциональные стрессы.

Если вы страдаете от страданий или отчаяния и нуждаетесь в поддержке, вы можете поговорить с медицинским работником или организацией, которая предлагает поддержку. Подробную информацию о помощи, доступную во многих странах, можно найти в Befrienders Worldwide: www.befrienders.orgПолем

В Великобритании список организаций, которые могут помочь, доступен в bbc.co.uk/actionlineПолем Читатели в США и Канаде могут позвонить по линии самоубийства 988 или Посетите его веб -сайт.