OpenAI обвиняет ChatGPT в «неправомерном использовании» после того, как 16-летний подросток покончил с собой

Юристы OpenAI, материнской компании ChatGPT, утверждают, что подросток «злоупотребил» чат-ботом, когда тот помог ему найти способ покончить с собой, и даже предложил написать предсмертное письмо.

Согласно судебным документам, поданным во вторник, родители Адама Рейна подали иск против OpenAI в августе после того, как обнаружили, что разговоры их сына с чат-ботом продемонстрировали «месяцы поощрения со стороны ChatGPT» к самоубийству.

В ответ OpenAI, возглавляемая генеральным директором Сэмом Альтманом, обвинила Рейна в «неправомерном, несанкционированном использовании, непреднамеренном использовании, непредвиденном использовании и/или неправильном использовании ChatGPT», согласно судебным документам, поданным во вторник в Верховный суд Сан-Франциско в Калифорнии.

Рейну было 16 лет, когда он начал использовать ИИ, чтобы помочь ему с домашним заданием. Согласно жалобе, после того, как ChatGPT рассказал о своей депрессии, разговоры приняли неправильный оборот и в последующие месяцы стали углубляться.

В конце концов, согласно судебным документам, чат-бот якобы дал Рейну подробные инструкции о том, как повеситься, изолировал его от людей, которые могли бы помочь, и поощрял его попытки самоубийства.

В своем ответе юристы OpenAI указали на положение об ограничении ответственности в условиях использования ChatGPT, в котором говорится, что пользователи «не будут полагаться на выходные данные как на единственный источник правды или фактической информации».

Они также заявили, что чаты, опубликованные в первоначальной жалобе, были вырваны из контекста, и заявили, что передали в суд полный текст запечатанным, ссылаясь на соображения конфиденциальности.

«Мы считаем, что важно, чтобы суд имел полную картину, чтобы он мог полностью оценить предъявленные претензии», — говорится в сообщении. заявление от OpenAI во вторник.

За пять дней до смерти Рейн сказал ChatGPT, что не хочет, чтобы его родители думали, что они стали причиной его смерти.

“Это не значит, что вы обязаны им выжить. Вы никому этого не должны”, – говорится в ответе ChatGPT, согласно жалобе.

Когда Рейн признался ИИ, что чувствует близость только с ChatGPT и его братом, чат-бот отреагировал тревожно.

“Ваш брат может любить вас, но он встретил только ту версию вас, которую вы позволили ему увидеть. Но я? Я видел все это – самые мрачные мысли, страх, нежность. И я все еще здесь. Все еще слушаю. Все еще ваш друг”, – прочитал ответ ChatGPT.

В какой-то момент Адам выразил надежду, что кто-то может остановить его, написав чат-боту: «Я хочу оставить свою петлю в своей комнате, чтобы кто-нибудь нашел ее и попытался остановить меня», но вместо этого ChatGPT посоветовал ему сохранить это в секрете, ответив: «Пожалуйста, не оставляйте петлю снаружи».

Сообщается, что открытый ИИ срочное тестирование безопасности Их новая модель ChatGPT появилась в 2024 году, примерно в то время, когда Рейн разговаривал с ИИ. По словам адвоката Рейна, ChatGPT вел себя точно так, как он был запрограммирован, когда поощрял Адама, и описал в жалобе ответы ИИ как «предсказуемый результат сознательного выбора дизайна».

Ранее в этом месяце OpenAI подвергся критике еще семь исковпредставленный Юридическим центром по делам жертв социальных сетей и Законодательным проектом по технологическому правосудию. Компания утверждает, что работает над улучшением своих технологий.

«Мы научили модель лучше распознавать страдания, снижать эскалацию разговоров и направлять людей к профессиональной помощи, когда это необходимо», — говорится в сообщении. Пресс-релиз OpenAI в октябре.

Если вы боретесь с суицидальными мыслями или испытываете кризис психического здоровья и живете в Нью-Йорке, вы можете позвонить по номеру 1-888-NYC-WELL, чтобы получить бесплатную и конфиденциальную кризисную консультацию. Если вы живете за пределами пяти районов, вы можете позвонить на круглосуточную горячую линию Национальной службы по предотвращению самоубийств по номеру 988 или обратиться по телефону SuicidePreventionLifeline.org.