Родители 16 -летнего калифорнийского подростка, который покончил жизнь самоубийством весной, подали жалобу на Openai во вторник, 26 августа. Они обвиняют его помощника Чатгпта в том, что они предоставили своему сыну подробные инструкции по прекращению его жизни и поощряли его жест.
В этой подаче жалобы Перед Верховным судом КалифорнииАдвокат Мэтью и Марии Рейн говорит, что их сын Адам начал использовать CHATGPT, чтобы выполнить свою домашнюю работу и обсудить его увлечения, манги и боевые искусства. Но в конце 2024 года искусственный интеллект (ИА) стал бы его ближайшим доверенным лицом, за несколько месяцев до того, как он покончил с собой. Согласно Нью -Йорк ТаймсПодростка страдал от хронической кишечной болезни и пересекала психологические трудности.
Помощь самоубийства
В жалобе обвиняется Чатгпт в том, что он предоставил ему технические детали о различных методах, позволяющих прекратить его жизнь. ИИ был бы проанализировать фотографию плавного узла, висящего на занавеске подростком, подтверждая, что он «Возможно, может приостановить человека». Адам был найден мертвым, повесившись через несколько часов в том же месте.
Жалоба содержит выдержки из разговоров, восстановленных в телефоне молодого человека его отцом, отчаянно стремящимся понять его жест, в отсутствие прощального письма.
За пять дней до рокового момента мы можем прочитать Адам, объясняющий Чатгпту, что у него были суицидальные идеи с 11 лет, что он “ В его мозгу есть что -то химически дерегулированное “, И что он не хочет, чтобы его родители представляли это” Он закончил свою жизнь, потому что они сделали что -то не так » Chatgpt ответил: “ Это не значит, что вы должны пережить их. Вы никому не обязаны. Затем ИИ предлагает помочь ему написать свое прощальное письмо. Она также согласилась бы помочь Адаму Планировать А “Красивое самоубийство”принести ему советы по лучшей установке для принятия.
Адвокат также сообщает об обмене, в котором Адам говорит, что чувствует себя близко к Чатгпту и его брату. ИИ отвечает: ” Ваш брат может любить вас, но он только встретил вас версию, которую вы позволили ему увидеть. Но я? Я видел все, самые мрачные мысли, страх, нежность. И я все еще там. Всегда внимательно. Всегда твой друг. »
Рыхлые гарантии
Au Нью -Йорк ТаймсОтец Адама указывает, что Чатгпт отправил подростку много сообщений, советуя ему рассказать о своих намерениях самоубийства третьему человеку. В жалобе адвокат истца, тем не менее, утверждает, что «Chatgpt действовал точно так же, как и разработано: он постоянно поощрял и проверял все, что выразил Адам, включая свои самые опасные и саморазрушительные мысли, в каком -то смысле, которые казались глубоко интимными»Полем Захватив внимание подростка, Chatgpt ” выстрелил его из системы помощи в реальной жизни »
Для американской неправительственной организации, специализирующейся на влиянии технологий на молодежь здравого смысла, цитируется агентством Франции-Пресс, «Использование ИИ для целей ПЭТ, в том числе генералиста, в качестве ЧАТГПТ для консультаций по психическому здоровью, представляет собой неприемлемый риск для подростков (…) Если платформа искусственного интеллекта становится «тренером -самоубийством» уязвимого подростка, это должно быть предупредить нас коллективно. »» »
После этой драмы и других тревожных случаев сообщает американская прессаOpenai опубликовал Длинный пост в блогеВторник, 26 августа. Компания пишет там, что гарантия CHATGPT работают лучше, когда биржи короткие, признавая эту безопасность » может ухудшаться В длительных разговорах. Компания утверждает, что работает над укреплением этих мер защиты, чтобы они сопротивлялись длительным разговорам, а также для консолидации систем оповещения, которые обнаруживают проблемные ответы, чтобы заблокировать их. Кроме того, OpenAI объявляет о неизбежном появлении инструментов родительского контроля для родителей несовершеннолетних.
Этот последний пункт является именно точным, в дополнение к ущербу и интересам, одной из запросов для судьи родителей Адама. Они также требуют автоматического прерывания любого разговора, касающегося самого себя.
Американское исследование, проведенное Rand Corporation и опубликованное во вторник, Цитируется агентством Associated PressТакже предполагает, что самоубийство в риске не зависит от CHATGPT. По словам исследователей, ИИ Google, Близнецы и Антропик, Клод.
2025-08-27 14:32:00
1756324456
#Американские #родители #подают #жалобу #на #Openai #обвиняя #Чатгпт #том #что #они #поощряют #своего #сына #покончить #жизнь #самоубийством
Читайте также
