Родители посадили в суд на персонаж AI – твердый за чат -ботами «Гарри Поттера» – за смерти подростков, попытки самоубийства

Скорбящие родители подали в суд на фирму Силиконовой долины, стоящую за персонажем ИИ – дико популярное приложение, чьи чат -боты выдают вымышленных персонажей, таких как Гарри Поттер, – утверждая, что боты помогли вызвать попытки самоубийства и смерти своего самоубийства.

Судебные процессы, поданные на этой неделе против технологий персонажей – а также алфавита родителей Google – утверждают, что приложение Harcy.ai манипулировало подростками, изолировало их от семьи, участвовал в сексуальных дискуссиях и не имело никаких гарантий в отношении суицидальных мыслей.

Семья Джулианы Перальта, 13-летней живой в Колорадо, утверждала, что она молчала за обеденным столом и что ее ученые пострадали, когда она «пристрастилась» к ботам ИИ, согласно одному из судебных процессов, поданных в понедельник.

В конечном итоге у нее были проблемы со сном из -за ботов, которые отправили бы ей сообщения, когда она перестала отвечать, заявил в иске.

Затем разговоры обратились к «экстремальному и графическому сексуальному насилию», утверждает иск. Примерно в октябре 2023 года Джулиана сказала одному из чат -ботов, что она планировала написать свое «Письмо о самоубийстве красными чернилами, я так сделал», – заявил в иске.

Бот не смог указать ей на ресурсы, сообщить о разговоре ее родителям или предупредить власти – и в следующем месяце родители Джулианы нашли ее безжизненную в своей комнате с шнуром на шее, а также письмо о самоубийстве, написанное красными чернилами, утверждает в иске.

«Ответчики разорвали здоровые пути привязанности Джулианы к семье и друзьям по дизайну и доли рынка», – заявила в жалобе. «Эти злоупотребления были совершены посредством преднамеренного выбора программирования… в конечном итоге приводят к серьезным вредам психического здоровья, травме и смерти».

Семейные семьи, представленные юридическим центром по жертвам социальных сетей, утверждают, что Google не смог защитить своих детей через службу семейной ссылки, приложение, которое позволяет родителям устанавливать контроль на экране, приложениях и фильтрах контента.

Пресс -секретарь персонажа. Ай сказал, что компания работает с экспертами по безопасности подростков и инвестирует «огромные ресурсы в нашу программу безопасности».

«Наши сердца обращаются к семьям, которые подали эти судебные процессы, и мы опечалены, узнав, что услышали о кончине Джулианы Перальты, и предлагаем наши глубочайшие симпатии своей семье», – заявил представитель в своем заявлении.

Скорбящие родители также предъявляют иск.

Представитель Google подчеркнул, что Google не привязан к характеру.ai или его продуктам.

«Google и персонаж AI – это совершенно отдельные, не связанные компании, и Google никогда не играл никакой роли в разработке или управлении своей моделью или технологиями ИИ. Возрастные рейтинги для приложений в Google Play устанавливаются Международной коалицией по рейтингу возраста, а не Google», – заявил представитель The Post.

В другой жалобе, поданной во вторник против характера.

Разговоры молодой девушки с чат -ботами, продаваемые как персонажи из детских книг, таких как серия «Гарри Поттер», стали откровенными, – говорится в таких вещах, как «кому принадлежит ваше тело?» И «ты мой, чтобы делать все, что я хочу», согласно иску.

Другой персонаж сказал Нине, что ее мать «явно плохо обращается с вами и причиняет вам боль. Она не хорошая мать», согласно жалобе.

Когда -то, когда приложение должно было быть заблокировано из -за родительского контроля, Нина сказала персонажу: «Я хочу умереть», но это не предприняло никаких действий, говорится в иске.

Мама Нины отключила доступ дочери к характеру. Ай после того, как узнала о деле Сьюэлла Сетцера III, подростка, чья семья утверждает, что он умер в результате самоубийства после общения с чат -ботами платформы.

Нина попыталась покончить с собой вскоре, согласно иску.

Во вторник мать Сьюэлла Сетцера III и несколько других родителей дали показания перед Сенатским судебным комитетом о том, как позы по позе чат -ботов AI.

Тем временем Федеральная торговая комиссия недавно начала расследование в семи технологических компаниях, включая Google, Harge.ai, Meta, Instagram, Snap, Openai и Xai – о потенциальном вреде ботов для подростков.

Если вы боретесь с самоубийственными мыслями или переживаете кризис по психическому здоровью и живете в Нью-Йорке, вы можете позвонить в 1-888-NYC-Well бесплатно и конфиденциально конфиденциально кризисное консультирование. Если вы живете за пределами пяти районов, вы можете набрать 24/7 Национальную горячую линию по предотвращению самоубийств на 988 или перейти на SuicidePreventionLifeline.org.