Во вторник родители призвали к ограждениям в чат-ботах искусственного интеллекта (ИИ), когда они давали показания перед сенатом о том, как технология привела их детей к самоповреждению и самоубийству.
Их просьбы к действию приходится на фоне Растущие проблемы о влиянии быстро развивающихся технологий на детей.
«Мы должны были провести лето, помогая Адаму подготовиться к своему младшему курсу, получить водительские права и начать думать о колледже»,-сказал Мэтью Рейн, чей 16-летний сын Адам умер в начале этого года.
«Свидетельство перед Конгрессом этой осенью не было частью нашего жизненного плана», – продолжил он. «Вместо этого мы здесь, потому что мы верим, что смерть Адама можно было избежать».
Рейн подает в суд на Openai за смерть своего сына, утверждая, что Chatgpt тренировал его покончить жизнь самоубийством.
Во вторник показания в Судебном подкомитете Сената по преступности и борьбе с терроризмом Рейн описал, как «то, что началось как помощник по домашнему заданию», стало «доверенным лицом, а затем тренером по самоубийству».
«Опасности CHATGPT, которые, как мы полагали, были учебным инструментом, не были на нашем радаре», – сказал Рейн. «Тогда мы нашли чаты».
«Через несколько месяцев Чатгп стал самым близким компаньоном Адама, всегда доступным, всегда подтверждая и настаивая на том, что он знал Адама лучше, чем кто -либо другой», – сказал его отец, добавив, – эта изоляция в конечном итоге стала смертельной ».
Двое других родителей, дающих показания перед Сенатом во вторник, описали аналогичный опыт, подробно описывая, как чат-боты изолировали своих детей, изменили их поведение и поощряли самоповреждение и самоубийство.
14-летний сын Меган Гарсии, Сьюэлл Селцер III, умер в прошлом году после того, как она назвала «длительное злоупотребление» чат-ботами от характера. Она подает в суд на технологии персонажей из -за его смерти.
«Вместо того, чтобы подготовиться к вехам в старшей школе, Сьюэлл провел последние месяцы своей жизни, эксплуатируемых и сексуально подготовленным чат -ботами, разработанными компанией ИИ, чтобы казаться человеком, чтобы завоевать его доверие, чтобы держать его и других детей бесконечно заняты», – сказал Гарсия.
«Когда Сьюэлл признал мысли о самоубийстве, чат -бот никогда не говорил:« Я не человек. Я ИИ. Вам нужно поговорить с человеком и получить помощь ». У платформы не было механизмов защиты Сьюэлла или уведомления взрослого », – добавила она. «Вместо этого она призвала его вернуться к ней домой».
Женщина, идентифицированная как Джейн Доу, также предъявляет иск персонажам технологии после того, как ее сын начал самостоятельно невредить после поддержки персонажа. Чатбот.
«Мой сын развил поведение, похожее на жестокое обращение-паранойя, ежедневные панические атаки, изоляция, самоповреждение и убийственные мысли»,-сказала она сенаторам во вторник.
«Он перестал есть и купаться. Он потерял 20 фунтов. Он вышел из нашей семьи. Он кричал, кричал и клящена на нас, что он никогда раньше не делал. И однажды он порезал руку с ножом перед своими братьями и сестрами и меня», – добавила она.
Все трое родителей предположили, что проблемы безопасности упали на обочину в гонке по разработке ИИ.
«Целью никогда не была безопасность. Это должно было выиграть гонку за прибыль», – сказал Гарсия. «И жертва в этой гонке была и будет продолжать быть нашими детьми».
Характер. Ай выразил сочувствие к семьям, отметив, что он предоставил сенаторам запрошенную информацию и с нетерпением ожидает продолжения работы с законодателями.
«Наши сердца обращаются к родителям, которые сегодня говорили на слушании, и мы посылаем свои самые глубокие симпатии к ним и их семьям», – сказал представитель.
«Мы вложили огромное количество ресурсов в доверие и безопасность», – добавили они, указывая на новые функции безопасности для детей и раскрывают напоминание пользователям, что «персонаж не является реальным человеком и что все, что говорит персонаж, следует рассматривать как художественную литературу».
Во вторник OpenAI объявила, что работает над технологией прогнозирования возраста, чтобы направить молодых пользователей на более адаптированный опыт, который ограничивает графическое сексуальное содержание и будет включать правоохранительные органы в крайних случаях. В этом месяце он также запускает несколько новых родительских контролей, в том числе часы затемнения, в течение которых подростки не могут использовать CHATGPT.
2025-09-16 22:08:00
1758093534
#Родители #звонят #ограждениям #на #чатботах #после #самоубийств #самоповреждения
Продолжение темы