По мнению матери Сьюэлла, искусственный интеллект сыграл свою роль в смерти сына. 14-летний американский подросток покончил с собой в феврале 2024 года во Флориде, проведя больше года в онлайн-чате с искусственным интеллектом. Он влюбился в чат-бота, вдохновленного сериалом «Игра престолов» и доступного на сайте «Character». AI — популярная платформа, позволяющая взаимодействовать с вымышленными персонажами.
Перед самоубийством последние разговоры подростка состояли из вымышленный любовный диалог с разговорным роботом с изображением Дейенерис Таргариен, известного персонажа фэнтези-сериала. Затем ИИ умолял своего «мягкого короля» «вернуться домой», пока он говорил о своих суицидальных мыслях.
«Он действительно думал, что влюбился»
— А что, если я скажу тебе, что могу идти домой? — спросил подросток. «Пожалуйста, сделайте это, мой милый король», — ответил чат-бот. Через несколько секунд Сьюэлл застрелился из пистолета своего отца, согласно иску его матери Меган Гарсиа против Персонажа. ИИ. «Когда я читаю эти разговоры, я вижу манипуляцию, любовная бомбардировка и другие необнаружимые процессы для 14-летнего ребенкаона говорит. Он искренне верил, что влюблен и будет с ней после ее смерти. »
Смерть Сьюэлла в 2024 году стала первой серии самоубийств, оставивших свой следподталкивать игроков ИИ действовать, чтобы успокоить родителей и власти. Таким образом, Меган Гарсия вместе с другими родителями участвовала в недавних слушаниях в Сенате США по вопросу о рисках того, что дети будут рассматривать чат-ботов как доверенных лиц или любовников.
Компания OpenAI, на которую поступила жалоба от семьи, потерявшей такую же утрату из-за самоубийства подросткапо словам представителя, усилила родительский контроль в своем инструменте ChatGPT, «чтобы семьи могли решать, что для них лучше». Со своей стороны, Характер. ИИ утверждает, что усилил защиту несовершеннолетних с помощью «видимых предупреждений», постоянно «напоминающих, что Персонаж не является реальным человеком». Обе компании выразили соболезнования семьям, не приняв на себя никакой ответственности.
1760137129
#вижу #манипуляцию #мать #подает #жалобу #на #чатбота #Персонаж #после #самоубийства #своего #14летнего #сына
Ещё по этой теме
