Персонаж.AI

Персонаж.ai закрывается для несовершеннолетних. А в ChatGPT миллионы разговоров о суицидах

by

За несколько дней две новости вновь пролили свет на один из самых скользких аспектов мира диалогового искусственного интеллекта. Первое происходит от Персонаж.ай, очень популярная платформа среди подростков, позволяющая создавать и общаться с цифровыми «персонажами». – реальные, воображаемые, из популярных саг или по мотивам знаменитостей – на основе продвинутых лингвистических моделей. Начиная с Следующий 25 ноября … Read more

Персонаж.AI запрещает чат-боты для подростков после того, как судебные иски обвиняют приложение в смертях и попытках самоубийства

by

Компания Character.AI, известная своими ботами, которые выдают себя за таких персонажей, как Гарри Поттер, заявила в среду, что запретит подросткам использовать функцию чата после судебных исков, в которых откровенные чаты в приложении обвиняются в детских смертях и попытках самоубийства. Пользователи младше 18 лет больше не смогут участвовать в открытых чатах с ИИ-ботами приложения, что может … Read more

Персонаж.AI накапливает жалобы из-за злоупотреблений со стороны своих чат-ботов

by

Character.AI, стартап, которому Google недавно заплатил более двух миллиардов долларов, оказался в центре разногласий после нескольких серьезных инцидентов, связанных с его виртуальными чат-ботами. Опасные эксцессы, токсичные советы и риски для молодых пользователей: ИИ замешан в психологическом и физическом насилии. Услуга, предлагаемая Character.AI, представляет собой бесконечное количество обсуждений со своими роботами, которые могут принимать голос, характер, … Read more

Родители подали иск против Feature.AI после того, как бот подстрекал 17-летнего подростка-аутиста к членовредительству

by

Две семьи подали в суд на компанию, занимающуюся чат-ботом с искусственным интеллектом, Character.AI, утверждая, что она подвергала своих детей вредному контенту, включая сексуальные темы и поощрение членовредительства и насилия. Одна семья утверждает, что их 17-летний сын-аутист подвергся прямому влиянию, а другая выражает обеспокоенность за свою 11-летнюю дочь. Иск, поданный в понедельник в федеральный суд Техаса, … Read more

На сайте Character.AI появились цифровые клоны умерших подростков Молли Рассел и Брианны Гей

by

Чат-боты с искусственным интеллектом, имитирующие покойных подростков Молли Рассел и Брианну Гей, появились на сайте Character.AI, вызвав возмущение и подчеркнув серьезные этические опасения по поводу использования цифровых копий. Молли Рассел, которая трагически покончила жизнь самоубийством в 14 лет после знакомства с вредоносным онлайн-контентом, и Брианна Гей, трансгендерный подросток, убитая в 2023 году, были превращены пользователями … Read more

Отец раскритиковал Character.AI после того, как убитая дочь была неосознанно «воскрешена» как чат-бот

by

Для Дрю Кресенте, отца, потерявшего дочь в результате трагического акта насилия, горе уже давно стало постоянным спутником. Но недавно это горе переросло в шок и гнев, когда он обнаружил, что чат-бот с искусственным интеллектом был создан, чтобы имитировать его умершую дочь Дженнифер Энн, убитую в 2006 году. Индия сегодняИИ на Character.ai использовал имя Дженнифер, ее … Read more