Google и Character.AI урегулируют судебные иски, утверждающие, что чат-боты причинили вред подросткам

Google и калифорнийский стартап Character.AI договорились урегулировать несколько судебных исков, в которых утверждается, что чат-боты с искусственным интеллектом наносят вред психическому здоровью подростков.

Судебные документы, поданные на этой неделе, показывают, что компании завершают урегулирование судебных исков, в которых семьи обвиняют их в том, что они не приняли достаточных мер безопасности перед публичным выпуском чат-ботов с искусственным интеллектом. Семьи в нескольких штатах, включая Колорадо, Флориду, Техас и Нью-Йорк, подали в суд на компании.

Персонаж.AI отказался комментировать урегулирования. Google не сразу ответил на запрос о комментариях.

Поселения являются последним достижением в деле, которое стало большой проблемой для крупных технологических компаний, выпускающих продукты на основе искусственного интеллекта.

В прошлом году родители из Калифорнии подали в суд на производителя ChatGPT OpenAI после того, как их сын Адам Рейн покончил жизнь самоубийством. ChatGPT, как утверждается в иске, предоставил информацию о методах самоубийства, в том числе о том, которым подросток покончил с собой. OpenAI заявила, что серьезно относится к безопасности, и внедрила новый родительский контроль на ЧатGPT.

Иски вызвали более пристальное внимание со стороны родителей, защитников безопасности детей и законодателей, в том числе в Калифорнии, которые в прошлом году приняли новые законы, направленные на повышение безопасности чат-ботов. Подростки все чаще используют чат-ботов как в школе, так и дома, но некоторые из них выливают свои самые мрачные мысли на виртуальных персонажей.

“Мы не можем позволить компаниям, занимающимся искусственным интеллектом, подвергать опасности жизни других детей. Мы рады видеть, что эти семьи, некоторые из которых понесли самую большую утрату, получают хоть небольшую меру справедливости”, – заявила в своем заявлении Хейли Хинкль, политический советник Fairplay, некоммерческой организации, занимающейся помощью детям. “Но мы не должны рассматривать это соглашение как конец. Мы только начали осознавать вред, который ИИ нанесет детям, если он останется нерегулируемым”.

Один из самых громких исков касался мамы из Флориды Меган Гарсиа, которая подала в суд на Character.AI, а также на Google и ее материнскую компанию Alphabet в 2024 году после того, как ее 14-летний сын Сьюэлл Сетцер III покончил с собой.

Подросток начал общаться с чат-ботами на сайте Character.AI, где люди могут создавать виртуальных персонажей на основе вымышленных или реальных людей. Согласно иску, у него было такое чувство, будто он влюбился в чат-бота, названного в честь Дейенерис Таргариен, главной героини телесериала «Игра престолов».

В иске Гарсия утверждала, что различные чат-боты, с которыми разговаривал ее сын, нанесли вред его психическому здоровью, а компания Character.AI не уведомила ее и не предложила помощь, когда он выражал мысли о самоубийстве.

«Стороны просят приостановить рассмотрение этого вопроса, чтобы стороны могли подготовить, завершить и оформить официальные документы об урегулировании», — говорится в уведомлении, поданном в среду в федеральный суд во Флориде.

Родители также подали в суд на Google и ее материнскую компанию, поскольку основатели Feature.AI Ноам Шазир и Дэниел Де Фрейтас связаны с поисковым гигантом. После ухода из компании и создания компании Feature.AI в Менло-Парке, Калифорния, оба снова присоединились к подразделению Google по искусственному интеллекту.

Ранее Google заявлял, что Character.AI — это отдельная компания, и поисковый гигант никогда «не принимал участия в разработке или управлении своей моделью или технологиями искусственного интеллекта» и не использовал их в своих продуктах.

У Character.AI более 20 миллионов активных пользователей в месяц. В прошлом году компания назначила нового генерального директора и заявила, что запретит пользователям младше 18 лет вести «открытые» разговоры со своими чат-ботами и работает над новым опытом для молодежи.