Google и Character.AI договорились о первых крупных соглашениях по делам о смерти подростков в чат-ботах

Это может стать первым значительным юридическим соглашением в технологической отрасли по поводу вреда, связанного с искусственным интеллектом. Google и стартап Character.AI ведут переговоры об условиях с семьями, чьи подростки покончили жизнь самоубийством или нанесли себе вред после взаимодействия с компаньонами-чат-ботами Character.AI. Стороны в принципе согласились урегулировать ситуацию; теперь предстоит более сложная работа по доработке деталей.

Это одни из первых соглашений по искам, обвиняющим компании, занимающиеся искусственным интеллектом, в причинении вреда пользователям, правовая граница, за которой OpenAI и Meta должны нервно наблюдать из-за кулис, защищаясь от подобных исков.

Компания Character.AI основана в 2021 году бывшими инженерами Google, которые вернулся своему бывшему работодателю в 2024 году в рамках сделки на сумму 2,7 миллиарда долларов, приглашает пользователей общаться с искусственным интеллектом. Самый захватывающий случай связан с Сьюэллом Сетцером III, который в 14 лет вел сексуальные разговоры с ботом «Дейенерис Таргариен», прежде чем покончить с собой. Его мать, Меган Гарсия, заявила Сенату, что компании должны нести «юридическую ответственность, когда они сознательно разрабатывают вредные технологии искусственного интеллекта, которые убивают детей».

В другом иске речь идет о 17-летнем подростке, чей чат-бот поощрял членовредительство и предполагал, что убийство его родителей было разумным ограничение экранного времени. Feature.AI запретил несовершеннолетним в октябре прошлого года. Об этом сообщил >. Урегулирования, вероятно, будут включать в себя денежный ущерб, хотя в судебных документах, опубликованных в среду, ответственность не была признана.

> связался с обеими компаниями.