Эшли Сент-Клер подает в суд на XAI Маска из-за предполагаемых явных изображений Грока

Эшли Сент-Клеркоторая родила одного из сыновей Илона Маска в 2024 году, подала в четверг в суд Нью-Йорка иск против xAI Маска, утверждая, что ее чат-бот Grok по запросу пользователей создавал откровенно сексуальные фейковые изображения ее личности.

В жалобе Сент-Клер, писатель, влиятельный человек и политический стратег, утверждает, что пользователи X побудили Грока манипулировать ее изображениями, в том числе фотографиями, когда ей было 14 лет, в графический сексуальный контент. Она утверждает, что некоторые изображения оставались в сети более недели, а ее премиум-аккаунт X позже был закрыт после того, как она пожаловалась.

Она также просит выдать временный запретительный судебный приказ, чтобы заставить xAI немедленно прекратить «намеренное раскрытие интимных изображений без согласия».

xAI не сразу ответил на запрос о комментариях.

«Грок сначала пообещал г-же Сент-Клер, что воздержится от производства новых изображений, где она раздевается», – говорится в жалобе. «Вместо этого ответчик принял ответные меры против нее, демонетизировав ее учетную запись X и создав множество ее изображений», – говорится в иске.

Сент-Клер также участвует в отдельном иске с Маском по поводу опеки над их сыном, в котором она добивалась единоличной опеки.

В тот же день xAI ответила отдельным иском, утверждая, что Сент-Клер согласился свои условия обслуживания, которые требует, чтобы любые судебные разбирательства рассматривались в Техасе. интересы Сент-Клера представляет адвокат Кэрри Голдберг, которая специализируется на делах, связанных со злоупотреблениями, и представляла интересы клиентов в Харви Вайнштейн.

«xAI не является достаточно безопасным продуктом», — сказал Голдберг в заявлении Business Insider. «Этот вред возник непосредственно из-за преднамеренного выбора дизайна, который позволил использовать Грока в качестве инструмента преследования и унижения. Компании не должны иметь возможность уйти от ответственности, когда продукты, которые они создают, предсказуемо причиняют такой вред».

Иск последовал за международной реакцией на чат-бота Grok за его способность раздевать изображения реальных людей и создавать сексуальные изображения без их согласия по запросу пользователей.

Индонезия и Малайзия заблокировал доступ к Грокуа премьер-министр Великобритании Кейр Стармер на встрече с Палатой общин назвал откровенные изображения, созданные Гроком, «отвратительными» и «позорными».

В среду, Генеральный прокурор Калифорнии Роб Бонта также объявил, что его офис расследует «несогласованные материалы откровенно сексуального характера, которые xAI подготовила и разместила в Интернете» с изображением «женщин и детей в обнаженных и откровенно сексуальных ситуациях».

В тот же день X заявил в своем блоге, что пользователям больше не будет разрешено создавать на платформе ИИ-фотографии реальных людей в сексуальной или откровенной одежде, добавив, что ограничение «распространяется на всех пользователей, включая платных подписчиков».

По состоянию на утро четверга, репортер Business Insider Генри Шандонне обнаружил, что по-прежнему «на удивление легко» побудить Грока создать его обнаженное изображение, зайдя в само приложение вместо использования чат-бота Грока на X.