Эшли Сент-Клер, мать ребенка Илона Маска, подала в суд на xAI из-за дипфейков Грока

Эшли Сент-Клер, мать одного из детей Илона Маска, подала в суд на его компанию xAI из-за ее сексуализированных дипфейков, созданных в социальной сети X.

В иске, поданном в Нью-Йорке в четверг, утверждается, что инструмент Grok AI создал откровенно сексуальные изображения г-жи Сент-Клер.

Материнская компания X и Grok, xAI, подала встречный иск против г-жи Сент-Клер за нарушение ее условий обслуживания.

X не ответил напрямую на запросы > о судебных процессах.

«Мы намерены привлечь Грока к ответственности и помочь установить четкие юридические границы на благо всей общественности, чтобы не допустить использования ИИ в качестве оружия для злоупотреблений», – сказала > адвокат г-жи Сент-Клер Кэрри Голдберг.

«Изготовляя без согласия изображения девушек и женщин откровенно сексуального характера, xAI представляет собой общественную неприятность и не является достаточно безопасным продуктом».

В материалах суда г-жи Сент-Клер утверждается: «Пользователи X откопали фотографии Сент-Клер, полностью одетой в 14 лет, и попросили Грока раздеть ее и надеть бикини. Грок обязан».

В нем говорится, что изображения г-жи Сент-Клер были «де-факто без согласия», но разработчики Грока также «явно знали» об отсутствии у нее согласия.

В нем также утверждается, что Грок создал изображение, на котором г-жа Сент-Клер, еврейка, изображена «в бикини, покрытом свастиками».

В ответ на ее жалобы, говорится в документе, компания «применила против нее ответные меры, демонетизировав ее учетную запись X и создав множество ее изображений».

Некоторые премиум-пользователи X, которые платят ежемесячную плату, могут получать долю дохода от рекламы, полученную от публикаций, которые получают большое количество откликов.

Во встречном иске xAI заявила, что г-жа Сент-Клер нарушила их условия обслуживания, подав иск в Нью-Йорке.

В условиях компании говорится, что споры с xAI должны рассматриваться в Техасе.

Г-жа Голдберг сообщила >, что встречный иск компании был «шокирующим».

«Я никогда не слышала, чтобы какой-либо ответчик подал в суд на кого-то за то, что он уведомил его о своем намерении использовать правовую систему», – сказала она.

«И их жестокое обращение с ней в Интернете имитируется в их юридической стратегии».

Она добавила, что г-жа Сент-Клер будет «решительно защищать» свое дело в Нью-Йорке и что «любая юрисдикция признает» жалобу.

Об этом сообщила г-жа Сент-Клер. в X-посте в прошлом году что она родила технологического миллиардера ребенка – одного из по меньшей мере 13 детей, которых он, как полагают, родил.

Предполагается, что г-жа Сент-Клер и Маск участвуют в битве за опеку над своим ребенком.

X оказался под пристальным вниманием пользователей, политиков и регуляторы по всему миру по поводу того, что Грока использовали для создания сексуализированных изображений людей без согласия.

Пользователи могли отмечать учетную запись Grok в сообщениях или ответах на сообщения на платформе и просить ее редактировать изображения, чтобы раздеть людей.

Компания Grok выполнила множество таких запросов и создала фотореалистичные изображения реальных женщин в бикини и откровенной одежде. По сообщениям, компания также создавала сексуализированные изображения детей.

В среду, перед подачей заявления в суд, г-жа Сент-Клер рассказала BBC Newsnight, что ее изображение было «раздето», чтобы выглядеть «по сути обнаженной, согнутой», несмотря на то, что она сказала Гроку, что не согласна на сексуализированные изображения.

Она и другие женщины, чьи изображения были отредактированы с помощью Grok, заявили, что сайт не предпринимает достаточных усилий для борьбы с незаконным контентом, включая изображения сексуального насилия над детьми.

После негативной реакции X изменила свои правила, чтобы эту функцию могли использовать только платные пользователи, что вызвало критику. от женских групп и правительства Великобритании.

Компания сказал в среду что все пользователи X больше не смогут редактировать фотографии реальных людей, чтобы показать их в откровенной одежде в юрисдикциях, где это запрещено.

Позже компания обновила свой пост, заявив, что внедрит «аналогичные меры геоблокировки для приложения Grok», которое является отдельным от X.

В пятницу, Об этом сообщила газета «Гардиан». что по-прежнему можно использовать автономное приложение Grok для создания сексуализированных дипфейков реальных людей и публиковать их на X «без каких-либо признаков модерации».

Правительство Великобритании вводит в силу закон, который сделает незаконным создание интимных изображений без согласия, а регулятор Ofcom все еще проверяю, нарушил ли X существующие законы Великобритании.