Эшли Сент-Клер, мать одного из детей Илона Маска, подала в суд на xAI из-за сексуальных изображений Грока

Эшли Сент-Клер, мать одного из детей Илона Маска, в четверг подала в суд на компанию Маска по искусственному интеллекту xAI, утверждая, что гигант искусственного интеллекта проявил халатность и причинил эмоциональный стресс, позволив пользователям своего инструмента искусственного интеллекта под названием Grok создавать дипфейковые фотографии ее в откровенно сексуальных позах и не сумев сделать это. достаточно ограничить такое поведение после ее жалоб.

Иск приходит после недели монтажной реакции против способности Грока создавать дипфейки без согласия, позволяя пользователям снимать одежду с людей, изображенных на фотографиях, загруженных в сервис, и часто заменяя одежду бикини или нижним бельем. Ее иск был подан в суд штата Нью-Йорк, но быстро передан в федеральный Южный округ Нью-Йорка после запрос от xAI.

Сент-Клер уведомил В иске говорится, что xAI сообщила, что пользователи создавали незаконные дипфейковые фотографии ее «в детстве, раздетой до бикини» и «взрослой в откровенно сексуальных позах», и потребовала запретить сервису Grok создавать изображения без согласия, говорится в иске.

В иске утверждается, что, хотя Грок подтвердила, что ее «изображения не будут использоваться или изменяться без явного согласия в каких-либо будущих поколениях или ответах», xAI продолжала позволять пользователям создавать более откровенные ее изображения, созданные ИИ, и вместо этого приняла ответные меры, демонетизировав ее учетную запись X.

X и xAI не сразу ответили на запрос о комментариях. В четверг xAI подала в суд на Сент-Клера. в федеральном суде Техасазаявив, что она нарушила условия обслуживания xAI, и потребовала возмещения ущерба на сумму более 75 000 долларов. В своем иске xAI заявила, что любые иски против компании должны быть поданы либо в федеральный суд Северного округа Техаса, либо в суды штата округа Таррант, штат Техас.

На прошлой неделе X ограничил возможности ответного бота @Grok, по-видимому, не позволяя ему генерировать изображения, на которых по несогласию можно опознать людей в откровенных купальниках или нижнем белье. По состоянию на время предоставления отчетностиэти возможности остались неизменными в автономном приложении Grok и на веб-сайте Grok, а также на специальной вкладке Grok на X.

Грок создал поток сексуализированных изображений, созданных ИИ в течение нескольких недельа на прошлой неделе темп достиг тысячи таких изображений в час, по мнению исследователей. Многие изображения были опубликованы публично на X.

Создание и распространение сексуализированных изображений без согласия вызвало мировой резонансвключая несколько правительственных расследований и призывает к магазины приложений для смартфонов запретить или ограничить X. Однако регулирующие органы и другие технологические компании не стали ограничивать приложение.

Генеральный прокурор Калифорнии начал расследование в отношении Грока в среду, когда губернатор Гэвин Ньюсом опубликовано на X что «решение xAI создать и разместить питательную среду для хищников, которые будут распространять без согласия дипфейки откровенно сексуального характера, в том числе изображения, на которых в цифровом виде раздевают детей, является мерзким».

В иске Сент-Клера утверждается, что функция Грока, позволяющая пользователям создавать дипфейки без согласия, является конструктивным дефектом и что компания могла предвидеть использование этой функции для преследования людей незаконными изображениями.

В нем говорится, что те, кто изображен на дипфейках, в том числе Сент-Клер, пережили сильнейшие страдания.

«Обвиняемый совершил крайнее и возмутительное поведение, выходящее за все рамки приличия и совершенно нетерпимое в цивилизованном обществе», — говорится в иске.