Подростки подали в суд на xAI Маска из-за сгенерированных ИИ обнаженных тел без согласия: –

Трое подростков из Теннесси подали коллективный иск против компании Илона Маска, занимающейся искусственным интеллектом, xAI, утверждая, что ее большая языковая модель использовалась для создания без согласия обнаженных и откровенно сексуальных изображений и видео с ними, когда они были девочками.

«Подобно тряпичной кукле, ожившей с помощью темных искусств, эта [AI-generated] Ребенком можно манипулировать в любой позе, какой бы больной, какой бы фетишизированной или незаконной она ни была. Для зрителя полученное видео кажется совершенно реальным», – говорится в жалобе. «Для ребенка ее опознавательные черты теперь навсегда будут прикреплены к видео, изображающему сексуальное насилие над ее собственным ребенком».

Хотя преступник не использовал чат-бота xAI, Grok или платформу социальных сетей X (также принадлежащую xAI), в иске утверждается, что преступник полагался на неназванное приложение, которое использовало алгоритм xAI, со ссылкой на правоохранительные органы.

Истцы обвинили xAI в намеренном лицензировании своей технологии производителям приложений, часто за пределами США. «Таким образом, xAI может попытаться передать на аутсорсинг ответственность за свой невероятно опасный инструмент», — говорится в жалобе.

Этот иск является первым, в котором против xAI подали в суд несовершеннолетние люди, изображенные в материалах о сексуальном насилии над детьми, предположительно созданных его моделью. Инструменты создания изображений xAI были замешан в создании миллионов сексуализированных изображений людей за последний год. Влиятельный человек Эшли Сент-Клер, у которой есть ребенок от Маска, в начале этого года подала в суд на компанию за созданные с помощью искусственного интеллекта изображения на X, на которых она изображена обнаженной, когда она была подростком.

Согласно коллективному иску, преступник, создавший изображения сексуального характера, имел «близкие и дружеские отношения» с одним из истцов и использовал фотографии, которые истец прислал ему, а также фотографии, которые он собрал в ежегоднике и в социальных сетях, для создания изображений и видео. На одном видео изображена одна истица, «раздевающаяся до полной обнаженности». утверждается в жалобе. Истцы были обеспокоены тем, насколько реалистичными были изображения и видео. Более того, согласно жалобе, материал не был помечен как созданный искусственным интеллектом.

В жалобе утверждается, что преступник также сделал материалы откровенно сексуального характера о 18 других людях и обменял их на изображения других людей в Интернете. Согласно сообщению, он был арестован.

Адвокат истцов Ванесса Баер-Джонс заявила, что подростки, которых в иске называют Джейн Доу 1, 2 и 3, хотят изменить то, как компании, занимающиеся искусственным интеллектом, принимают бизнес-решения в отношении контента сексуального характера: «Мы хотим сделать это одним[a business decision] это больше не имеет никакого делового смысла», — сказала она.

Истцы просят суд о возмещении морального ущерба и другого вреда, причиненного изображениями.

Приложения с так называемыми функциями обнажения уже много лет существуют в тени Интернета. Но в прошлом году крупные компании, занимающиеся искусственным интеллектом, включая Google, OpenAI и xAI, обновили свои инструменты создания изображений таким образом, чтобы пользователи могли раздевать людей до бикини. Но изображения, сделанные Google и OpenAI, содержат цифровые водяные знаки, раскрывающие их искусственное происхождение. Пока что xAI не приняла такой стандарт.

xAI не ответил на запрос о комментариях.