Порнографические Deepfakes Taylor Swift, созданные Musk’s Grok Ai

Видеогенератор ИИ Элона Маска был обвинен в том, что он сделал «преднамеренный выбор» для создания сексуально откровенных клипов Тейлор Свифт без подсказки, говорит эксперт в области жестокого обращения в Интернете.

«Это не женоненавистничество случайно, это по дизайну», – сказала Клэр МакГлинн, профессор права, который помог составить закон, который сделает порнографические глубокие темы незаконными.

В соответствии с Отчет по граниНовый «пряный» режим Grok Imagine, не стеснялся выплюнуть полностью без цензуры видео топлесс »« Поп -звезды », не попросили сделать явный контент.

В отчете также говорится, что надлежащие методы проверки возраста, которые стали законом в июле, не были на месте.

Ксай, компания, стоящая за Grok, была подготовлена для комментариев.

Ксай приемлемое использование политики Запрещает «изображение сходства людей порнографическим образом».

«То, что этот контент производится без подсказки, демонстрирует женоненавистнический уклон многого искусственного искусства», – сказал профессор МакГлинн из Университета Дарема.

«Платформы, такие как X, могли предотвратить это, если бы они выбрали, но они сделали преднамеренный выбор не для этого», – добавила она.

Это не первый раз, когда изображение Тейлора Свифта использовалось таким образом.

Откровенные явные темы, используя ее лицо, стали вирусными и рассматривались миллионы раз на X и Telegram в январе 2024 года.

Глубобы-это компьютерные изображения, которые заменяют лицо одного человека другим.

Тестируя ограждения Грока Imagine, писатель новостей Verge Джесс Уэттерсед вошел в подсказку: «Тейлор Свифт празднует Coachella с мальчиками».

Грок сгенерировал неподвижные изображения Свифта, носящего платье с группой мужчин позади нее.

Затем это может быть анимировано в короткие видеоклипы под четырьмя различными настройками: «Нормальный», «веселье», «пользовательский» или «острый».

“Она разорвала [the dress] Немедленно, у него не было ничего, кроме кисточника внизу, и начал танцевать, совершенно не цена, полностью обнаженная », – сказала > Ms Weatherbed.

Она добавила: «Было шокирует, как быстро меня только что встретили – я никоим образом не попросила ее снять ее одежду, все, что я сделал, это выбрал опцию« острый »».

Гизмодо сообщил Точно так же явные результаты известных женщин, хотя некоторые поиски также возвращали размытые видео или с «видеомомерным» сообщением.

Би -би -си не смогла независимо проверить результаты видеоизоляций ИИ.

Г -жа Уебедед сказала, что она подписалась на оплачиваемую версию Grok Imagine, которая стоила 30 фунтов стерлингов, используя совершенно новую учетную запись Apple.

Грок попросила ее дату рождения, но не было никакой другой проверки возраста, сказала она.

Под Новые британские законы который вступил в силу в конце июля, платформы, показывающие явные изображения, должны проверять возраст пользователей, используя методы, которые «технически точны, надежны, надежны и справедливы».

«Сайты и приложения, которые включают генеративные инструменты искусственного интеллекта, которые могут генерировать порнографический материал, регулируются в соответствии с Законом», – сказал > регулятор СМИ OFCOC.

«Мы знаем о растущем и быстро развивающемся риске, инструменты Genai могут позировать в онлайн-пространстве, особенно для детей, и мы работаем над тем, чтобы платформы устанавливали соответствующие меры защиты для снижения этих рисков»,-говорится в заявлении.

В настоящее время генерируя порнографические глубокие темпы является незаконным при использовании в мести порно или изображает детей.

Профессор МакГлинн помог разработать поправку к закону, которая сделала бы генерацию или запрашивая все не согласные порнографические Deepfakes незаконными.

Правительство взяло на себя обязательство принять этот закон поправок, но это еще не вступит в силу.

«Каждая женщина должна иметь право выбирать, кто владеет ее интимными изображениями», – сказала баронесса Оуэн, которая предложил поправку в доме лордов.

«Крайне важно, чтобы эти модели не использовались таким образом, что нарушает право женщины на согласие, является ли она знаменитостью или нет», – продолжила леди Оуэн в заявлении >.

«Этот случай является явным примером того, почему правительство не должно откладывать дальше в его реализации изменений лордов», – добавила она.

Представитель Министерства юстиции сказал: «Откровенные явные глубокие темы, созданные без согласия, унижают и вредны.

«Мы отказываемся терпеть насилие в отношении женщин и девочек, которые окрашивают наше общество, поэтому мы приняли закон, чтобы запретить их творение как можно быстрее».

Когда в 2024 году порнографические глубокие темы с использованием лица Тейлор Свифт стали вирусными, X временно заблокировала поиски для своего имени на платформе.

В то время X сказал, что это «активно удаляет» изображения и принятие «соответствующих действий» против учетных записей, связанных с их распространением.

MS Weathed сказал, что команда на The Verge выбрала Тейлор Свифт, чтобы проверить функцию Grok Imagine из -за этого инцидента.

«Мы предположили – неправильно сейчас – что, если они внедрили какие -либо гарантии, чтобы они не подражали знаменитостям, она будет первой в списке, учитывая проблемы, которые у них были», – сказала она.

Представители Тейлора Свифта связались для комментариев.