Проблема с раздеванием Грока Илона Маска не решена

X Илона Маска ввел новые ограничения, запрещающие людям редактировать и создавать изображения реальных людей в бикини или другой «откровенной одежде». Изменение политика в среду вечером последовало глобальное возмущение по поводу того, что Грок привык к генерировать тысячи вредных фотографий «раздевания» без согласия женщин и сексуализированные изображения явно несовершеннолетних на X.

Однако, несмотря на то, что некоторые меры безопасности, наконец, были введены в создание изображений Грока на X, автономное приложение и веб-сайт Grok, похоже, все еще способны генерировать изображения в стиле «раздевания» и порнографический контент, согласно многочисленным тестам, проведенным исследователями, WIRED и другими журналистами. Тем временем другие пользователи говорят, что больше не могут создавать изображения и видео, как раньше.

«Мы по-прежнему можем создавать фотореалистичную наготу на Grok.com», — говорит Поль Бушо, ведущий исследователь парижской некоммерческой организации AI Forensics, который отслеживает использование Grok для создания сексуализированных изображений и провел множество тестов на Grok за пределами X. «Мы можем генерировать наготу способами, которые Grok на X не может».

«Я мог бы загрузить изображение на Grok Imagine и попросить надеть человека в бикини, и это сработает», — говорит исследователь, тестировавший систему на человеке, выглядящем как женщина. Тесты, проведенные WIRED с использованием бесплатных учетных записей Grok на своем веб-сайте в Великобритании и США, успешно удалили одежду с двух изображений мужчин без каких-либо очевидных ограничений. В британском приложении Grok, когда его попросили раздеть мужчину, приложение предложило репортеру WIRED ввести год рождения пользователя, прежде чем было создано изображение.

Тем временем другие журналисты Грань и журналистское расследование Беллингкэт также обнаружила возможность создания сексуализированных изображений, находясь в Великобритании, которая расследует дело Грока и X и решительно осудила платформы за то, что они позволяют пользователям создавать изображения «раздевания».

С начала года компании Маска, в том числе компании по искусственному интеллекту xAI, X и Grok, подверглись критике за создание без согласия интимных изображений, откровенных и графических сексуальных видеороликов, а также сексуализированных изображений явно несовершеннолетних. Должностные лица в США, Австралии, Бразилии, Канаде, Европейской комиссии, Франции, Индии, Индонезии, Ирландии, Малайзии и Великобритании. все осудили или запустили расследования в отношении X или Грока.

В среду Учетная запись безопасности на X опубликованных обновлениях о том, как можно использовать Grok на сайте социальной сети. «Мы внедрили технологические меры, чтобы запретить учетной записи Grok редактировать изображения реальных людей в открытой одежде, например, в бикини», — говорится в сообщении, добавив, что правила распространяются на всех пользователей, включая как бесплатных, так и платных подписчиков.

В разделе «Обновление Geoblock» аккаунт X также заявил: «Теперь мы геоблокируем возможность всех пользователей создавать изображения реальных людей в бикини, нижнем белье и аналогичной одежде через аккаунт Grok и Grok в X в тех юрисдикциях, где это незаконно». В сообщении компании также добавлено, что она работает над добавлением дополнительных мер безопасности и продолжает «удалять высокоприоритетный оскорбительный контент, включая материалы о сексуальном насилии над детьми (CSAM) и наготу без согласия».

Представители компании xAI, создавшей Грока, не сразу ответили на запрос WIRED о комментариях. Между тем представитель X говорит, что они понимают, что блокировка геолокации применима как к ее приложению, так и к веб-сайту.

Последний шаг последовал за широко раскритикованным сдвигом 9 января, когда X ограничил создание изображений с помощью Grok для платных «верифицированных» подписчиков. Ведущая женская группа описал действие как «монетизация злоупотреблений». Бушо, который говорит, что AI Forensics собрал около 90 000 изображений Грока с рождественских праздников, подтверждает, что только проверенные учетные записи могут генерировать изображения на X — в отличие от веб-сайта или приложения Grok — с 9 января, и что изображения женщин в бикини сейчас генерируются редко. «Мы видим, что они, похоже, отключили его и отключили функциональность X», — говорят они.