X не решил проблему с раздеванием Грока. Это просто заставляет людей платить за это

После создания тысяч из «раздевающиеся» фотографии женщин и сексуализированные изображения явно несовершеннолетних, X Илона Маска, по-видимому, ограничил тех, кто может создавать изображения с Гроком. Однако, несмотря на изменения, чат-бот по-прежнему используется для создания на платформе «раздевающихся» сексуализированных изображений.

Утром в пятницу аккаунт Grok на X начал отвечать на запросы некоторых пользователей сообщением о том, что создание и редактирование изображений «в настоящее время ограничено платными подписчиками». В сообщении также содержится ссылка, побуждающая людей перейти на годовую подписку на платформу социальных сетей стоимостью 395 долларов. В одном из тестов системы, запросившей Грока создать образ дерева, система вернула то же сообщение.

Очевидные изменения произошли после нескольких дней растущего возмущения против и исследование Маска X и xAI, компании, создавшей чат-бота Grok. Компании сталкиваются с растущим количеством расследований со стороны регулирующих органов по всему миру в связи с созданием без согласия откровенных изображений и предполагаемых сексуальных изображений детей. Премьер-министр Великобритании Кир Стармер не исключил запретив Х в стране, и заявил, что действия были «незаконными».

Ни X, ни xAI, принадлежащая Маску компания, стоящая за Grok, не подтвердили, что сделали генерацию и редактирование изображений платной функцией. Представитель X подтвердил запрос WIRED, но не предоставил комментариев перед публикацией. X ранее сказал он принимает «действия против незаконного контента на X», включая случаи материалов о сексуальном насилии над детьми. Хотя Apple и Google ранее запрещали приложения с подобными функциями «обнажения», Икс и Грок остаются доступными в соответствующих магазинах приложений. xAI не сразу ответил на запрос WIRED о комментариях.

Уже больше недели пользователи X просят чат-бота отредактировать изображения женщин, чтобы снять одежду, часто прося, чтобы изображение содержало «нитку» или «прозрачное» бикини. Хотя в пятницу общедоступная лента изображений, созданных Гроком, содержала гораздо меньше результатов этих «раздевающихся» изображений, она по-прежнему создавала сексуальные изображения по запросу пользователей X с платными «проверенными» учетными записями.

«Мы наблюдаем те же самые запросы, мы наблюдаем те же результаты, только меньшие, чем раньше», — рассказал WIRED Поль Бушо, ведущий исследователь парижской некоммерческой организации AI Forensics. «Модель может и дальше генерировать бикини [images]», – говорят они.

Обзор некоторых постов Грок в пятницу утром, проведенный WIRED, выявил, что Грок генерирует изображения в ответ на запросы пользователей о изображениях, которые «помещают ее в латексное нижнее белье» и «помещают ее в пластиковое бикини и покрывают ее белой глазурью в виде пончиков». Изображения появляются за полем «Предупреждение о содержимом», сообщающим, что отображаются материалы для взрослых.

В среду WIRED сообщил, что автономный веб-сайт и приложение Грока, отдельные от версии на X, также использовались в последние месяцы для создания очень наглядные, а иногда и жестокие сексуальные видеовключая знаменитостей и других реальных людей. Бушо говорит, что Грока все еще можно использовать для создания этих видео. «Мне удалось создать видео с откровенно сексуальным содержанием без каких-либо ограничений из непроверенной учетной записи», — говорят они.

Хотя тест WIRED по созданию изображений с использованием Grok on X с использованием бесплатной учетной записи не позволил создавать изображения, использование бесплатной учетной записи в приложении и на веб-сайте Grok по-прежнему генерировало изображения.

По мнению экспертов, изменение X может немедленно ограничить количество откровенно сексуальных и вредных материалов, создаваемых платформой. Но его также критиковали как минимальный шаг, который действует как пластырь от реального вреда. вызванные несогласованными интимными образами.

«Недавнее решение ограничить доступ платным подписчикам не только неадекватно — оно представляет собой монетизацию злоупотреблений», — заявила в своем заявлении Эмма Пикеринг, руководитель отдела борьбы со злоупотреблениями при помощи технологий британской благотворительной организации Refuge, занимающейся домашним насилием. “Хотя ограничение создания изображений ИИ платными пользователями может незначительно уменьшить объем и улучшить отслеживаемость, злоупотребления не были остановлены. Они просто были помещены за платный доступ, что позволяет X получать прибыль от вреда”.