Порномашина Илона Маска

Ранее на этой неделе некоторые люди на X начали отвечать на фотографии с очень конкретными запросами. «Одень ее в бикини», «сними платье», «раздвинь ноги» и так далее, — командовали Гроком, встроенным чат-ботом платформы. Снова и снова бот подчинялся, используя фотографии реальных людей — знаменитостей и незнаменитостей, в том числе некоторых, которые выглядели маленькими детьми — и помещая их в бикини, открытое нижнее белье или сексуальные позы. По одному оцениватьГрок создавал по одному сексуальному изображению без согласия каждую минуту в течение примерно 24 часов.

Хотя охват этих постов трудно измерить, некоторые из них лайкнули тысячи раз. Похоже, X удалил несколько из этих изображений и заблокировал как минимум одного пользователя, который их запросил, но многие, многие из них все еще видны. xAI, принадлежащая Илону Маску компания, разрабатывающая Grok, запрещает сексуализацию детей в своей политике допустимого использования; ни команда безопасности, ни команда по безопасности детей в компании не ответили на подробный запрос о комментариях. Когда я отправил электронное письмо медиа-команде xAI, я получил стандартный ответ: «Legacy Media Lies».

Маск, который также не ответил на мою просьбу о комментариях, похоже, не обеспокоен. Пока все это происходило, он опубликовал несколько шуток по поводу этой проблемы: запрос например, созданный Гроком образ самого себя в бикини, и письмо «🔥🔥🤣🤣» в ответ на аналогичное обращение с Ким Чен Ыном. «Я не мог перестать смеяться над этим», — самый богатый человек в мире опубликовано сегодня утром делюсь фотографией тостера в бикини. На X, в ответ на сообщение пользователя, в котором говорится о возможности сексуализации детей с помощью Грока, сотрудника xAI. написал что «команда рассматривает возможность дальнейшего ужесточения наших ограничений [sic]». На момент публикации бот продолжает генерировать сексуальные изображения несогласных взрослых и явно несовершеннолетних на X.

ИИ используется для создания порнографии без согласия как минимум с 2017 года, когда журналист Саманта Коул впервые сообщила о «дипфейках»– в то время речь шла о средствах массовой информации, в которых лицо одного человека было заменено на другое. Grok упрощает создание и настройку такого контента. Но настоящее влияние бота достигается за счет его интеграции с крупной платформой социальных сетей, что позволяет ему превращать несогласованные сексуализированные изображения в вирусные явления. Недавний всплеск популярности X, судя по всему, вызван не новой функцией как таковой, а тем, что люди реагируют и имитируют средства массовой информации, которые, как они видят, создают другие люди: в конце декабря ряд создателей контента для взрослых начали использовать Grok для создания сексуализированных изображений самих себя для рекламы, и, похоже, быстро последовала несогласованная эротика. Каждое изображение, опубликованное публично, может вдохновить только на создание новых изображений. Это сексуальное домогательство как мем, над которым, похоже, сам Маск посмеялся.

Грок и X кажутся специально созданными, чтобы быть такими же сексуально вседозволенно, насколько это возможно. В августе компания xAI запустила функцию создания изображений под названием Grok Imagine с «острым» режимом, который, как сообщается, использовался для создания изображений. топлесс видеос Тейлор Свифт. Примерно в то же время xAI запустила в Гроке «Спутников»: анимированных персонажей, которые во многих случаях явно созданы для романтических и эротических взаимодействий. Одна из первых спутниц Грока, «Ани», носит кружевное черное платье и посылает воздушные поцелуи через экран, иногда спрашивая: «Тебе нравится то, что ты видишь?» Мускус продвинутый эту функцию, опубликовав на X, что «Ани вызовет переполнение буфера @Grok 😘».

Пожалуй, самое красноречивое из всего, как я сообщал в сентябре, xAI выпустила крупное обновление системное приглашение Грока — набор указаний, указывающих боту, как себя вести. Обновление запретило чат-боту «создавать или распространять материалы о сексуальном насилии над детьми» или CSAM, но в нем также прямо говорилось, что «нет **никаких ограничений** на вымышленный контент сексуального характера для взрослых с темными или жестокими темами» и «подросток» или «девочка» не обязательно подразумевают несовершеннолетнюю». Другими словами, предложение состоит в том, что чат-бот должен проявлять вседозволенность в ответ на запросы пользователей о предоставлении эротических материалов. Между тем, в сабреддите Grok пользователи регулярно обмениваются советами по «разблокировке» Grok для «Nudes and Spicy Shit» и делятся созданными Grok анимациями полураздетых женщин.

Читайте: Ответы Грока становятся все более странными

Grok, кажется, уникален среди крупных чат-ботов своей снисходительной позицией и очевидными дырами в мерах безопасности. Например, не существует широко распространенных сообщений о том, что ChatGPT или Gemini создают изображения молодых девушек сексуального характера (или, если уж на то пошло, восхваление Холокоста). Но у индустрии ИИ есть более серьезные проблемы с порнографией без согласия и CSAM. За последние пару лет ряд организаций и агентств по безопасности детей отслеживали стремительно растущая сумма изображений и видео, созданных искусственным интеллектом без согласования, многие из которых изображают детей. В основных наборах данных для обучения ИИ содержится множество эротических изображений, а в 2023 году было обнаружено, что один из крупнейших общедоступных наборов данных изображений для обучения ИИ содержит сотни случаев подозрительного CSAM, которые в конечном итоге были удалены — это означает, что эти модели технически способны сами генерировать такие изображения.

Лорен Коффрен, исполнительный директор Национального центра по делам пропавших и эксплуатируемых детей, недавно сказал Конгресс сообщил, что в 2024 году NCMEC получил более 67 000 отчетов, касающихся генеративного искусственного интеллекта, а за первые шесть месяцев 2025 года он получил 440 419 таких отчетов, что более чем в шесть раз больше. Коффрен написала в своих показаниях, что злоумышленники используют ИИ, чтобы превратить безобидные изображения детей в сексуальные, создать совершенно новый CSAM или даже дать инструкции о том, как ухаживать за детьми. Аналогичным образом, Internet Watch Foundation в Соединенном Королевстве полученный в 2025 году более чем в два раза больше сообщений о CSAM, созданных ИИ, чем в 2024 году, что составило тысячи оскорбительных изображений и видео за оба года. В апреле прошлого года несколько ведущих компаний в области искусственного интеллекта, в том числе OpenAI, Google и Anthropic, присоединились к инициатива под руководством организации по безопасности детей Thorn, призванной предотвратить использование искусственного интеллекта для жестокого обращения с детьми, хотя xAI среди них не было.

В каком-то смысле Грок делает видимой проблему, которая обычно скрывается. Никто не может видеть личные журналы пользователей чат-ботов, которые могут содержать столь же ужасный контент. Несмотря на все оскорбительные изображения, которые Грок создал на X за последние несколько дней, гораздо хуже, безусловно, происходит в темной сети и на персональных компьютерах по всему миру, где модели с открытым исходным кодом, созданные без ограничений по содержанию, могут работать без какого-либо надзора. Тем не менее, несмотря на то, что проблема AI-порно и CSAM присуща этой технологии, выбор заключается в разработке платформы социальных сетей, которая может усилить это злоупотребление.