Правительства запретили чат-бота Grok из-за фотографий в бикини без согласия: –

Индонезия и Малайзия временно заблокирован Чат-бот X, Grok, на выходных после того, как в конце прошлого года он сделал множество фейковых изображений, публично сексуализирующих в основном женщин, а в некоторых случаях и детей.

Правительства по всему миру также начинают расследования. Последнее сообщение появилось в понедельник, когда британский регулятор СМИ Ofcom сообщил, что запустил зонд в платформу социальных сетей, что может привести к бану.

Грок уже некоторое время создавал изображения людей откровенно сексуального характера. Но в конце декабря эта проблема привлекла широкое внимание, поскольку люди использовали чат-бота для редактирования большого количества существующих изображений, отмечая бота в комментариях и давая ему подсказки, такие как «положи ее в бикини». Хотя Grok не ответил на все запросы, во многих случаях он согласился. В некоторых случаях, как отметила старший следователь и научный сотрудник Bellingcat Колина Колтай, пользователи могут заставить Грока создавать фронтальную обнаженную натуру.

Неисчислимое количество женщин, а в некоторых случаях и детей, как Рейтер впервые сообщалось, что Грок сексуализировал свои изображения в Интернете без их разрешения, включая одна из матерей детей владельца X Илона Маска.

Это необычно, когда так много правительств принимают меры против компании, занимающейся социальными сетями, но в данном случае все по-другому, сказала Риана Пфефферкорн, научный сотрудник Стэнфордского университета. «Сексуальное насилие над детьми [material] является вопиюще незаконным практически повсюду на Земле».

В прошлую пятницу X ограничил функцию создания изображений с помощью искусственного интеллекта Grok, сделав ее доступной только для платных подписчиков. Неплатящие пользователи по-прежнему могут публиковать людей в бикини всего несколькими щелчками мыши, но они могут отправить только несколько таких запросов, прежде чем им будет предложено подписаться на премиум-членство, которое стоит 8 долларов в месяц.

– проанализировало общедоступные изображения Грока, созданные ранее в этом месяце, и обнаружило, что через несколько дней после начала 2026 года оно прекратило делать изображения полураздетых женщин. Однако иногда оно все еще предлагает мужчин в бикини.

xAI, материнская компания X, с прошлого года продвигает контент для взрослых вместе с Grok. В мае, Колтай впервые заметил что чат-бот будет генерировать изображения откровенно сексуального характера в ответ на запросы X типа «сними одежду». Прошлым летом Grok представил в своем автономном приложении «пикантный режим», который позволял пользователям надевать бикини на персонажей, созданных искусственным интеллектом.

Бен Уинтерс, директор по искусственному интеллекту и конфиденциальности в правозащитной организации Consumer Federation of America, сказал, что Grok теперь не только позволяет редактировать изображения реальных людей, но также предоставляет удобную платформу для распространения через X. «Это дальнейшая и значительная эскалация», — сказал он.

Правительства возмущены решением X ограничить доступ подписчиков к функции создания изображений. Об этом заявила министр технологий Великобритании Лиз Кендалл. Скай Ньюс «Оскорбительно говорить, что вы все равно можете получить доступ к этой услуге, если заплатите за нее».

Правительство Индонезии обнаружило, что Гроку не хватает эффективных мер, которые мешали бы пользователям создавать без согласия порнографический контент, основанный на реальных жителях Индонезии, сообщило сначала Associated Press. сообщил.

«Правительство рассматривает дипфейки сексуального характера без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявил в своем заявлении министр связи и цифровых технологий Индонезии Меутья Хафид.

AP также сообщило, что Grok будет оставаться заблокированным в Малайзии до тех пор, пока не будут установлены эффективные меры защиты от злоупотреблений.

В ответ на вопросы – представитель X Виктория Гиллеспи указала на заявление опубликовано 3 января, в котором говорилось, что «любой, кто использует Grok или побуждает его создавать незаконный контент, пострадает от тех же последствий, как если бы он загружал незаконный контент». Заявление повторило заявление Маска. почта ранее в тот же день.

Подобный подход является «попыткой снять с себя ответственность», заявил Уинтерс.

«Конечно, не только пользователь подсказывает это в одиночку», — сказал он. «Это тот факт, что изображение не было бы создано, если бы не… инструмент, который они сделали».

До того, как волна откровенных дипфейков, сгенерированных Гроком без согласия, достигла X, другие производители ИИ добавили аналогичные возможности в свои чат-боты. В ноябре Google выпустила новую модель генерации изображений Nano Banana Pro. В декабре OpenAI обновила свою модель ChatGPT Images. Оба также могут редактировать изображения, чтобы люди были в бикини, Wired сообщил в прошлом месяце. Ветка на Reddit, распространяющая такие изображения, была удалена.

В другом Х постМаск предположил, что, поскольку инструменты других компаний, занимающихся искусственным интеллектом, также имеют эту функцию раздевания, давление со стороны правительств является формой цензуры, направленной на его платформу.

Колтай отметил, что тенденция к созданию интимных СМИ, генерируемых искусственным интеллектом, формируется в течение последних года или двух. «Вы увидите эту рекламу даже в Instagram — это как загрузить фотографию себя и вашего возлюбленного, и вы, ребята, сможете поцеловаться», — сказала она. «Итак, это поцелуи и объятия, а затем вы видите, что есть более экстремальный спектр».

«Очевидно, что в технологической отрасли существует огромная проблема, потому что мы видели это на многих платформах, и [there is] не всегда хорошие руководящие принципы, границы или правила», — сказал Колтай.

Критика в США была гораздо более приглушенной, чем в других странах. Сенатор Тед Круз, республиканец от Техаса, опубликовано на X В среду говорится, что изображения «необходимо снять и установить ограждения». Он также сказал, что его «воодушевляет то, что X объявил, что они серьезно относятся к этим нарушениям и работают над удалением любых незаконных изображений и оскорбляющих пользователей со своей платформы».

В прошлом году Грок часто вызывал споры. Прошлым летом, чат-бот называл себя «MechaHitler» и извергал антисемитские теории заговора.

Приложения с так называемыми возможностями обнажения существуют уже много лет, в основном в тени Интернета. Уинтерс сказал, что чиновникам необходимо сделать больше для контроля над некоторыми функциями X. «Есть искажения информации о безопасности их продукции. Имеются нарушения условий обслуживания», — сказал он.

«Мы не видели каких-либо существенных действий со стороны каких-либо агентств США, будь то штатные или федеральные, которые имели бы полномочия обеспечивать соблюдение закона», – сказал Уинтерс.