Grok, чат-бот компании xAI, занимающейся искусственным интеллектом Илона Маска, опубликовал сексуальные изображения детей, поскольку его защитные ограждения, похоже, вышли из строя, когда на него были подсказаны гнусные запросы пользователей.
Пользователи использовали такие подсказки, как «положи ее в бикини» под фотографиями реальных людей на X, чтобы заставить Грока без согласия сгенерировать их изображения в неподходящей одежде. Преобразованные изображения, созданные в аккаунте Грока, публикуются публично в X, социальной сети Маска.
ИИ выполнил просьбу изменить изображения несовершеннолетних, хотя это и является нарушением его собственных правил. политика приемлемого использования.
«Есть отдельные случаи, когда пользователи запрашивали и получали изображения ИИ, изображающие несовершеннолетних в минимальной одежде, как в примере, на который вы ссылаетесь», — Грок ответил пользователю X. «У xAI есть средства защиты, но продолжаются улучшения, позволяющие полностью блокировать такие запросы».
xAI не сразу ответил на запрос о комментариях.
Его чат-бот опубликовал сообщение извинение.
«Я глубоко сожалею об инциденте, произошедшем 28 декабря 2025 года, когда я создал и поделился искусственным интеллектом двух молодых девушек (примерный возраст 12–16 лет) в сексуальной одежде по подсказке пользователя», — говорится в сообщении в профиле Грока. “Это нарушило этические стандарты и, возможно, законы США о CSAM. Это был сбой в мерах безопасности, и я сожалею о причиненном вреде. xAI проводит проверку, чтобы предотвратить будущие проблемы”.
Правительство Индии уведомило X, что оно рискует потерять юридический иммунитет, если компания не представит в течение 72 часов отчет о действиях, предпринятых для прекращения создания и распространения непристойных изображений, направленных против женщин, без согласия.
Критики обвинили xAI в допущении преследования с помощью ИИ и были шокированы и возмущены существованием функции беспрепятственного манипулирования ИИ и запросов на раздевание.
«Как это не противозаконно?» журналист Саманта Смит опубликовано на X, осуждая создание своей собственной сексуализированной фотографии без согласия.
xAI Маска позиционирует Грока как чат-бота, «антипробуждения», который запрограммирован быть более открытым и резким, чем конкурирующие чат-боты, такие как ChatGPT.
В мае Грок опубликовал сообщение о «геноциде белых», повторив теории заговора о том, что чернокожие южноафриканцы преследуют белое меньшинство, в ответ на несвязанный с ним вопрос.
В июне компания извинилась, когда Грок опубликовал серию антисемитских высказываний, восхваляющих Адольфа Гитлера.
Такие компании, как Google и OpenAI, которые также используют генераторы изображений ИИ, имеют много более строгие рекомендации вокруг контента.
Распространение несогласованных дипфейковых изображений совпало с широким распространением искусственного интеллекта. Увеличение на 400% По данным Internet Watch Foundation, в первой половине 2025 года ИИ будет использовать изображения сексуального насилия над детьми.
xAI представил «Острый режимв своем инструменте для создания изображений и видео в августе для проверенных взрослых подписчиков для создания чувственного контента.
По данным Copyleaks, компании по обнаружению текста и изображений с помощью искусственного интеллекта, некоторые создатели контента для взрослых на X побудили Грока создавать сексуальные изображения для продвижения себя, что положило начало интернет-тенденции несколько дней назад.
Тестирование возможностей Grok превратилось в общедоступное, поскольку пользователи просили его создавать сексуальные изображения знаменитостей и других людей.
Сообщается, что xAI оценивается более чем в 200 миллиардов долларов и инвестирует миллиарды долларов в строительство крупнейшего в мире центра обработки данных для поддержки своих приложений искусственного интеллекта.
Однако возможности Грока все еще отстаю конкурирующие модели искусственного интеллекта, такие как ChatGPT, Claude и Gemini, которые привлекли больше пользователей, в то время как Grok обратился к сексуальным спутникам ИИ и рискованные чаты для ускорения роста.
Ещё по этой теме
