Чат-бот Grok Илона Маска в четверг начал ограничивать возможность для неплатящих пользователей создавать дипфейковые, сексуальные изображения после глобального сопротивления со стороны пользователей и правительств.
В конце прошлого месяца некоторые пользователи начали отмечать Грок на платформе X в социальных сетях Маска, используя такие подсказки, как «положи ее в бикини», чтобы без согласия создавать изображения реальных людей на X.
Трансформированные изображения, в том числе знаменитостей, политиков и некоторых несовершеннолетних, были созданы Гроком и опубликованы публично на X.
До того, как вступили в силу нынешние ограничения, Маск участвовал в тенденции раздевания ИИ, поручив Гроку создавать изображения себя в бикини.
Пользователи и власти жаловались и угрожали подать в суд или наказать X. Грок сначала извинился за неуместные фотографии людей, похожих на детей.
Теперь X закрыл спорные возможности Грока по морфингу за платным доступом.
Правительства, в том числе Соединенного Королевства и Европейской комиссии, заявили, что они не удовлетворены мерами безопасности X, поскольку возможность создавать и редактировать изображения все еще ограничена. доступный платящим пользователям.
“Хотя ограничение генерации изображений ИИ только платными пользователями может незначительно сократить объемы и улучшить отслеживаемость, злоупотребления не были остановлены. Они просто были помещены за платный доступ, позволяя X извлекать выгоду из вреда”, – сказала Эмма Пикеринг, руководитель отдела злоупотреблений с использованием технологий и расширения экономических возможностей в Refuge, в своем заявлении.
По мере роста общественного недовольства тем, что многие называют преследованием с помощью ИИ, регулирующие органы обратили на это внимание и предложили запретить X в своих странах.
Премьер-министр Великобритании Кейр Стармер заявил, что X «должен взять под контроль» эту «отвратительную» тенденцию. «Мы примем меры по этому поводу, потому что это просто недопустимо», — сказал Стармер.
В завуалированном ответе Маск, похоже, раскритиковал британские регуляторы возмущение репостнув утверждение о том, что ChatGPT также разрешает создание изображения нереального человека в бикини посредством творческих, неявных подсказок.
Осудив Грока за создание сексуализированных изображений, Европейская комиссия обязала X сохранить все документы, касающиеся Грока, чтобы обеспечить соблюдение ее правил.
«Мы должны иметь возможность иметь к ним доступ, если мы прямо об этом попросим», — заявил представитель Комиссии в своем заявлении. пресс-конференция.
Франция, Индия, Малайзия и Бразилия также внимательно изучают платформу.
Хотя общественные деятели изначально были целью раздевания ИИ, вскоре оно перешло к частным лицам. Согласно анализу компании Copyleaks, занимающейся обнаружением искусственного интеллекта, 3 января один пользователь 50 раз в день предлагал Гроку создать без согласия сексуальные изображения женщин на рабочем месте.
Группа гендерной справедливости «Ультрафиолет» организовал кампанию оказать давление на Apple и Google, чтобы они удалили X из своих магазинов приложений на том основании, что X нарушает их правила сексуального насилия над детьми.
Маск позиционировал своего чат-бота как более острую альтернативу по сравнению с такими альтернативами, как Gemini, ChatGPT и Claude, которые имеют больше возможностей. ограничительные руководящие принципы вокруг явных запросов контента.
По теме
