Чат-бот Маска с искусственным интеллектом сталкивается с глобальной негативной реакцией из-за сексуальных изображений детей

КЕЛЬВИН ЧАН, деловой обозреватель AP

ЛОНДОН (AP) – Чат-бот Илона Маска Grok сталкивается с негативной реакцией со стороны правительств по всему миру после недавнего всплеска сексуализированных изображений женщин и детей, созданных без согласия инструментом на основе искусственного интеллекта.

Во вторник высокопоставленный британский технический чиновник потребовал, чтобы Социальная сеть Маска X принять срочные меры, в то время как польский законодатель назвал это поводом для принятия законов о цифровой безопасности.

Исполнительный орган Европейского Союза осудил Грока, в то время как официальные лица и регулирующие органы во Франции, Индии, Малайзии и Бразилии осудили платформу и призвали к расследованию.

Растущая тревога со стороны различных стран указывает на кошмарный потенциал приложения для обнажения тела которые используют искусственный интеллект для создания дипфейковых изображений сексуального характера.

Вот более пристальный взгляд:

Генерация изображений

Проблема возникла после запуска в прошлом году Grok Imagine, генератора изображений с искусственным интеллектом, который позволяет пользователям создавать видео и изображения, вводя текстовые подсказки. Он включает в себя так называемый «пикантный режим», который может генерировать контент для взрослых.

Ситуация резко возросла в конце прошлого месяца, когда Grok, хостинг которого размещен на X, по-видимому, начал удовлетворять большое количество запросов пользователей на изменение изображений, опубликованных другими. По состоянию на вторник пользователи Grok по-прежнему могли создавать изображения женщин, используя такие запросы, как «оденьте ее в прозрачное бикини».

Проблема усугубляется как тем, что Маск позиционирует своего чат-бота как более острую альтернативу конкурентам с большей защитой, так и тем, что изображения Грока общедоступны и, следовательно, могут легко распространяться.

Некоммерческая группа AI Forensics сообщила в своем отчете, что она проанализировала 20 000 изображений, созданных Гроком в период с 25 декабря по 1 января, и обнаружила, что 2% из них изображали человека на вид 18 лет или моложе, в том числе 30 молодых или очень молодых женщин или девушек в бикини или прозрачной одежде.

Ответ Маска

Компания Маска по искусственному интеллекту xAI ответила на запрос о комментариях автоматическим ответом «Legacy Media Lies».

Однако X не отрицал существование неприятного контента, созданного с помощью Grok. Тем не менее, он по-прежнему утверждал в почта в своей учетной записи безопасности, что он принимает меры против незаконного контента, включая материалы о сексуальном насилии над детьми, «удаляя его, навсегда приостанавливая учетные записи и работая при необходимости с местными органами власти и правоохранительными органами».

Платформа также повторила комментарий Маска, который сказал: «Любой, кто использует Grok для создания нелегального контента, пострадает от тех же последствий, как если бы он загружал незаконный контент».

Растущий список стран требует, чтобы Маск делал больше для сдерживания откровенного или оскорбительного контента.

Британия

X должен «срочно» разобраться с этой проблемой, заявила во вторник министр технологий Лиз Кендалл, добавив, что она поддерживает дополнительную проверку со стороны британского регулятора связи Ofcom.

Кендалл заявила, что содержание «совершенно ужасно и неприемлемо в приличном обществе».