Малайзия и Индонезия стали первыми странами, заблокировавшими Грока Маска из-за сексуальных изображений ИИ

Малайзия и Индонезия стали первыми странами, которые заблокировали Grok, чат-бота с искусственным интеллектом, разработанного компанией Илона Маска xAI, поскольку среди мировых властей росли опасения, что он используется не по назначению для создания изображений откровенно сексуального характера и без согласия.

Эти шаги отражают растущее внимание к генеративным инструментам искусственного интеллекта, которые могут создавать реалистичные изображения, звук и текст, а также опасения, что существующие меры защиты не могут предотвратить злоупотребление ими.

Чат-бот Grok, доступ к которому осуществляется через социальную сеть Маска X, подвергся критике за создание манипулируемых изображений, включая изображения женщин в бикини или откровенно сексуальных позах, а также изображения с участием детей.

На прошлой неделе Грок ограничил создание и редактирование изображений платными пользователями после глобальной реакции на сексуализированные дипфейки людей, но критики говорят, что это не полностью решило проблему.

Отправленный по электронной почте запрос о комментариях Associated Press в адрес xAI привел к автоматическому ответу с адреса электронной почты службы поддержки СМИ, в котором говорилось: «Legacy Media Lies». Это было то же самое сообщение, полученное в другом электронном письме, когда его попросили прокомментировать глобальную негативную реакцию.

Регулирующие органы двух стран Юго-Восточной Азии заявили, что существующие меры контроля не предотвращают создание и распространение фейкового порнографического контента, особенно с участием женщин и несовершеннолетних. Правительство Индонезии временно заблокировало доступ к Гроку в субботу, а в воскресенье – в Малайзии.

«Правительство рассматривает дипфейки сексуального характера без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявил в субботу министр связи и цифровых технологий Индонезии Меутья Хафид.

В министерстве заявили, что эта мера направлена на защиту женщин, детей и общества в целом от фейкового порнографического контента, созданного с использованием искусственного интеллекта.

Первоначальные результаты показали, что у Грока отсутствуют эффективные меры защиты, которые могли бы помешать пользователям создавать и распространять порнографический контент на основе реальных фотографий жителей Индонезии, заявил в отдельном заявлении генеральный директор по надзору за цифровым пространством Александр Сабар.

Он сказал, что такая практика рискует нарушить неприкосновенность частной жизни и права на изображение, когда фотографии манипулируются или передаются без согласия, что наносит психологический, социальный и репутационный вред.

В Куала-Лумпуре Комиссия по коммуникациям и мультимедиа Малайзии в воскресенье распорядилась о временном ограничении деятельности Грока после того, как она заявила, что это «неоднократное неправильное использование» инструмента для создания непристойных, сексуально откровенных и манипулируемых изображений без согласия, включая контент с участием женщин и несовершеннолетних.

Регулятор заявил, что уведомления, направленные в этом месяце X Corp. и xAI с требованием более жестких мер безопасности, вызвали реакцию, основанную в основном на механизмах информирования пользователей.

«Ограничение введено в качестве превентивной и соразмерной меры, пока продолжаются правовые и нормативные процессы», — заявили в ведомстве, добавив, что доступ будет оставаться заблокированным до тех пор, пока не будут приняты эффективные меры защиты.

В Великобритании началось расследование

Grok, запущенный в 2023 году, можно бесплатно использовать на X. Пользователи могут задавать ему вопросы в социальной сети и отмечать сообщения, созданные ими непосредственно, или ответы на сообщения других пользователей. Прошлым летом компания добавила функцию генератора изображений Grok Imagine, которая включает в себя так называемый пикантный режим, позволяющий генерировать контент для взрослых.

Ограничения в Юго-Восточной Азии вводятся на фоне растущего внимания к Гроку в других странах, в том числе в Европейском Союзе, Великобритании, Индии и Франции.

В понедельник британский регулятор СМИ заявил, что начал официальное расследование того, «выполнил ли Грок свои обязанности по защите людей в Великобритании от незаконного контента».

Регулятор Ofcom заявил, что созданные Гроком изображения сексуализированных детей или раздетых людей могут приравниваться к порнографии или материалам о сексуальном насилии над детьми.

«Контент, созданный и распространенный с помощью Grok в последние дни, вызвал глубокую тревогу», — заявила министр технологий Лиз Кендалл.

Канада не рассматривает вопрос о запрете X, заявил министр искусственного интеллекта Эван Соломон в своем сообщении на платформе на прошлой неделе. В его офисе добавили, что дискуссии по поводу дипфейков продолжаются.