XAI Маска вводит новые ограничения для Грока после скандала из-за сексуальных изображений

Стартап Илона Маска xAI наложил некоторые ограничения на функцию генерации изображений своего чат-бота Grok на платформе социальных сетей X после того, как использование этим инструментом искусственного интеллекта для создания и публикации сексуализированных изображений вызвало широкую негативную реакцию.

Пользователи могли напрямую на X попросить Грока редактировать фотографии людей, в том числе снимать предметы одежды и ставить их в сексуальные позы — часто без их согласия. Затем Грок опубликовал эти изображения в ответах на платформе социальной сети.

В пятницу Грок сообщил пользователям X, что функции создания и редактирования изображений теперь доступны только платным подписчикам.

Судя по всему, этот шаг помешал Гроку создавать и автоматически публиковать такие изображения в ответ на сообщения или комментарии пользователей в социальной сети.

Но пользователи X по-прежнему могли создавать сексуальные изображения с помощью вкладки Grok, где люди напрямую взаимодействуют с чат-ботом внутри платформы социальных сетей, а затем сами публикуют изображения в X.

Автономное приложение Grok, которое работает отдельно от X, также по-прежнему позволяло пользователям создавать изображения без подписки.

Изменения не удовлетворяют власти

ТИзменения не удовлетворили власти Европы. Правительства всего мира осудили платформу и начали расследования.

«Это не меняет нашей фундаментальной проблемы. Платная подписка или бесплатная подписка, мы не хотим видеть такие изображения. Это так просто», – сказал Томас Ренье, представитель исполнительной комиссии Европейского Союза. Ранее комиссия раскритиковала Грока за «незаконное» и «ужасное» поведение.

Британское правительство также было недовольно. Изменения Грока «не являются решением», заявил Герайнт Эллис, представитель премьер-министра Великобритании Кейра Стармера, который в четверг пригрозил неустановленными мерами против X.

Стармер, выступая на радио Greatest Hits, сказал, что X нужно «собраться и записать этот материал. Мы примем меры по этому поводу, потому что это просто недопустимо».

Франция, Малайзия и Индия также внимательно изучают платформу, а бразильский законодатель призвал провести расследование. Европейская комиссия обязала X хранить все внутренние документы и данные, касающиеся Грока, до конца 2026 года в рамках более широкого расследования в соответствии с законом ЕС о цифровой безопасности.

Тем временем три сенатора-демократа США призывают Apple и Google, принадлежащую Alphabet, удалить X и Grok из своих магазинов приложений.

В письме, опубликованном в пятницу, сенаторы Рон Уайден от Орегона, Бен Рэй Лухан от Нью-Мексико и Эдвард Марки от Массачусетса заявили, что Google и Apple «должны удалить эти приложения из магазинов приложений до тех пор, пока не будут устранены нарушения политики X».

Google и Apple не сразу ответили на сообщения с просьбой прокомментировать ситуацию. X не сразу ответил на сообщение.

«Острый режим» Грока

Grok можно использовать бесплатно для пользователей X, которые могут задавать ему вопросы в социальных сетях. Они могут отмечать это либо в сообщениях, которые сами создали, либо в ответах на сообщения других пользователей.

Grok был запущен в 2023 году. Прошлым летом компания добавила функцию генератора изображений Grok Imagine, которая включает в себя так называемый «пикантный режим», позволяющий генерировать контент для взрослых.

Проблема усугубляется как тем, что Маск позиционирует своего чат-бота как более острую альтернативу конкурентам с большей защитой, так и тем, что изображения Грока общедоступны и, следовательно, могут легко распространяться.

На прошлой неделе Маск заявил, что любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при прямой загрузке такого материала.