Изъяны в искусственном интеллекте Илона Маска позволяют сексуализировать изображения несовершеннолетних и распространять их на X

Грок, чат-бот магната Илон Маскразрешил пользователям создание сексуализированных изображений детей и их распространение в X — действие, которое обходит защиту этого инструмента искусственного интеллекта.

В последние дни Грок получил доступ к … запрос от некоторых пользователей раздевать женщин и детей которые появляются на изображениях, которыми они поделились с «чат-ботом», как сообщает Bloomberg.

Это постановление Грока Это началось в последние дни года и ситуация обострялась, пока в канун Нового года она не распространилась по всей платформе.

Проблема усугубляется использованием фотографий несовершеннолетних: это тип контента, известный как материалы о сексуальном насилии над детьми (CSAM), незаконный и запрещенный собственной политикой допустимого использования xAI, компании, ответственной за Grok.

В частности, в правилах указано, что в соответствии с законом их сервис не может использоваться для «изображения людей в порнографической манере». ни «сексуализация или эксплуатация детей».

«Мы выявили недостатки в гарантиях и мы решаем их срочно«CSAM является незаконным и запрещенным», — признал Грок в ответ пользователю, раскрывшему проблему. Ответственные за Грока пока не прокомментировали ситуацию.