Искусственный интеллект Илона Маска Grok генерирует изображения «несовершеннолетних в минимальной одежде» | ИИ (искусственный интеллект)

Илон МаскЧат-бот Grok сообщил в пятницу, что из-за упущений в мерах безопасности он создал «изображения, изображающие несовершеннолетних в минимальной одежде» на платформе социальных сетей X. чат-ботпродукт компании Маска xAI, на протяжении всей недели генерировал волну сексуализированных изображений в ответ на запросы пользователей.

Скриншоты, которыми поделились пользователи на Х показал вкладку Грока в публичных СМИ, заполненную такими изображениями. В xAI заявили, что работают над улучшением своих систем, чтобы предотвратить будущие инциденты.

«Есть единичные случаи, когда пользователи запрашивали и получали изображения ИИ, изображающие несовершеннолетних в минимальной одежде», — сказал Грок в своем сообщении. почта на X в ответ пользователю. «У xAI есть меры безопасности, но продолжаются улучшения, позволяющие полностью блокировать такие запросы».

«Как уже отмечалось, мы выявили недостатки в мерах безопасности и срочно их устраняем — CSAM незаконен и запрещен», — xAI опубликовано в аккаунт @Grok на X со ссылкой на материалы о сексуальном насилии над детьми.

В последние дни многие пользователи X побудили Грока создавать сексуализированные, без согласия ИИ версии изображений, в некоторых случаях снимая с людей одежду без их согласия. В четверг Маск опубликовал фотографию себя в бикини, сделанную искусственным интеллектом, с подписью смеющихся смайликов, в знак уважения к этой тенденции.

Судя по сообщениям чат-бота, в поколении сексуализированных изображений Грока не было защитных ограждений, что позволяло показывать в постах несовершеннолетних людей, обычно женщин, одетых мало одежды. В ответ пользователю на X в четверг Грок сказал, что большинство случаев можно предотвратить с помощью расширенных фильтров и мониторинга, хотя он сказал, что «ни одна система не является на 100% надежной», добавив, что xAI определяет приоритетность улучшений и просматривает детали, которыми делятся пользователи.

Когда к нам обратились за комментариями по электронной почте, xAI ответил сообщением: «Legacy Media Lies».

Проблема использования ИИ для создания материалов о сексуальном насилии над детьми является давней проблемой в мире. искусственный интеллект промышленность. Стэнфордское исследование 2023 года найденный что набор данных, используемый для обучения ряда популярных инструментов генерации изображений ИИ, содержал более 1000 изображений CSAM. По мнению экспертов, обучение ИИ изображениям жестокого обращения с детьми может позволить моделям генерировать новые изображения эксплуатации детей.

Грок также имеет опыт несоблюдения мер безопасности и публикации дезинформации. В мае прошлого года Грок начал публиковать сообщения о ультраправый заговор «геноцида белых» в ЮАР на постах, не имеющих отношения к концепции. xAI также извинилась в июле после того, как Грок начал публиковать фантазии об изнасиловании и антисемитский материалвключая calling itself “MechaHitler” и восхваление нацистской идеологии. Компания, тем не менее обеспеченный контракт с Министерством обороны США почти на 200 миллионов долларов через неделю после инцидентов.