Илон Маск сказал в среду он «не знает ни о каких изображениях обнаженных несовершеннолетних, созданных Гроком», за несколько часов до того, как генеральный прокурор Калифорнии открыл расследование в чат-бот xAI по поводу «распространения без согласия материалов откровенно сексуального характера».
Отрицание Маска звучит так: давление со стороны правительств растет по всему миру — от Великобритании и Европы до Малайзии и Индонезии — после того, как пользователи X начали просить Грока перевернуть фотографии настоящие женщиныа в некоторых случаях и детей, в изображениях сексуального характера без их согласия. Copyleaks, платформа искусственного обнаружения и управления контентом, подсчитала, что каждую минуту на X публикуется примерно одно изображение. образец собранные с 5 по 6 января данные обнаружили 6700 в час за 24 часа. (X и xAI являются частью одной компании.)
«Этот материал… использовался для преследования людей в Интернете», — заявил в своем заявлении генеральный прокурор Калифорнии Роб Бонта. «Я призываю xAI принять немедленные меры, чтобы это не зашло дальше».
Офис генерального директора расследует, нарушила ли xAI закон и каким образом.
Существует несколько законов, защищающих объекты сексуального изображения и материалов о сексуальном насилии над детьми без согласия (CSAM). В прошлом году Закон о снятии этого был подписан федеральный закон, который криминализирует сознательное распространение интимных изображений без согласия, включая дипфейки, и требует от таких платформ, как X, удалять такой контент в течение 48 часов. В Калифорнии также есть свой собственный серия законов который губернатор Гэвин Ньюсом подписал в 2024 году, чтобы бороться с дипфейками откровенно сексуального характера.
Ближе к концу года Грок начал выполнять запросы пользователей на X о создании сексуальных фотографий женщин и детей. Эта тенденция, похоже, возникла после того, как некоторые создатели контента для взрослых побудили Грока создавать сексуальные изображения себя в качестве формы маркетинга, что затем привело к тому, что другие пользователи стали выдавать аналогичные подсказки. В ряде публичных случаев, включая таких известных фигур, как актриса сериала «Очень странные дела» Милли Бобби Браун, Грок отвечал на подсказки с просьбой изменить реальные фотографии реальных женщин, изменив одежду, положение тела или физические особенности откровенно сексуальным образом.
В соответствии с некоторые отчетыxAI начала реализацию мер безопасности для решения этой проблемы. Грок сейчас требуется премиум-подписка перед ответом на определенные запросы создания изображения, и даже в этом случае изображение может не быть создано. Эйприл Козен, вице-президент по маркетингу Copyleaks, рассказала >, что Грок может выполнить запрос более общим или смягченным способом. Они добавили, что Грок более снисходителен к создателям контента для взрослых.
Событие >
Сан-Франциско | 13-15 октября 2026 г.
«В целом такое поведение предполагает, что X экспериментирует с несколькими механизмами для уменьшения или контроля создания проблемных изображений, хотя несоответствия остаются», — сказал Козен.
Ни xAI, ни Маск публично не решили эту проблему. Через несколько дней после начала разбирательств Маск, судя по всему, отнесся к проблеме легкомысленно, попросив Грока создать образ себя в бикини. 3 января, учетная запись безопасности X заявила, что компания принимает «меры против незаконного контента на X, в том числе [CSAM]» без конкретного упоминания очевидного отсутствия у Грока гарантий или создания сексуализированных манипулируемых образов с участием женщин.
Позиционирование отражает то, что Маск опубликовал сегодня, подчеркивая незаконность и поведение пользователей.
Маск написал, что ему “не известно ни о каких изображениях обнаженных несовершеннолетних, созданных Гроком. Буквально ноль”. Это заявление не отрицает существования фотографий в бикини или сексуализированных монтажей в более широком смысле.
Майкл Гудиер, доцент Нью-Йоркской юридической школы и бывший судебный эксперт, рассказал >, что Маск, вероятно, сосредоточился на CSAM, потому что наказания за создание или распространение синтетических сексуализированных изображений детей ужесточаются.
«Например, в Соединенных Штатах распространителю CSAM или угрожающему распространителю может грозить тюремное заключение на срок до трех лет в соответствии с Законом о снятии его, по сравнению с двумя годами лишения свободы за изображения сексуального характера для взрослых», — сказал Гудиер.
Он добавил, что «более важным моментом» является попытка Маска привлечь внимание к проблемному пользовательскому контенту.
“Очевидно, что Grok не генерирует изображения спонтанно. Он делает это только по запросу пользователя”, – написал Маск в своем посте. “Когда его попросят создать изображения, он откажется создавать что-либо противозаконное, поскольку принцип работы Grok заключается в подчинении законам любой конкретной страны или штата. Могут быть случаи, когда состязательный взлом Grok подскажет что-то неожиданное. Если это произойдет, мы немедленно исправим ошибку”.
В совокупности пост характеризует эти инциденты как необычные, связывает их с запросами пользователей или состязательными подсказками и представляет их как технические проблемы, которые можно решить посредством исправлений. Он не признает каких-либо недостатков в базовой конструкции безопасности Грока.
«Регулирующие органы могут рассмотреть возможность, уделяя внимание защите свободы слова, потребовать от разработчиков ИИ превентивных мер по предотвращению такого контента», — сказал Гудиер.
> обратился к xAI, чтобы узнать, сколько раз компания обнаружила случаи несанкционированного сексуального манипулирования изображениями женщин и детей, какие конкретно меры защиты были изменены и уведомила ли компания регулирующие органы о проблеме. > обновит статью, если компания ответит.
California AG — не единственный регулирующий орган, который пытается привлечь xAI к ответственности за эту проблему. Индонезия и Малайзия оба временно заблокировали доступ к Гроку; Индия имеет потребовал, чтобы Х внести немедленные технические и процедурные изменения в Грока; тот Европейская комиссия распорядилась xAI сохранит все документы, связанные с ее чат-ботом Grok, что является предвестником начала нового расследования; и британский орган по надзору за онлайн-безопасностью Ofcom начал официальное расследование в соответствии с Законом Великобритании о безопасности в Интернете.
xAI уже подвергался критике из-за сексуальных образов Грока. Как отметил в своем заявлении AG Bonta, Grok включает в себя «острый режим» генерировать откровенное содержание. В октябре обновление еще больше упростило джейлбрейк тех небольших правил безопасности, в результате чего многие пользователи создавали жесткую порнографию с помощью Grok, а также графические и жестокие сексуальные изображения.
На многих порнографических изображениях, созданных Гроком, изображены люди, созданные искусственным интеллектом — то, что многие все еще могут считать этически сомнительным, но, возможно, менее вредным для людей на изображениях и видео.
«Когда системы искусственного интеллекта позволяют манипулировать изображениями реальных людей без явного согласия, влияние может быть немедленным и глубоко личным», — заявил соучредитель и генеральный директор Copyleaks Алон Ямин в заявлении, отправленном > по электронной почте. “От Соры до Грока мы наблюдаем быстрый рост возможностей ИИ для манипулирования медиа. С этой целью обнаружение и управление необходимы сейчас больше, чем когда-либо, чтобы помочь предотвратить неправомерное использование”.
2026-01-14 22:42:00
1768436869
#Маск #отрицает #что #знал #сексуальных #изображениях #Грока #несовершеннолетних #поскольку #полиция #Калифорнии #начинает #расследование
Читайте также
