Калифорния начала расследование по поводу детской порнографии на сайте искусственного интеллекта Илона Маска

САКРАМЕНТО — Калифорния объявила о расследовании Компания Илона Маска по искусственному интеллекту xAI В среду губернатор Гэвин Ньюсом заявил, что сайт социальной сети, принадлежащий миллиардеру, является «питательной средой для хищников, которые распространяют без согласия откровенно сексуальные дипфейки искусственного интеллекта».

Grok, чат-бот xAI, включает в себя функции генерации изображений, которые позволяют пользователям превращать существующие фотографии в новые изображения. Вновь созданные изображения затем публикуются публично на X.

В некоторых случаях пользователи создавали откровенно сексуальные или несогласованные изображения на основе реальных людей, включая измененные изображения, на которых люди кажутся частично или полностью раздетыми. Другие создали изображения, на которых изображены несовершеннолетние, что вызвало критику по поводу отсутствия достаточных препятствий для запрета создания детской порнографии.

Сайт социальной сети ранее заявил: “Мы принимаем меры против незаконного контента на X, включая материалы о сексуальном насилии над детьми (CSAM), удаляя его, навсегда приостанавливая учетные записи и работая при необходимости с местными органами власти и правоохранительными органами. Любой, кто использует Grok или побуждает его создавать незаконный контент, пострадает от тех же последствий, как если бы он загружал незаконный контент”.

Ньюсом назвал сексуализированные изображения, создаваемые на платформе, «мерзкими». Атти. Генерал Роб Бонта заявил, что его офис будет использовать «все имеющиеся в нашем распоряжении инструменты для обеспечения безопасности калифорнийцев».

«Лавина сообщений с подробным описанием несогласованных материалов откровенно сексуального характера, которые xAI подготовила и разместила в Интернете в последние недели, шокирует», — заявил Бонта в своем заявлении в среду. “Этот материал, на котором изображены женщины и дети в обнаженных и откровенно сексуальных ситуациях, использовался для преследования людей в Интернете. Я призываю xAI принять незамедлительные меры, чтобы это не пошло дальше. Мы не терпим к созданию и распространению с помощью ИИ без согласия интимных изображений или материалов о сексуальном насилии над детьми”.

В 2024 году Ньюсом подписал пару законопроектов, которые запрещают создавать, хранить или распространять изображения несовершеннолетних сексуального характера, даже если они созданы с помощью компьютеров, а не камер. Меры вступили в силу в прошлом году.

Законопроект о собрании 1831 г.автором которого является член Ассамблеи Марк Берман (Д-Менло-Парк), расширил запрет штата на детскую порнографию до материалов, которые «содержат измененное в цифровом виде или созданное искусственным интеллектом изображение». [of] лицо, выглядящее как лицо моложе 18 лет», участвующее в сексуальном поведении или имитирующее его. Сенатский законопроект 1381 г.автором которого является сенатор Айша Вахаб (демократ от Хейворда), внесла поправки в закон штата, чтобы более четко запретить использование ИИ для создания изображений реальных детей, занимающихся сексуальным поведением, или использования детей в качестве моделей для детской порнографии, измененной в цифровом формате или созданной ИИ.