Ofcom оспаривает X в связи с заявлениями Grok AI о сексуализированных детских изображениях

Британский медиарегулятор Ofcom установил «срочный контакт» с xAI, компанией по искусственному интеллекту, принадлежащей Илону Маску, после сообщений о том, что ее чат-бот Grok может использоваться для создания сексуализированных изображений детей и откровенных изображений женщин без согласия.

Вмешательство последовало за широко распространенной обеспокоенностью по поводу возможностей Грока по созданию изображений на X, где пользователи публиковали примеры того, как ИИ предлагает «раздевать» женщин в цифровом формате или помещать их в сексуализированные сценарии без согласия.

Ofcom подтвердил, что расследует, нарушает ли использование Grok Закон Великобритании о безопасности в Интернетечто делает незаконным создание или распространение интимных или откровенно сексуальных изображений, в том числе созданных искусственным интеллектом «дипфейков», без согласия человека.

Представитель Ofcom заявил, что регулятор также изучает обвинения в том, что Грок создает «раздетые изображения» людей, добавив, что технологические компании по закону обязаны принимать соответствующие меры, чтобы предотвратить столкновение британских пользователей с незаконным контентом и быстро удалять такие материалы после их обнаружения.

X не ответил публично на запрос Ofcom о разъяснениях. Однако на выходных платформа предупредила пользователей не использовать Grok для создания незаконных материалов, включая изображения сексуального насилия над детьми. Маск также написал на X, что любой, кто подтолкнет Грока к созданию незаконного контента, «пострадает от тех же последствий», как если бы он загрузил такой контент самостоятельно.

Несмотря на это, собственная политика Грока в отношении допустимого использования, которая прямо запрещает изображение реальных людей в порнографической манере, похоже, регулярно игнорируется. Сообщается, что изображения высокопоставленных деятелей, в том числе Кэтрин, принцессы Уэльской, были среди тех, которые, как сообщается, были обработаны с помощью инструмента искусственного интеллекта.

Фонд Internet Watch подтвердил, что получил сообщения от представителей общественности об изображениях, созданных Гроком. Тем не менее, в нем заявили, что до сих пор не выявлено контента, который пересек бы юридический порог, чтобы быть классифицированным как материалы о сексуальном насилии над детьми в соответствии с законодательством Великобритании.

Этот вопрос также вызвал пристальное внимание за пределами Великобритании. Европейская комиссия заявила, что «серьезно изучает этот вопрос», в то время как регулирующие органы во Франции, Малайзии и Индии, как сообщается, оценивают, нарушает ли Грок местные законы.

Томас Ренье, представитель Европейской комиссии, охарактеризовал содержание как «ужасное» и «отвратительное», заявив, что таким материалам «нет места» в Европе. В декабре регуляторы ЕС оштрафовали X на 120 миллионов евро (104 миллиона фунтов стерлингов) за нарушение своих обязательств в соответствии с Законом о цифровых услугах.

Критика со стороны британских политиков усилилась. Даме Чи Онвура, председатель Комитета по науке, инновациям и технологиям, заявила, что обвинения «глубоко тревожат», и заявила, что существующие меры защиты не могут защитить общественность. Она назвала Закон о безопасности в Интернете «крайне неадекватным» и призвала усилить правоприменительные меры в отношении платформ социальных сетей.

Этот спор также подчеркнул влияние неправильного использования ИИ на человека. Журналистка Саманта Смит рассказала Би-би-си, что видеть свои изображения в бикини, созданные искусственным интеллектом, «так же оскорбительно, как если бы кто-то опубликовал настоящее откровенное изображение».

“Это было похоже на меня. Это было похоже на меня. И это было бесчеловечно”, – сказала она.

Министерство внутренних дел подтвердило, что разрабатывает закон, полностью запрещающий инструменты «обнажения», и предлагает ввести новое уголовное преступление, в соответствии с которым поставщикам таких технологий грозит тюремное заключение и крупные штрафы.

Поскольку регулирующие органы стремятся ужесточить контроль, случай с Гроком стал горячей точкой в более широких дебатах по поводу подотчетности ИИ, ответственности платформ и ограничений свободы выражения мнений в эпоху генеративных технологий.