ЕС начинает расследование в отношении X из-за изображений откровенно сексуального характера, сделанных Гроком AI | Грок ИИ

Европейская комиссия начала расследование в отношении X Илона Маска в связи с созданием изображений откровенно сексуального характера и распространением возможных материалов о сексуальном насилии над детьми с помощью искусственного интеллекта чат-бота Grok.

Официальное расследование, начатое в понедельник, также расширяет расследование рекомендательных систем X — алгоритмов, которые помогают пользователям находить новый контент.

Грок вызвал международное возмущение, позволив пользователям раздевать женщин и детей в цифровом формате и ставить их в провокационные позы. По данным исследователей из Центра по противодействию цифровой ненависти, искусственный интеллект Grok менее чем за две недели создал около 3 миллионов сексуализированных изображений, в том числе 23 000, на которых изображены дети.

Комиссия заявила, что ее расследование «оценит, правильно ли компания оценила и снизила риски», связанные с деятельностью Грока в ЕС, включая риски, связанные с распространением незаконного контента, такого как манипулированные изображения откровенно сексуального характера и «контент, который может быть приравнен к» материалам о сексуальном насилии над детьми.

Расследование было начато в соответствии с Законом ЕС о цифровых услугах (DSA), относительно новым законодательным актом, призванным защитить интернет-пользователей от широкого спектра вреда.

В беседе с журналистами один из чиновников заявил, что комиссию не убедили смягчающие меры, принятые X для решения проблемы.

После первоначального протеста по поводу манипулирования изображениями компания ограничила доступ к инструменту платным подписчикам, но изменила тактику под давлением европейских регулирующих органов. Ранее в этом месяце компания объявила, что ввела меры, запрещающие Гроку редактировать изображения реальных людей в откровенной одежде.

Представитель комиссии заявил, что эти меры не сняли более широкой обеспокоенности по поводу Грока. Расследование изучает системные риски создания незаконного контента, в том числе контента, изображающего насилие в отношении женщин и материалы о сексуальном насилии над детьми. По их словам, у X не было «эффективных мер по снижению риска… для снижения риска на их платформе».

Объявляя о расследовании, Хенна Вирккунен, главный представитель комиссии по вопросам технологического суверенитета, безопасности и демократии, заявила: “Сексуальные дипфейки женщин и детей без согласия являются насильственной, неприемлемой формой деградации. С помощью этого расследования мы определим, выполнил ли X свои юридические обязательства по DSA или рассматривал ли он права европейских граждан, включая права женщин и детей, как побочный ущерб своей службе”.

Помимо расследования изображений откровенного характера, комиссия расширяет расследование, начатое в декабре 2023 года, в отношении так называемых рекомендательных систем X в связи с объявлением компании о переходе на основанную на Grok модель фильтрации информации и контента для пользователей.

Этот шаг был предпринят после того, как британский наблюдатель за СМИ Ofcom объявил ранее в этом месяце о своем собственном расследовании «мерзкого» и незаконного контента на X.

Комиссию широко критиковали за слишком медленное соблюдение DSA, особенно в отношении X.

«Расследование началось слишком поздно, но все же может дать четкий сигнал о том, что платформы должны соответствовать европейскому законодательству», — сказала депутат Европарламента от зеленой Германии Александра Гизе. “Этот случай очевиден. Ущерб, нанесенный миллионам женщин и многим детям, непоправим. Мы надеемся, что комиссия воспользуется этим опытом, чтобы действовать быстрее в будущем”.

Чиновники ЕС отвергли такую критику, указав на 15 текущих расследований в рамках DSA, которое применяется к компаниям с февраля 2024 года.

Регина Доэрти, правоцентристский ирландский вице-президент Европейского парламента, заявила, что приветствует официальное расследование. «Когда появляются достоверные сообщения об использовании систем искусственного интеллекта способами, причиняющими вред женщинам и детям, крайне важно, чтобы законы ЕС были изучены и применены без промедления», — сказал Доэрти.

В ответ на расследование X предоставил ссылку на заявление, опубликованное 14 января: «Мы по-прежнему стремимся сделать X безопасной платформой для всех и продолжаем проявлять нулевую терпимость к любым формам сексуальной эксплуатации детей, наготе без согласия и нежелательному сексуальному контенту».

В прошлом месяце комиссия оштрафовала X на 120 миллионов евро за нарушение законодательства ЕС. Платформа обманывала пользователей, препятствовала независимым исследователям и уклонялась от ответственности», — говорится в сообщении.

Регулятор ЕС заявил, что X присваивал учетным записям без проверки «обманчивые» значки с синей галочкой, что потенциально подвергало пользователей риску мошенничества и обмана со стороны злоумышленников. X также нарушил требования законодательства ЕС о прозрачности рекламы, не позволив исследователям расследовать фейковую рекламу и кампании гибридных угроз.

На сообщение комиссии, в котором объявлялось о штрафе, Маск ответил «чушью», а позже призвал к упразднению ЕС.

Компании дали три месяца на выплату штрафа. Представитель ЕС заявил, что они уверены, что штраф будет выплачен.