Почему Grok и X все еще доступны в магазинах приложений?

ИИ Илона Маска чат-бот Грок это используется залить X тысячи сексуализированных изображений взрослых и явно несовершеннолетних в минимальной одежде. Часть этого контента, похоже, не только нарушает собственные права X. политикакоторые запрещают распространение незаконного контента, такого как материалы о сексуальном насилии над детьми (CSAM), но также могут нарушать правила Apple App Store и магазина Google Play.

Apple и Google явно запрещают приложения, содержащие CSAM, размещение и распространение которого во многих странах является незаконным. Технологические гиганты также запрещают приложения, содержащие порнографические материалы или способствующие преследованиям. Apple App Store говорит оно не допускает «откровенно сексуальных или порнографических материалов», а также «клеветнического, дискриминационного или подлого контента», особенно если приложение «может унизить, запугать или нанести вред целевому лицу или группе». Магазин Google Play запреты приложения, которые «содержат или продвигают контент, связанный с сексуально хищническим поведением, или распространяют сексуальный контент без согласия», а также программы, которые «содержат или способствуют угрозам, преследованиям или издевательствам».

За последние два года Apple и Google удалили ряд приложений для «обнажения» и создания изображений с помощью искусственного интеллекта после расследования BBC и 404 Media нашли их рекламировали или использовались для эффективного превращения обычных фотографий в откровенные изображения женщин без их согласия.

Но на момент публикации и приложение X, и автономное приложение Grok остаются доступными в обоих магазинах приложений. Apple, Google и X не ответили на запросы о комментариях. Grok управляется многомиллиардным стартапом Маска в области искусственного интеллекта xAI, который также не ответил на вопросы WIRED. В публичное заявление опубликованный 3 января, X сообщил, что принимает меры против незаконного контента на своей платформе, включая CSAM. «Любой, кто использует Grok или побуждает его создавать незаконный контент, пострадает от тех же последствий, как если бы он загружал незаконный контент», — предупредила компания.

Слоан Томпсон, директор по обучению и образованию в EndTAB, группе, которая обучает организации тому, как предотвратить распространение сексуального контента без согласия, говорит, что для таких компаний, как Apple и Google, «абсолютно уместно» принять меры против X и Грока.

За последние две недели количество откровенных изображений на X, созданных Гроком, резко возросло. Один исследователь сообщил Bloomberg, что в течение 24 часов с 5 по 6 января Грок каждый час создавал примерно 6700 изображений, которые они определили как «сексуально наводящие на размышления или обнажающие». Другой аналитик собрал более 15 000 URL-адресов изображений, которые Грок создал на X в течение двух часов 31 декабря. WIRED рассмотрено примерно одну треть изображений и обнаружил, что на многих из них изображены женщины, одетые в откровенную одежду. Более 2500 были помечены как недоступные в течение недели, а почти 500 были помечены как «контент для взрослых с ограничением по возрасту».

Ранее на этой неделе представитель Европейской комиссии, руководящего органа Евросоюза, заявил: публично осужденный откровенно сексуальные и несогласованные изображения, созданные Гроком на X, были названы «незаконными» и «ужасающими», что говорит агентству Reuters, что такому контенту «нет места в Европе».

В четверг ЕС заказал Х сохранить все внутренние документы и данные, относящиеся к Гроку, до конца 2026 года, продлив директиву о предварительном хранении, чтобы гарантировать властям доступ к материалам, имеющим отношение к соблюдению Закона ЕС о цифровых услугах, хотя о новом официальном расследовании еще не объявлено. Регуляторы в другие страныв том числе Великобритания, Индия и Малайзия, также заявили они есть исследование платформы социальных сетей.