Индия приказала Маску X исправить Грока из-за «непристойного» контента ИИ

Индия приказала Илону Маску X немедленно внести технические и процедурные изменения в своего чат-бота Grok с искусственным интеллектом после того, как пользователи и законодатели отметили создание «непристойного» контента, включая измененные ИИ изображения женщин, созданные с помощью этого инструмента.

В пятницу министерство информационных технологий Индии издало приказ, предписывающий X Маска принять корректирующие меры в отношении Грока, включая ограничение создания контента, включающего «наготу, сексуализацию, откровенно сексуальные или иным образом незаконные» материалы. Министерство также предоставило платформе социальных сетей 72 часа на то, чтобы представить отчет о принятых мерах с подробным описанием шагов, предпринятых для предотвращения размещения или распространения контента, который считается «непристойным, порнографическим, вульгарным, непристойным, сексуально откровенным, педофильным или иным образом запрещенным законом».

В приказе, рассмотренном >, содержится предупреждение, что несоблюдение может поставить под угрозу защиту X от «безопасной гавани» — юридический иммунитет от ответственности за пользовательский контент в соответствии с индийским законодательством.

Этот шаг Индии последовал за обеспокоенностью, высказанной пользователями, которые поделились примерами того, как Гроку предлагали изменить изображения людей — в первую очередь женщин — так, чтобы они выглядели одетыми в бикини, что вызвало официальная жалоба от индийского парламентария Приянки Чатурведи. Кроме того, в недавних отчетах отмечались случаи, когда чат-бот с искусственным интеллектом создавали сексуальные изображения с участием несовершеннолетнихпроблема Х признанный ранее в пятницу было вызвано упущениями в гарантиях. Позже эти изображения были удалены.

Однако изображения, созданные с помощью Grok, на которых женщины выглядели в бикини благодаря изменению ИИ, оставались доступными на X на момент публикации, как обнаружил >.

Последний приказ появился через несколько дней после того, как министерство информационных технологий Индии выпустило в понедельник более широкую рекомендацию, которая также была рассмотрена >, для платформ социальных сетей, напомнив им, что соблюдение местных законов, регулирующих непристойный и откровенно сексуальный контент, является необходимым условием для сохранения юридического иммунитета от ответственности за материалы, созданные пользователями. В рекомендациях содержится призыв к компаниям усилить внутренние меры безопасности и предупреждается, что невыполнение этого требования может повлечь за собой судебные иски в соответствии с индийским законодательством в области информационных технологий и уголовным законодательством.

«Подтверждаем, что несоблюдение вышеуказанных требований должно рассматриваться серьезно и может привести к строгим юридическим последствиям против вашей платформы, ее ответственных сотрудников и пользователей платформы, которые нарушают закон, без какого-либо дополнительного уведомления», — предупредили в приказе.

Правительство Индии заявило, что несоблюдение требований может привести к судебному преследованию X в соответствии с законодательством Индии в области информационных технологий и уголовным законодательством.

Индия, один из крупнейших в мире цифровых рынков, стала критическим примером того, насколько далеко готовы зайти правительства в обеспечении ответственности платформ за контент, создаваемый искусственным интеллектом. Любое ужесточение правоприменения в стране может иметь волновой эффект для глобальных технологических компаний, работающих в нескольких юрисдикциях.

Приказ поступил на фоне того, что X Маска продолжает бросать вызов аспектам индийской политики. правила регулирования контента в судеутверждая, что полномочия федерального правительства по удалению могут быть превышены, даже несмотря на то, что платформа выполнила большинство директив о блокировке. В то же время Grok все чаще используется пользователями X для проверка фактов в режиме реального времени и комментарии к новостным событиям, что делает его результаты более заметными и более политически чувствительными, чем результаты отдельных инструментов искусственного интеллекта.

X и xAI не сразу ответили на запросы о комментариях по распоряжению индийского правительства.