Судебные документы показывают, что команды метабезопасности отправляли предупреждения о романтических разговорах с ИИ

Мета руководство знало, что ИИ-компаньоны компании, называемые ИИ-персонажами, могут участвовать в неуместных и сексуальных взаимодействиях и по-прежнему запустила их без более строгого контроля, согласно новым внутренним документам, опубликованным в понедельник (28 января) в рамках иска генерального прокурора Нью-Мексико против компании.

Сообщения, отправленные между группами безопасности Meta и руководством платформы, в число которых не входил генеральный директор Марк Цукерберг, включают возражения против создания чат-ботов-компаньонов, которые могли бы использоваться взрослыми и несовершеннолетними для явных романтических взаимодействий. Рави Синха, руководитель отдела политики безопасности детей Meta, и руководитель глобальной безопасности Meta Антигона Дэвис отправили сообщения, в которых соглашались с тем, что компаньоны в чат-ботах должны иметь защиту от откровенно сексуального взаимодействия со стороны пользователей младше 18 лет. В других сообщениях утверждается, что Цукерберг отклонил рекомендации по добавлению родительского контроля, включая возможность отключения функций genAI, до запуска AI-компаньонов вскоре после этого.

Meta сталкивается с многочисленными судебными исками, касающимися ее продуктов и их влияния на несовершеннолетних пользователей, включая потенциальный суд присяжных по поводу якобы вызывающего привыкание дизайна таких сайтов, как Facebook и Instagram. Конкуренты Meta, включая YouTube, TikTok и Snapchat, также находятся под ужесточением юридического контроля.

Недавно опубликованные сообщения были частью судебного разбирательства по делу против Меты, возбужденному генеральным прокурором Нью-Мексико Раулем Торресом. Торрес первый поданный гражданский иск против Meta в 2023 году, в котором утверждалось, что компания позволила своим платформам стать «торговыми площадками для хищников». Внутренние контакты между руководителями Meta были раскрыты и обнародованы, поскольку в следующем месяце дело будет передано в суд.

В ноябре в заявлении истца по крупному судебному процессу, поданному в нескольких округах в Северном округе Калифорнии, утверждалось, что политика снисходительна к пользователям, нарушающим правила безопасности, в том числе к тем, о которых сообщается, что «торговля людьми ради сексаДокументы также показали, что руководители Meta якобы знали о «миллионах» взрослых, контактирующих с несовершеннолетними на ее сайтах. «Полный отчет покажет, что на протяжении более десяти лет мы прислушивались к родителям, исследовали наиболее важные проблемы и вносили реальные изменения для защиты подростков», — заявил представитель Meta в интервью TIME.

«Это еще один пример того, как Генеральный прокурор Нью-Мексико тщательно выбирает документы, чтобы нарисовать ошибочную и неточную картину», – сказал представитель Meta Энди Стоун в ответ на новые документы.

Мета приостановил использование подростками своих чат-ботов в августе, после отчета Reuters, в котором были обнаружены внутренние правила ИИ Meta разрешенные чат-боты участвовать в разговорах «чувственного» или «романтического» характера. Компания позже пересмотрела свои рекомендации по безопасностиза исключением контента, который «позволяет, поощряет или одобряет» сексуальное насилие над детьми, романтические ролевые игры с участием несовершеннолетних и другие деликатные темы. На прошлой неделе Мета в очередной раз заблокировали чат-ботов с искусственным интеллектом для юных пользователей, поскольку они изучали новую версию с расширенным родительским контролем.

Торрес возглавил других генеральных прокуроров штатов в стремлении подать в суд на крупные социальные сети из-за проблем безопасности детей. В 2024 году Торрес подал в суд на Snapchatутверждая, что платформа позволила распространиться сексуальному вымогательству и приставанию к несовершеннолетним, но при этом позиционировала себя как безопасную для молодых пользователей.