Социальные сети столкнулись с кризисом модерации: алгоритмы платформ не могут надежно выявлять созданные искусственным интеллектом профили инфлюенсеров, которые копируют поведение реальных пользователей. В октябре 2026 года эта проблема технической безопасности вышла на первый план, заставив создателей контента бороться с поддельными цифровыми сущностями.
Кризис обнаружения синтетических профилей в октябре 2026 года
Современные системы проверки и обнаружения ботов оказались не готовы к появлению сложных ИИ-персонажей. Эти синтетические аккаунты успешно обходят алгоритмические фильтры и модераторов-людей, генерируя уникальные фотографии для каждого поста и правдоподобно поддерживая диалог в комментариях.
Продвинутые ИИ-инфлюенсеры способны удерживать единый визуальный стиль на протяжении сотен публикаций, демонстрировать устойчивые черты характера и даже заключать рекламные контракты с реальными брендами. Некоторые из таких профилей успевают собрать десятки тысяч подписчиков, прежде чем кто-либо ставит под сомнение их подлинность.
Традиционные подходы к обнаружению ботов опираются на поиск повторяющихся моделей поведения, подозрительных показателей вовлеченности или низкокачественного контента. Инструменты поведенческого анализа также испытывают трудности, поскольку такие учетные записи демонстрируют ту же вариативность и непредсказуемость, что и реальные пользователи. 27 октября 2026 года несколько платформ открыто признали отсутствие комплексных правил, которые обязывали бы искусственных инфлюенсеров раскрывать свою синтетическую природу.
Борьба реальных создателей контента с поддельными клонами
Однако по мере того, как росло их число подписчиков, увеличивалось и количество скептиков.
Люди обвиняют Аню в том, что она не настоящая, потому что в наши дни, судя по всему, нам приходится бороться с искусственным интеллектом, и именно поэтому люди теперь с трудом отличат настоящее от ненастоящего.
Валерия Литвинова Каннингем, через WRAL
В ходе расследования журналисты встретились с Аней лично во время тренировки. Валерия отметила, что ей тяжело верить в реальность происходящего диалога, учитывая, что после долгой борьбы со стереотипами ей приходится сражаться с ИИ-контентом. Лаек Хан, директор лаборатории исследований социальных сетей в Университете Огайо, поясняет механику этого явления:
Эти аккаунты заимствуют тело, голос и доверие аудитории реального автора, накладывают сверху искусственное лицо, а затем монетизируют это доверие.
Лаек Хан, директор лаборатории социальных сетей в Ohio University
По словам Хана, социальные сети склонны полагаться на жалобы самих жертв. Если кто-то не направил жалобу, нарушение остается незамеченным. При этом даже подача жалобы далеко не всегда помогает решить проблему.
Иногда я получала ответ о том, что материал, созданный с помощью искусственного интеллекта, таковым не является, и тогда мне приходилось отстаивать свою позицию. Я не могу поверить, что трачу столько времени на борьбу с роботом.
Валерия Литвинова Каннингем, через WRAL
После запросов СМИ аккаунт @MiaTriso21 был удален из TikTok и Instagram, однако аналогичные фальшивые страницы продолжают появляться на платформах.
Политика платформ и пробелы в правилах модерации
Действующие правила сообщества охватывают вопросы выдачи себя за других людей и подлинности аккаунтов, однако в них отсутствуют какие-либо конкретные положения, касающиеся полностью созданных искусственным интеллектом персонажей, которые не выдают себя за конкретных реальных личностей. Неспособность выявлять синтетические учетные записи в массовом масштабе представляет собой фундаментальную угрозу для целостности всей платформенной экосистемы.
Представители технологической сферы отмечают, что по мере совершенствования генеративных моделей грань между реальным и искусственным присутствием в цифровом пространстве стирается все сильнее. Это заставляет заново переосмыслять подходы к проверке личности и соблюдению стандартов подлинности.
Читайте также
