Как когнитивные манипуляции и искусственный интеллект будут формировать дезинформацию в 2026 году

Чтобы решать большие проблемы и ориентироваться в хаотическом мире, нам сначала нужно четкое и общее понимание фактов. Однако сегодня такие технологии, как социальные сети, онлайн-чат и искусственный интеллект (ИИ), позволяют оппортунистическим субъектам нацеливаться на людей с помощью намеренно манипулятивных и запутанных повествований, часто предназначенных для того, чтобы вызвать сильные эмоциональные реакции, такие как страх, тревога и гнев.

Те, кто распространяет дезинформацию, ищут финансовые, политические, физические и социально-психологические выгоды от когнитивных манипуляция; они формируют политику правительства и бизнеса, то, как относятся к маргинализированным сообществам и удовлетворяются ли основные человеческие потребности.

Всемирный экономический форум Отчет о глобальных рисках 2026 г. дезинформация стала одним из главных краткосрочных глобальных рисков, наряду с геоэкономической конфронтацией и социальной поляризацией. Это один из немногих рисков, который остается серьезным как в двух-, так и в десятилетнем горизонте, и, по-видимому, является риском, который катализирует или усугубляет все другие риски в списке.

Укрепится или ослабеет демократия, будет зависеть от возрождения трех фундаментальных столпов, которые рухнули с распространением онлайн-технологий: проверка, обсуждение и подотчетность. Сообщества могут повысить устойчивость к дезинформации, если они инвестируют в коллективное доверие к тому, что является правдой (проверка), предоставляют безопасное пространство для подлинного любопытства, дискуссий и дебатов (обсуждение) и привлекают незаконных оппортунистов к ответственности за причиненный ими вред (подотчетность).

Людей, подверженных потенциальным эмоциональным манипуляциям, можно легко идентифицировать по микротаргетингкоторый использует онлайн-данные, о которых сообщают сами люди, для выявления типа личности. После идентификации выбирается целевая рассылка сообщений. потому что это резонирует эмоционально и, скорее всего, будет разделен, потому что он подтверждает прежние убеждения, вызывает гнев или негодование или считается юмористическим. Это усиливает поляризацию и расширяет охват дезинформации более широкой аудитории.

Данные избирательного цикла 2024–2025 годов показывают, как системы искусственного интеллекта оптимизировали контент для максимальное эмоциональное воздействие по нескольким странам. Сходным образом, исследование 2024 года показало, что молодые избиратели в TikTok регулярно подвергались вводящему в заблуждение политическому контенту, в том числе созданным с помощью искусственного интеллекта и сфабрикованным видеороликам политических лидеров. Присутствие такого контента рядом с подлинными публикациями затрудняло пользователям возможность отличить пародию от факта в быстро развивающихся коротких социальных лентах.

В 2026 году дипфейки пересекли критический порог. устранены более ранние контрольные глюки и теперь доступны каждому, у кого есть смартфон. С быстрым ростом генеративных моделей искусственного интеллекта способы злоупотребления информацией значительно изменились.

Во время выборов 2024 и 2025 годов клонированные голоса и визуальные дипфейки стали более распространенным риском и живой чертой демократической политики. В Президентские выборы в Ирландии 2025 годадипфейковое видео ложно изображало возможного победителя, снимающего свою кандидатуру, и включало фальшивые кадры национальных телевещательных компаний, «подтверждающих» эту новость. Об этом было опубликовано всего за несколько дней до дня голосования. В Нидерландах также наблюдалось примерно 400 созданных ИИ синтетические изображения, используемые для нападок на политических коллег.

Учитывая, что 2026 год насыщен выборами на разных континентах, а отдельные страны находятся под угрозой непоправимого отката демократии, скорость и масштаб синтетических СМИ представляют собой усугубляющийся риск. На самом деле, просто зная, что дипфейки существуют может заставить нас сомневаться в том, что мы читаем и видим — даже правда.

Дезинформация была частью общества на протяжении всей истории и, вероятно, сохранится и в будущем. Но его сложность и степень охвата, кажется, усиливаются с сегодняшними технологиями. Вот почему нам необходимо повышать устойчивость — находить способы защитить себя от последствий, не жертвуя при этом нашим фундаментальным правом высказывать свое мнение.

Устойчивость может возникнуть благодаря инвестициям сообщества в системы проверки, обсуждения и подотчетности.

Устойчивость также может возникнуть благодаря образованию, например в Финляндиигде детей начальной школы учат замечать и оценивать, когда на них направлена вредная манипулятивная информация. В более широком смысле, оно может возникнуть в результате образования, которое помогает людям самостоятельно оценить шесть фундаментальных вопросов: кто тот человек, который пытается со мной общаться; как и почему они меня нашли; что они получают от общения со мной; могу ли я проверить достоверность их сообщения; рискую ли я пострадать, если приму их послание; и могу ли я рискнуть причинить вред другим, если поделюсь этим сообщением дальше?

Устойчивость также можно повысить за счет повествовательная прививкакоторый готовит аудиторию к потенциальным манипуляциям, разоблачая игру оппортунистов до того, как она наберет обороты.

Растущие исследования предлагают потенциальные инструменты, которые могут помочь улучшить нашу способность разоблачать или отмечать ложную информацию. Обнаружение дипфейков становится возможным благодаря методам иерархии. Дипфейки часто имеют несоответствия — несовпадающие рисунки шума или цветовые сдвиги в изображениях; ошибки синхронизации губ или неестественное моргание в видеороликах, хотя их становится все труднее обнаружить. Даже дипфейки последнего поколения оставляют отметки на уровне пикселей, которые могут обнаружить криминалистические инструменты.

Следующие модели распределения также может быть полезным, когда вредоносные дипфейки обычно распространяются через сети ботов/троллей. Их легко отслеживать по метаданным учетной записи (например, датам создания, ритму публикаций) и поведению. Такие меры особенно полезны в отношении выборов, финансовых махинаций, а также освещения конфликтов и политических событий, поскольку они предлагают более эффективный подход, чем просто полагаться на навыки обнаружения отдельных пользователей.

Крайне важно относиться к дезинформации как к проблеме управления и управления рисками, а не просто к задаче модерации контента. У МЕНЯ ЕСТЬ действие отражает этот сдвиг в своих мандатах по уровням риска. Статья 50 требует маркировки контента, созданного искусственным интеллектом/дипфейка, и раскрытия синтетических взаимодействий, что вступает в силу с августа 2026 года со штрафами в размере до 6% от мирового дохода. Акцент Закона на категоризации рисков, документации, человеческом надзоре и послерыночном мониторинге обеспечивает шаблон для сдерживания дезинформации в больших масштабах.

Когнитивное воздействие дезинформации будет определять, как будут развиваться общества в ближайшие годы. Как Отчет о глобальных рисках 2026 г. подчеркивается, что дезинформация усугубляет все основные риски, подрывая доверие и усиливая потрясения от выборов до экономических кризисов. 2026 год станет проверкой того, смогут ли институты, общества и платформы адаптироваться достаточно быстро, чтобы пережить кризис дезинформации и сохранить способность проверять, обсуждать и привлекать к ответственности незаконных оппортунистов.