Укрепление доверия и грамотности в области ИИ является ключом к цифровой безопасности.

Мы уже взаимодействуем с системами, которые слушают, тепло отвечают и, кажется, понимают нас. Голосовые помощники успокаивают после долгих дней, чат-боты решают проблемы, а аватары делают онлайн-взаимодействие более личным.

Эта непринужденность общения снижает барьеры к получению информации, способствует обучению и может расширить сферу оказания медицинской помощи там, где не хватает человеческих услуг. Но эти системы опираются на вероятностные модели, а не на профессиональные суждения, и их быстрое внедрение опережает общественное понимание, создавая риски для детей, работников, пожилых людей и других уязвимых групп.

Доверие является основной проблемой. Доверьтесь цифровым технологиям Речь идет об ожиданиях людей и о том, как сочетание механических факторов, таких как кибербезопасность, и реляционных факторов, таких как возможность исправления, объединяются, чтобы гарантировать, что технология служит пользователю, а не наоборот.

У большинства пользователей недостаточно опыта работы с искусственным интеллектом (ИИ), чтобы понять, чему доверять и почему. Уверенно звучащие системы поощряют принятие пользователями — они полезны для тривиальных задач, но рискованны в таких важных областях, как здравоохранение, финансы, юридические услуги или психическое благополучие.

С момента запуска ChatGPT в ноябре 2023 года большая часть разговоров о безопасности ИИ была сосредоточена на основополагающих моделях — их архитектуре, обучающих наборах и теоретических режимах сбоев — а не на рисках на уровне взаимодействия, которые возникают в продукты, которые люди действительно используют.

Однако защита конечных пользователей требует смещения внимания на контекстно-зависимый вред: убедительный тон, вызывающий ложное доверие, настройки пользовательского интерфейса (UI) по умолчанию, которые подталкивают к вредоносному поведению, персонализация, которая выявляет чувствительные уязвимости и пробелы в эскалации, которые оставляют пользователей без своевременной человеческой помощи.

Есть многообещающие первые шаги. Компании и регуляторы начали требовать маркировки происхождения и сигналов неопределенности, которые указывают, когда контент создан искусственным интеллектом или неопределенен.

Первые рекомендации предполагают, что эти сигналы уменьшают чрезмерную уверенность и способствуют верификационному поведению. Значки происхожденияоценки достоверности и сообщения, такие как флаги «этот ответ был сгенерирован ИИ», побуждают пользователей приостановить, подтвердить или перейти к эскалации, превращая слепое доверие в осознанное использование.

Эти меры необходимы, но сами по себе недостаточны. Меры, ориентированные на взаимодействие, должны занимать центральное место в программах цифровой безопасности. Для политиков и продуктовых команд это означает согласование дизайна продукта, управления, образования и межсекторального реагирования, чтобы интеллектуальные взаимодействия заслужили общественное доверие, прежде чем они затронут средства к существованию и благополучие людей.

Характеристики продукта должны исходить из того факта, что люди не всегда могут саморегулироваться – особенно в условиях кризиса одиночества и депрессии – и что всегда доступный и приятный ИИ может усилить парасоциальное доверие.

Поэтому интерфейсы должны включать поведенческие барьеры для деантропоморфизации и уменьшения ложной близости и авторитета. Другие средства защиты по умолчанию должны включать настройки, минимизирующие конфиденциальность, консервативную персонализацию для конфиденциальных областей, четкие сигналы происхождения и неопределенности, а также быструю эскалацию действий человека в ходе кризисных, клинических или юридических вопросов.

Компании должны проводить регулярные тесты красной команды, направленные на выявление вреда от взаимодействия, ограничивать повторное использование конфиденциальных данных и публиковать руководства по безопасности, в которых документируются модели угроз и планы устранения.

В то же время регулирующие органы должны требовать проведения независимых аудитов и доступных механизмов устранения последствий для развертываний с высоким уровнем риска, а межсекторальные сети быстрого реагирования должны координировать обмен информацией об инцидентах и их устранение на разных платформах и в разных странах.

Эти меры не направлены на подавление инноваций; они направлены на то, чтобы мощные инструменты завоевали общественное доверие, прежде чем они коснутся средств к существованию и благосостояния людей. Благодаря более четкой подотчетности люди смогут с уверенностью применять полезные инструменты ИИ, зная, что есть возможности исправить ситуацию, если что-то пойдет не так.

Не менее важно повысить уровень грамотности в области искусственного интеллекта и местной поддержки, чтобы люди знали, когда доверять искусственному интеллекту, а когда обращаться за помощью к людям. Образовательные программы должны выходить за рамки оперативного мастерства (генерации журналов чатов на основе больших наборов данных) и основываться на человеческой психологии, чтобы научить пользователей всех возрастов распознавать убедительный дизайн, читать подсказки о происхождении и проверять важные советы.

Библиотеки, школы, рабочие места и общественные центры могут проводить ролевые игры и «карты эскалации», которые связывают пользователей с проверенными профессионалами. Точно так же, как в школах преподают компьютерные классы, теперь в них должны быть классы искусственного интеллекта, которые рассматривают искусственный интеллект как инструмент, объясняющий, как он работает, где он помогает и каков его потенциальный вред.

Глобальная коалиция за цифровую безопасность уже продвигает эту повестку дня, собирая правительства, промышленность, гражданское общество и технических экспертов, чтобы лучше ликвидировать разрыв между техническими сообществами и компаниями ИИ и экспертами по доверию и безопасности, а также обсуждать взаимодействие ИИ и пользователей.

На Всемирном экономическом форуме Ежегодное собрание 2026 года в Давоселидеры выведут эти обсуждения в центр внимания, сосредоточив внимание на улучшении происхождения контента, правилах онлайн-безопасности и масштабируемых программах цифровой грамотности, которые сделают безопасность практической для сообществ во всем мире.

Если безопасность, ориентированная на взаимодействие, является приоритетом, интеллектуальное взаимодействие может стать движущей силой инклюзивности, творчества и устойчивости. Четкое происхождение и сигналы неопределенности, консервативные дефолты в чувствительных областях, широкое распространение грамотности, прозрачные методы обеспечения безопасности и глобальное сотрудничество могут сделать такое будущее возможным.

Для политиков и разработчиков продуктов ближайшая задача является практической и неотложной: внедрить безопасность взаимодействия в жизненные циклы продуктов, обязать независимую ответственность за развертывание с высоким уровнем риска и инвестировать в ориентированную на сообщество грамотность, чтобы пользователи могли с уверенностью применять инструменты ИИ и обращаться за помощью, если что-то пойдет не так.