Как управление ИИ сохраняет свободу действий в эпоху сверхчеловеческого убеждения

Представьте, что вы выступаете с речью перед аудиторией мировых лидеров с синхронным переводом. Только переводчик не занимается переводом на разные иностранные языки. Вместо этого он переводит вашу речь в соответствии с различными моральными рамками каждого члена аудитории.

Когда вы предлагаете новую мирную инициативу или новую корпоративную политику, ваш переводчик переводит этот аргумент в четкие сообщения, призванные убедить каждого отдельного члена аудитории. Также проводится бета-тестирование этого сообщения в режиме реального времени, чтобы увидеть, какой кадр вызывает увеличение частоты пульса.

Точно так же, как алгоритмы проверяют, какие видео заставляют вас смотреть дольше, интерпретаторы искусственного интеллекта будут определять, какие сообщения вызывают у вас больше интереса. И хотя сейчас это вымышленный сценарий, в будущем он может стать возможным.

Тогда возникает вопрос: кто контролирует переводчика?

Консультируя мировых лидеров о том, как общаться с эффектом и влиянием. уже более 20 лет – и используя искусственный интеллект в этом процессе более пяти лет – я оптимистичен, что технологии могут помочь нам более эффективно взаимодействовать друг с другом. Однако я также ясно вижу возможности для злоупотреблений ею со стороны злоумышленников.

Лидерам необходимо не только понять потенциал этой технологии, но и научиться ее использовать – для укрепления доверия и сотрудничества посредством эффективного управления.

Когда я преподаю аспирантам Гарвардской школы Кеннеди методы убеждения и влияния, мы изучаем проверенные временем концепции, такие как способы убеждения Аристотеля: достоверность (этос), аргументация (логос) и апелляция к эмоциям (пафос) — это мощные рычаги, которые мы можем регулировать, чтобы завоевать сердца и умы нашей аудитории.

Когда я преподаю эти концепции, я предупреждаю своих студентов, что никто не знает, что делает аргумент убедительным для всех, потому что то, что один человек считает убедительным, зависит от его происхождения, убеждений и опыта. «И слава богу, что мы не знаем», — говорю я. «Потому что этот человек будет обладать силой, которой не должен обладать ни один человек».

Но эта сила сейчас существует. Я называю это «алгоритмом Аристотеля» — применением древних принципов убеждения, выполняемым ИИ в сверхчеловеческом масштабе. На протяжении 2300 лет методы убеждения Аристотеля были ограничены человеческими ограничениями: один оратор — одно сообщение. ИИ начал преодолевать многие из этих ограничений, ставя глубокие этические вопросы.

Когда алгоритм Аристотеля работает в больших масштабах, каждый человек обитает в отдельной убедительной реальности.

Дезинформация/дезинформация является главным краткосрочным глобальным риском, выявленным Всемирным экономическим форумом. Отчет о глобальных рисках 2025 г.. Использование генеративного искусственного интеллекта в качестве оружия является ключевым фактором этого риска. А исследование 2024 года из GPT-4 компании OpenAI обнаружили, что, когда модели вводили справочную информацию о людях, она становилась на 82% более убедительной, чем люди. Иными словами, ИИ значительно превосходит человеческую убедительность, когда ему предоставляется доступ к личным данным.

«Убеждение на основе LLM создает глубокие этические и социальные риски, включая распространение дезинформации, усиление предубеждений и вторжение в частную жизнь», — предупреждают исследователи Гентского университета в своем докладе. Опрос за ноябрь 2024 г.. «Эти риски подчеркивают острую необходимость в этических нормах и обновленной нормативной базе».

И один из наиболее показательных выводов об убеждении ИИ заключается в том, что исследования показывают, что оно становится существенно менее эффективен когда люди знают, что взаимодействуют с ИИ, а не с человеком. Это показывает, что обман является ключевым компонентом тех манипуляций, которые беспокоят экспертов, когда речь идет о распространении ложной и дезинформации.

Итак, когда система ИИ имеет доступ к вашей истории голосования и покупательским привычкам и может создать психологический профиль на основе вашего присутствия в социальных сетях, тогда этот ИИ способен на уровень целенаправленного убеждения, не похожий ни на что, что мы когда-либо видели раньше – и в экспоненциальном масштабе.

С одной стороны, использование алгоритма Аристотеля могло бы спасти миллионы жизней. Представьте себе, что Всемирная организация здравоохранения пытается распространить методы профилактики заболеваний среди миллионов людей. Одно сообщение можно было мгновенно «перевести» в различные аргументы, основанные на профиле каждого человека.

С другой стороны, что мешает человеку или учреждению использовать эту власть, чтобы манипулировать вами и заставить вас предпринять действия, которые служат их интересам, а не вашим?

Сегодняшние лидеры имеют доступ к сверхчеловеческим инструментам убеждения, при этом отсутствует прозрачность в отношении того, как эти инструменты были разработаны, и отсутствует соглашение о том, как раскрывать информацию о том, когда и как они используются. Эти системы искусственного интеллекта будут интерпретировать мир за нас, влияя на убеждения миллиардов людей.

Какой консенсус нам следует достичь относительно того, как развертываются эти системы искусственного интеллекта? И какие меры защиты предусмотрены с помощью управления ИИ, чтобы не дать одному мошенническому сотруднику вручную изменить значения модели?

Я считаю себя оптимистом, ориентированным на человека, когда дело касается технологий. Определяющим фактором является то, как мы используем эти инструменты. Решения, принятые в отношении ИИ в ближайшие два года – прозрачность обучения моделей и ясность использования наших данных – определят будущую траекторию человеческой истории. Эти темы занимают центральное место в моей книге. ИИ для настоящего лидера: Как общаться более эффективно, не теряя человечностив котором исследуется, как лидеры могут использовать генеративный искусственный интеллект для повышения аутентичности, доверия и связи между культурами.

Существует много возможных решений, в том числе размещение «маркировок пищевой ценности» на системах искусственного интеллекта, чтобы показать, как используются данные, требование раскрытия информации, например, в политической рекламе в США, или предоставление людям контроля над своими собственными данными, чтобы они могли решать, когда и как они используются другими. Любое решение требует понимания того, как работает технология, а также развития глубокой чувствительности к ее социологическому воздействию.

Поскольку технологии продолжают опережать наши нынешние системы управления ИИ, время имеет решающее значение. Всемирный экономический форум соберет лидеров со всего мира для своего Ежегодное собрание в январе 2026 г.. Эти лидеры должны обсудить, как создать границы вокруг ИИ, которые защитят человеческую свободу действий. Они могли бы начать новый разговор об ИИ и влиянии, определив принципы управления ИИ, которые гарантируют, что эта технология будет служить правде, прозрачности и человеческой активности, а не манипулированию или контролю.

Если следующая эра лидерства будет эрой сверхчеловеческого убеждения, то она также должна стать эрой сверхчеловеческой ответственности. У нас есть редкая возможность определить будущее убеждения, чтобы каждый голос на каждом языке мог быть услышан на своих собственных условиях.