Новое исследование показывает, что чат-боты с искусственным интеллектом могут повлиять на некоторых канадцев, чтобы они изменили свой голос

Согласно новому исследованию, общение с чат-ботом с искусственным интеллектом может успешно убедить людей изменить свои голоса и повлиять на исход будущих выборов.

Исследование, в котором приняли участие 1530 канадцев, также показало, что чат-боты добились большего успеха в убеждении канадцев поменять свои голоса, чем американцев.

Гордон Пенникук, канадец и доцент Корнелльского университета, сказал, что целью исследования было выяснить, насколько убедительным может быть генеративный ИИ, когда дело доходит до политики.

«Ответ в том, что это очень убедительно и более убедительно, чем традиционные формы политического убеждения, такие как реклама и тому подобное», — сказал Пенникук, один из авторов исследования.

Исследование, опубликованное в журнале Nature, показало, что каждый 21 респондент в США, принявший участие в эксперименте осенью 2024 года, после взаимодействия с чат-ботом с искусственным интеллектом был убежден переключить свой голос на Камалу Харрис, а один из 35 был убежден переключить свой голос на Дональда Трампа.

В канадской части исследования, которая проходила в последнюю неделю федеральных выборов в апреле, участников спросили, какие из 17 политических вопросов были для них наиболее важными при принятии решения, за кого голосовать на выборах. Все общение происходило на английском языке, и нет информации о том, где в Канаде проживали участники.

Исследование показало, что взаимодействие с чат-ботом побудило некоторых участников изменить свое намерение голосовать.

«В Канаде, где сторонники Карни, переходил каждый девятый, а это очень много людей», – сказал Пенникук. «В условиях поддержки Пуальева, когда ИИ убеждал людей голосовать за Пуарьева, перешел один из 13.

«Многие люди меняют свое мнение… если бы вы нацелили это на определенных правых избирателей в определенных округах или округах, то вы могли бы перевернуть выборы».

Пенникук сказал, что одна из причин, по которой чат-боты с искусственным интеллектом могут быть эффективны в политическом убеждении, заключается в том, что они адаптируют свои аргументы к каждому респонденту.

Исследование также показало, что чат-бот более эффективно убеждал людей изменить свои голоса, когда ему было разрешено использовать для этого факты.

«Эффект убеждения был почти в три раза сильнее на канадских федеральных выборах, чем эффект, наблюдавшийся в эксперименте в США, но лишение ИИ возможности использовать факты и доказательства снизило эффект более чем вдвое», — пишут авторы.

Пенникук отметил, что участникам исследования потребовалось от шести до восьми минут на взаимодействие с чат-ботом с искусственным интеллектом вместо просмотра быстрой рекламы.

Пенникук сказал, что разница между влиянием США и Канады может быть связана с постоянной политической кампанией в США.

«Американцы безостановочно завалены предвыборным контентом», – сказал он. «И поэтому гораздо труднее переключиться, изменить мнение людей».

В своих выводах исследование показало, что общение с чат-ботом с искусственным интеллектом «может существенно повлиять на отношение избирателей», но при этом говорится, что еще неизвестно, насколько эффективной будет эта технология, если она будет использоваться в политических кампаниях.

«Весьма вероятно, что подходы к убеждению, основанные на искусственном интеллекте, сыграют важную роль на будущих выборах — с потенциально серьезными последствиями для демократии», — пишут авторы.

Хотя канадский эксперимент проводился во время федеральных выборов и некоторые гонки были выиграны всего лишь с небольшим количеством голосов, Пенникук сомневается, что это могло повлиять на какие-либо результаты.

«Нет реального способа узнать это, но я думаю, что маловероятно, что это исследование тысячи людей изменит результаты выборов», – сказал он, отметив, что участники приехали со всей Канады.

В то время как в Канаде действуют строгие правила использования таких вещей, как реклама и другие инструменты для убеждения избирателей в период предвыборной кампании, Elections Canada заявляет, что существует мало правил, если они вообще существуют, связанных с использованием ИИ во время избирательной кампании. Однако кто-то может нарушить закон, если он будет использовать ИИ, чтобы ложно выдать себя за представителя избирательной комиссии или рассылать материалы, которые ложно якобы исходят от представителей избирательной комиссии, политической партии или кандидата.

Глава избирательной комиссии Стефан Перро рекомендовал внести изменения в закон о выборах для устранения потенциальных возникающих угроз со стороны ИИ, например, требуя, чтобы предвыборные сообщения, создаваемые или манипулируемые с использованием ИИ, включали маркер прозрачности, а чат-боты или поисковые функции ИИ должны были указывать в своих ответах, где пользователи могут найти официальную или авторитетную информацию.

Управление комиссара по выборам Канады, которое расследует жалобы, сообщило, что получило несколько жалоб относительно использования ИИ на последних выборах. Но в своем июньском заявлении комиссар Кэролайн Симард заявила, что нет никаких признаков того, что использование ИИ повлияло на результаты.

Фенвик МакКелви, доцент кафедры коммуникативных исследований в Университете Конкордия в Монреале и содиректор университетского института прикладного ИИ, высоко оценил исследование, заявив, что оно документирует, как генеративный ИИ может повлиять на намерения голосовать.

«Мы знаем, что такого рода работа может быть убедительной», — сказал он.

МакКелви сказал, что политические партии в других странах, таких как Мексика, уже начали использовать чат-ботов в рамках своих стратегий убеждения.

Маккелви сказал, что одной из причин для беспокойства может стать объединение технологии генеративного чат-бота с искусственным интеллектом с существующими базами данных, которые политические партии создали на основе канадских избирателей — базами данных, которые освобождены от канадских законов о конфиденциальности.

«Отсутствие надзора за базами данных и имеющимися в них данными теперь может использоваться способами, на которые никто не давал согласия», — сказал он.

МакКелви заявил, что на политические партии должны распространяться канадские законы о конфиденциальности, а правительство должно принять меры для смягчения потенциального вреда от использования ИИ в рекламе.