ИИ представляет политическую опасность для 2024 года, угрожая ввести избирателей в заблуждение

ВАШИНГТОН — Компьютерные инженеры и технические политологи годами предупреждали, что дешевые, мощные искусственный интеллект инструменты скоро позволят любому создавать поддельные изображения, видео и аудио, достаточно реалистичные, чтобы одурачить избирателей и, возможно, повлиять на выборы.

Появляющиеся синтетические изображения часто были грубыми, неубедительными и дорогостоящими в производстве, особенно когда другие виды дезинформации были настолько недорогими и легко распространялись в социальных сетях. Угроза, исходящая от ИИ и так называемых дипфейков, всегда казалась на расстоянии года или двух.

Больше не надо.

Сложные генеративные инструменты искусственного интеллекта теперь могут создавать клонированные человеческие голоса и гиперреалистичные изображения, видео и аудио за считанные секунды при минимальных затратах. Привязанный к мощным алгоритмам социальных сетей, этот фальшивый и созданный в цифровом виде контент может распространяться далеко и быстро и ориентироваться на очень конкретную аудиторию, что может привести к тому, что грязные уловки кампании станут новым минимумом.

Последствия для кампаний и выборов 2024 года столь же велики, сколь и тревожны: генеративный ИИ может не только быстро создавать целевые электронные письма, тексты или видео для кампании, но также может использоваться для введения в заблуждение избирателей, выдачи себя за кандидатов и подрыва выборов в масштабах и на скорость, которую еще не видели.

«Мы не готовы к этому, — предупредил Эй Джей Нэш, вице-президент по разведке в компании по кибербезопасности ZeroFox. «Для меня большой скачок вперед — это появившиеся аудио- и видеовозможности. Когда вы сможете делать это в больших масштабах и распространять на социальных платформах, это будет иметь большое влияние».

Эксперты по ИИ могут быстро перечислить ряд тревожных сценариев, в которых генеративный ИИ используется для создания синтетических медиа с целью ввести в заблуждение избирателей, оклеветать кандидата или даже подстрекать к насилию.

Вот некоторые из них: автоматизированные автоматические сообщения голосом кандидата, инструктирующие избирателей проголосовать в неправильный день; аудиозаписи кандидата, предположительно признаваемого в преступлении или выражающего расистские взгляды; видеозапись, показывающая, как кто-то произносит речь или интервью, которых он никогда не давал. Поддельные изображения, созданные для того, чтобы выглядеть как репортажи местных новостей, ложно утверждающие, что кандидат выбыл из гонки.

«Что, если Илон Маск лично позвонит вам и скажет голосовать за определенного кандидата?» сказал Орен Этциони, генеральный директор-основатель Allen Institute for AI, который ушел в отставку в прошлом году, чтобы основать некоммерческую организацию AI2. «Многие слушали бы. Но это не он».

Бывший президент Дональд Трамп, который баллотируется в 2024 году, поделился со своими подписчиками контентом, созданным искусственным интеллектом, в социальных сетях. Обработанное видео ведущего > Андерсона Купера, которым Трамп поделился в пятницу на своей платформе Truth Social, исказившее реакцию Купера на встречу с Трампом в мэрии > на прошлой неделе, было создано с использованием инструмента клонирования голоса ИИ.

Реклама антиутопической кампании, выпущенная в прошлом месяце Национальным комитетом Республиканской партии, предлагает еще один взгляд на это цифровое будущее. Интернет-реклама, появившаяся после того, как президент Джо Байден объявил о своей кампании по переизбранию, начинается со странного, слегка искаженного изображения Байдена и текста «Что, если бы самый слабый президент, который у нас когда-либо был, был переизбран?»

Далее следует серия изображений, созданных ИИ: Тайвань подвергается нападению; заколоченные витрины магазинов в Соединенных Штатах, когда экономика рушится; солдаты и бронетехника патрулируют местные улицы, а татуированные преступники и волны иммигрантов создают панику.

«Сгенерированный ИИ взгляд на возможное будущее страны, если Джо Байден будет переизбран в 2024 году», — говорится в описании объявления от RNC.

RNC признал использование ИИ, но другие, в том числе гнусные политические кампании и иностранные противники, не будут, сказал Петко Стоянов, глобальный технический директор Forcepoint, компании по кибербезопасности, базирующейся в Остине, штат Техас. Стоянов предсказал, что группы, стремящиеся вмешаться в демократию США, будут использовать искусственный интеллект и синтетические медиа как способ подорвать доверие.

«Что произойдет, если международная организация — киберпреступник или национальное государство — выдаст себя за кого-то. Каково влияние? У нас есть какие-нибудь средства защиты?» — сказал Стоянов. «Мы увидим гораздо больше дезинформации из международных источников».

Политическая дезинформация, сгенерированная ИИ, уже распространилась в сети в преддверии выборов 2024 года: от подделанного видео, на котором Байден произносит речь с нападками на трансгендеров, до сгенерированных ИИ изображений детей, предположительно изучающих сатанизм в библиотеках.

Изображения ИИ, которые, по-видимому, показывают снимок Трампа из кружки, также обманули некоторых пользователей социальных сетей, хотя бывший президент не сделал ни одного, когда его привлекли к уголовной ответственности в Манхэттенском уголовном суде за фальсификацию деловых документов. Другие изображения, созданные ИИ, показали, что Трамп сопротивляется аресту, хотя их создатель быстро признал их происхождение.

Законодательство, требующее от кандидатов маркировать предвыборную рекламу, созданную с помощью ИИ, было внесено в Палату представителей членом палаты представителей Иветт Кларк, DN.Y., которая также выступила спонсором закона, требующего от любого, кто создает синтетические изображения, добавлять водяной знак, указывающий на факт.

Некоторые штаты предложили свои собственные предложения по устранению опасений по поводу дипфейков.

Кларк сказала, что ее самый большой страх заключается в том, что перед выборами 2024 года генеративный ИИ может быть использован для создания видео или аудио, которые подстрекают к насилию и настраивают американцев друг против друга.

«Важно, чтобы мы не отставали от технологий», — сказал Кларк агентству Associated Press. «Мы должны установить некоторые ограждения. Людей можно обмануть, и это занимает доли секунды. Люди заняты своей жизнью, и у них нет времени проверять каждую часть информации. Вооруженный ИИ в политический сезон может быть чрезвычайно разрушительным».

Ранее в этом месяце торговая ассоциация политических консультантов в Вашингтоне осудила использование дипфейков в политической рекламе, назвав их «обманом», которому «не место в законных, этичных кампаниях».

Другие формы искусственного интеллекта в течение многих лет использовались в политических кампаниях, используя данные и алгоритмы для автоматизации таких задач, как нацеливание на избирателей в социальных сетях или отслеживание доноров. Стратеги кампании и технические предприниматели надеются, что самые последние инновации принесут пользу и в 2024 году.

Майк Неллис, генеральный директор прогрессивного цифрового агентства Authentic, сказал, что использует ChatGPT «каждый божий день» и призывает своих сотрудников использовать его также, если любой контент, созданный с помощью этого инструмента, впоследствии проверяется человеческими глазами.

Новейший проект Неллиса в сотрудничестве с Higher Ground Labs — это инструмент искусственного интеллекта под названием Quiller. Он будет писать, отправлять и оценивать эффективность электронных писем по сбору средств — все обычно утомительные задачи в кампаниях.

«Идея состоит в том, что у каждого стратега-демократа, у каждого кандидата от демократов в кармане будет второй пилот», — сказал он.

___

Свенсон сообщил из Нью-Йорка.

___

Ассошиэйтед Пресс получает поддержку от нескольких частных фондов для улучшения пояснительного освещения выборов и демократии. Подробнее о демократической инициативе AP см. здесь. AP несет исключительную ответственность за весь контент.

___

Следите за освещением AP дезинформации на https://apnews.com/hub/misinformation и освещением искусственного интеллекта на https://apnews.com/hub/artificial-intelligence.