Дипфейки вводят избирателей в заблуждение на выборах в Бангладеш

Политики всего мира обеспокоены тем, как можно использовать генерируемую искусственным интеллектом дезинформацию, чтобы попытаться ввести в заблуждение избирателей и разжечь разногласия в преддверии нескольких крупных выборов в следующем году.

В одной стране это уже происходит: Бангладеш.

Южноазиатская страна с населением в 170 миллионов человек направляется на выборы в начале января. Это состязание, отмеченное ожесточенной и поляризующей борьбой за власть между действующим премьер-министром Шейх Хасиной и ее соперниками, оппозиционной Националистической партией Бангладеш.

Проправительственные новостные агентства и влиятельные лица в Бангладеш в последние месяцы продвигают дезинформацию, генерируемую искусственным интеллектом, созданную с помощью дешевых инструментов, предлагаемых стартапами в области искусственного интеллекта.

В одном из предполагаемых новостных роликов ведущий, созданный искусственным интеллектом, критикует США, страну, которую правительство шейха Хасины подвергло критике перед выборами. На отдельном дипфейковом видео, которое впоследствии было удалено, показано, как лидер оппозиции двусмысленно высказывается по поводу поддержки жителей Газы, что является потенциально губительной позицией в стране с мусульманским большинством и сильными общественными симпатиями к палестинцам.

Общественное давление на технологические платформы растет с целью борьбы с вводящим в заблуждение контентом искусственного интеллекта в преддверии нескольких крупных выборов, ожидаемых в 2024 году, в том числе в США, Великобритании, Индии и Индонезии. В ответ Google и Meta недавно объявили о политике, требующей от кампаний раскрытия информации о том, была ли политическая реклама изменена в цифровом формате.

Но примеры из Бангладеш показывают не только то, как эти инструменты ИИ можно использовать на выборах, но и трудности с контролем их использования на небольших рынках, которые рискуют остаться незамеченными американскими технологическими компаниями.

Мирадж Ахмед Чоудхури, управляющий директор бангладешской медиа-исследовательской компании Digitally Right, сказал, что, хотя дезинформация, создаваемая ИИ, находится «все еще на уровне экспериментов» (большинство из них создается с использованием обычных платформ для редактирования фотографий или видео), она показала, как она может выключенный.

«Когда у них есть технологии и инструменты, такие как ИИ, которые позволяют им производить дезинформацию и дезинформацию в массовом масштабе, тогда можно представить, насколько велика эта угроза», — сказал он, добавив, что «внимание платформы к определенной юрисдикции зависит от того, насколько велика эта угроза». важно, чтобы он был рынком».

Глобальное внимание к возможности использования ИИ для создания вводящего в заблуждение или ложного политического контента возросло за последний год с распространением мощных инструментов, таких как ChatGPT OpenAI и видеогенераторы ИИ.

Ранее в этом году Национальный комитет Республиканской партии США опубликовал атакующую рекламу с использованием изображений, созданных искусственным интеллектом, чтобы изобразить мрачное будущее при президенте Джо Байдене. А YouTube заблокировал несколько аккаунтов в Венесуэле, использовавших ведущих новостей, созданных искусственным интеллектом, для распространения дезинформации, благоприятной для режима президента Николаса Мадуро.

В Бангладеш дезинформация усиливает напряженную политическую атмосферу накануне выборов в начале января. Шейх Хасина расправилась с оппозицией. Тысячи лидеров и активистов были арестованы, что, как предупреждают критики, равносильно попытке подтасовать результаты опросов в ее пользу, что побудило США публично оказать давление на ее правительство, чтобы оно обеспечило свободные и справедливые выборы.

В одном видео, опубликованном на канале X в сентябре интернет-изданием BD Politico, ведущий новостей «World News» представил студийный фрагмент, перемежаемый кадрами беспорядков, в котором он обвинил американских дипломатов во вмешательстве в выборы в Бангладеш и возложил на них вину. за политическое насилие.

Видео было сделано с помощью HeyGen, видеогенератора с искусственным интеллектом из Лос-Анджелеса, который позволяет клиентам создавать клипы с аватарами с искусственным интеллектом всего за 24 доллара в месяц. Тот же ведущий по имени «Эдвард» можно увидеть в рекламном контенте HeyGen как один из нескольких аватаров, которые сами созданы реальными актерами и доступных пользователям платформы. X, BD Politico и HeyGen не ответили на запросы о комментариях.

Другие примеры включают в себя антиоппозиционные дипфейковые видеоролики, размещенные на Facebook Меты, в том числе видео, в котором ложно якобы снят изгнанный лидер BNP Тарик Рахман, предлагающий партии «молчать» о Газе, чтобы не вызывать недовольства США. Аналитический центр Tech Global Institute и медиа-некоммерческая организация Witness пришли к выводу, что фейковое видео, скорее всего, было создано искусственным интеллектом.

АКМ Вахидуззаман, представитель BNP, сказал, что его партия попросила Meta удалить такой контент, но «в большинстве случаев они не удосужились ответить». Мета удалил видео после того, как к нему обратилась Financial Times за комментариями.

В другом дипфейковом видео, созданном с использованием тель-авивской видеоплатформы искусственного интеллекта D-ID, показано, как лидер молодежного крыла BNP Рашед Икбал Хан лжет о своем возрасте, что, по мнению Tech Global Institute, было попыткой его дискредитировать. D-ID не ответил на запрос о комментариях.

По словам Сабханаза Рашида Дия, основателя Tech Global Institute и бывшего руководителя Meta, основной проблемой в выявлении такой дезинформации было отсутствие надежных инструментов обнаружения искусственного интеллекта, поскольку готовые продукты особенно неэффективны для выявления неанглоязычного контента.

Она добавила, что решения, предлагаемые крупными технологическими платформами, которые сосредоточены на регулировании искусственного интеллекта в политической рекламе, будут иметь ограниченный эффект в таких странах, как Бангладеш, где реклама составляет меньшую часть политической коммуникации.

«Решения, которые появляются для борьбы с этим натиском дезинформации ИИ, очень ориентированы на Запад». Технологические платформы «не воспринимают это так серьезно в других частях мира».

Проблема усугубляется отсутствием регулирования или его избирательным применением властями. Например, Закон Бангладеш о кибербезопасности подвергся критике за то, что он предоставил правительству драконовские полномочия по подавлению инакомыслия в Интернете.

Интернет-регулятор Бангладеш не ответил на просьбу прокомментировать, что он делает для контроля над дезинформацией в Интернете.

Более серьезной угрозой, чем сам контент, созданный искусственным интеллектом, утверждает Дия, является перспектива того, что политики и другие лица могут использовать саму возможность дипфейков для дискредитации неудобной информации.

В соседней Индии, например, политик отреагировал на просочившуюся аудиозапись, в которой он якобы обсуждал коррупцию в своей партии, заявив, что это фейк — утверждение, которое впоследствии было отклонено проверяющими факты.

«Политику легко сказать: «Это дипфейк» или «Это сгенерировано искусственным интеллектом», и посеять чувство замешательства», — сказала она. «Вызов для глобального Юга. . . будет заключаться в том, как идея контента, созданного искусственным интеллектом, будет использована в качестве оружия, чтобы разрушить то, что люди считают правдой, а не ложью».

Дополнительный репортаж Джйотсны Сингха в Нью-Дели