Дипфейки Джокови? Растут опасения по поводу предвыборных фальсификаций, созданных искусственным интеллектом

Адитья Ильяс Сапутра, ведущий гитарист группы Soegi Borneon, был удивлен, когда услышал, что президент Джоко «Джокови» Видодо сделал кавер на хит-сингл группы «Asmalibrasi,” только чтобы узнать, что на самом деле это была работа искусственного интеллекта (ИИ).

«Я был удивлен, думая, что Пак Джокови на самом деле поет песню «Asmalibrasi», но оказалось, что она была спродюсирована ИИ», — сказал он. insertlive.com.

Кавер AI на дико популярную песню Jokowi был загружен через дескриптор Twitter. @anjimeNation 28 апреля и набрал более 5 миллионов просмотров, более 10 000 ретвитов и более 37 000 лайков. Он также стал вирусным на Tik Tok, популярной платформе среди новых избирателей, набрав более 188 000 лайков и более 5 000 комментариев.

Такое фальшивое прикрытие не является чем-то необычным в эпоху ИИ, который сравнивают с промышленной революцией и, таким образом, предсказывают, что он изменит не только отрасли, но и политику, какой мы ее знаем. Если прослушивание созданного искусственным интеллектом голоса Пола Маккартни, исполняющего кавер на песню Beach Boys «God Only Knows», или голоса Курта Кобейна, поющего «Creep» Radiohead, может вызвать странную ностальгию, то, когда влиятельный политик поет поп-песню, на самом деле может вызвать опасения, что новая технология может быть использована для распространения дезинформации.

Десятки каверов AI с участием Джокови, исполняющего популярные песни, такие как «Купидон» Fifty-Fifty или «Семнадцать» JKT48, уже были загружены на YouTube. Один пользователь Твиттера, @khvfl_опубликовал дипфейк-видео, в котором лицо Алекса Тернера из Arctic Monkeys меняется на лицо Джокови, а голос первого меняется на голос второго.

Что еще может сделать ИИ в преддверии всеобщих выборов 2024 года?

@dhamz._ Отвечая на @fixxx_07 nii bro #айковер #фип #жокови #асалибрация ♬ АСМАЛИБРАСИ _ АЛИ XD – ZAIN.444 [LM]

«Доступнее»

По словам Вишну Джатмико, профессора искусственного интеллекта и робототехники с факультета компьютерных наук Университета Индонезии, аудио- и видеофайлы, созданные искусственным интеллектом, дошли до такой степени, что их становится все труднее отличить от настоящих.

«Когда дело доходит до таких деликатных вопросов, как выборы, простых отфотошопленных изображений было достаточно. [to create an uproar]”, – сказал Вишну в понедельник. «Раньше люди говорили, что видео — это самое достоверное доказательство, но оказалось, что теперь их можно подделать, и поэтому дипфейки вызывают беспокойство», — сказал он. Джакарта Пост.

Базовая технология, лежащая в основе дипфейков, раньше ограничивалась производством крупнобюджетных фильмов, таких как фотореалистичный римейк «Короля Льва», выпущенный в 2019 году. По словам Висну, более доступным и удобным для пользователя, поскольку программное обеспечение DeepFaceLab для замены лица с открытым исходным кодом можно загрузить и использовать бесплатно.

Разделяющая поляризация на последних двух президентских выборах отчасти усугублялась количеством дезинформации, распространяемой в Интернете. Министерство связи и информации (Коминфо) обнаружило 175 случаев мистификаций в январе 2019 года, достигнув пика в 501 случае в апреле, примерно в день выборов, и дезинформация продолжала распространяться до сентября, когда министерство обнаружило 280 случаев мистификаций в том же месяце. Затем президент Джокови стал жертвой онлайн-розыгрышей, в которых его обвиняли в том, что он этнический китаец, коммунист и антиисламский кандидат, что вынуждало его воинствующих сторонников активизировать свою предвыборную игру в киберпространстве.

Ожидается, что дезинформация снова достигнет пика в преддверии выборов 2024 года. В июле прошлого года в социальных сетях появилось дипфейковое видео, показывающее, как кандидат в президенты Анис Басведан поддерживает сотрудника Aksi Cepat Tanggap (ACT), обвиняемого в растрате благотворительных денег, в явной попытке дискредитировать бывшего губернатора Джакарты.

Индонезия — не единственная страна, сталкивающаяся с опасностями ИИ.

Соединенные Штаты также должны провести президентские выборы в 2024 году, и дезинформация, генерируемая ИИ, начала распространяться в Интернете по мере нарастания политической напряженности. В апреле Республиканская партия США отреагировала на предвыборное заявление президента Джо Байдена, запустив в эфир видеорекламу, состоящую из сгенерированных искусственным интеллектом изображений антиутопического будущего, если Байден выиграет переизбрание. АФП отчеты. Хотя Индонезия еще не сталкивалась с чем-то столь же коварным, генеративный ИИ уже продемонстрировал свой потенциал для дезинформации.

Регулирование ИИ

Ссылаясь на тенденцию дипфейков в США, губернатор Национального института устойчивости (Lemhannas) Энди Виджажанто предупредил о потенциальном влиянии технологии ИИ на предстоящие всеобщие выборы. «Правительство должно иметь возможность создать регулирование или даже технологию для борьбы с [AI-based disinformation]», — сказал Анди журналистам 23 мая, Между отчеты.

Даже если политическая дезинформация, основанная на искусственном интеллекте, еще не стала полностью известной в Индонезии, политик партии NasDem Вилли Адитья признал, что эта технология потенциально может запутать ситуацию еще больше, чем во время всеобщих выборов 2019 года.

«Дезинформация на основе ИИ будет довольно сложной задачей, поскольку создаваемые мистификации будут еще более продвинутыми, чем раньше», — сказал Вилли. «Даже если общественность лучше отделяет факты от вымысла, мы должны уделять особое внимание мистификациям, созданным ИИ».

Учитывая текущую ситуацию, в том числе слухи о том, что Конституционный суд вынесет решение в пользу возвращения к пропорциональной системе с закрытыми списками на выборах в законодательные органы, политическим партиям еще предстоит конкретно обсудить, как бороться с дезинформацией на основе ИИ.

«Как только вопросы, связанные с президентскими выборами, будут решены, вопрос о дезинформации на основе ИИ, вероятно, выйдет на поверхность», — сказал Вилли. (ооо)