Подделанное видео Байдена — это тест для политики Facebook в отношении дипфейков

В мае А. В Facebook появилось манипулированное видео президента Джо Байдена. оригинальные кадры показал Байдена во время промежуточных выборов 2022 года, поместив наклейку «Я проголосовал» на грудь своей внучки и поцеловав ее в щеку. В отредактированной версии кадры были зациклены, чтобы создать впечатление, будто он неоднократно прикасался к девушке, с подписью, в которой он был назван «педофилом».

Мета оставила видео. Сегодня Наблюдательный совет компании, независимый орган, который занимается модерацией контента на платформе, объявлено что он пересмотрит это решение, пытаясь подтолкнуть Meta к решению того, как он будет справляться с манипулируемой СМИ и дезинформацией о выборах в преддверии президентских выборов в США 2024 года и более 50 других голосований, которые пройдут по всему миру в следующем году.

«Выборы являются основой демократии, и очень важно, чтобы платформы были оборудованы для защиты целостности этого процесса», — говорит представитель Наблюдательного совета Дэн Чейсон. «Изучение того, как Meta может лучше справляться с измененным контентом, включая видео, предназначенные для обмана общественности перед выборами, становится еще более важным, учитывая достижения в области искусственного интеллекта».

Мета сказала в сообщение в блоге что он установил, что видео не нарушает разжигание ненависти, преследований Facebook и не манипулирует политикой СМИ. В соответствии со своей политикой манипулирования СМИ, Meta заявляет, что удалит видео, если оно «было отредактировано или синтезировано… способами, которые не очевидны для обычного человека, и, вероятно, введут обычного человека в заблуждение, заставив его поверить в то, что субъект видео сказал слова, которые они не сказали». Мета отметила, что в видео Байдена не использовался искусственный интеллект или машинное обучение для манипулирования отснятым материалом.

Эксперты были предупреждение В течение нескольких месяцев выборы 2024 года станут более сложными и опасными благодаря генеративному искусственному интеллекту, который позволяет создавать более реалистичные фальшивые аудио, видео и изображения. Хотя Meta присоединилась к другим технологическим компаниям в стремлении обуздать вред генеративного ИИ, наиболее распространенные стратегии, такие как содержание водяных знаковдоказали только в некотором роде в лучшем случае эффективен. В Словакия На прошлой неделе в Facebook распространилась фейковая аудиозапись, на которой один из ведущих политиков страны обсуждал фальсификацию выборов. Создателям удалось воспользоваться лазейкой в ​​политике СМИ, которой манипулирует Мета, которая не распространяется на поддельное аудио.

Хотя видео Байдена само по себе не создано и не обработано ИИ, Наблюдательный совет запросил общественные комментарии по этому делу с прицелом на ИИ и использует это дело как способ более глубоко изучить политику Меты в отношении манипулируемых видео.