Дипфейки, которые когда-то были предметом научной фантастики, теперь настолько убедительны, что лучшие из них могут обмануть даже опытных конечных пользователей.
Хотя некоторый контент, созданный ИИ, может быть полезным и совершенно безвредным, дипфейки — реалистичные изображения, видео и аудиозаписи, созданные искусственным интеллектом, — часто направлены на введение в заблуждение и дезинформацию. Киберпреступники все чаще используют их для кражи личных данных, данных и мошенничества.
На предприятиях дипфейки могут привести к серьезным нарушениям безопасности и существенным финансовым потерям. Один задокументированная атакаНапример, злоумышленники использовали технологию дипфейков, чтобы выдать себя за финансового директора организации во время видеозвонка и убедить финансового сотрудника отправить им 25 миллионов долларов.
Многие конечные пользователи корпораций даже не подозревают, что такие атаки вообще возможны, что делает обучение дипфейкам важнейшим дополнением к обучению по вопросам безопасности. В этой статье представлены советы и инструменты, которые помогут сотрудникам выявлять дипфейки и защищать свои организации от кибератак и мошенничества.
7 советов, как распознать дипфейк
Пользователям следует обращать внимание на следующие несовершенства, несоответствия и странности, которые часто появляются в дипфейковых изображениях, видео- и аудиозаписях и потоках.
1. Движения лица и тела.
Хотя технология дипфейков быстро совершенствуется, ей часто не удается воспроизвести выражения лица и движения тела, которые при внимательном рассмотрении кажутся человеческими и естественными.
При просмотре изображений людей с нечеловеческими качествами мозг генерирует негативную эмоциональную реакцию, получившую название жуткая долина. Призовите сотрудников прислушаться к этому инстинкту, поскольку он может служить единственным индикатором того, что они просматривают дипфейковый контент.
2. Обнаружение синхронизации губ
Движения губ, не соответствующие соответствующему голосу, могут указывать на дипфейк из-за измененного звука и проблем с синхронизацией.
3. Непостоянное или отсутствие мигания глаз.
В настоящее время ИИ изо всех сил пытается имитировать естественное моргание глаз. В результате алгоритмы дипфейков часто создают непоследовательные модели моргания или вообще исключают моргание.
4. Неравномерные отражения или затенение.
Алгоритмы дипфейков часто не могут реалистично изобразить тени и отражения, которые имеют смысл в контексте изображения. Внимательно посмотрите на отражения и тени на окружающих поверхностях, на заднем плане и даже в глазах участников, чтобы увидеть, кажутся ли они естественными или вызывают тревогу.
5. Расширение зрачков
ИИ обычно не меняет диаметр зрачков субъектов, что иногда может приводить к тому, что глаза кажутся выключенными. Это особенно очевидно, если глаза объекта фокусируются на объектах, которые находятся близко или далеко, или должны приспосабливаться к нескольким источникам света. Если вы смотрите объекты, зрачки которых не расширяются естественным образом, это признак того, что видео является дипфейком.
6. Несоответствие кожи и черт лица.
Субъекты дипфейков часто демонстрируют странно однородную кожу, лишенную естественных различий в текстуре и цвете, возникающих из-за морщин, веснушек, солнечных пятен, родинок, шрамов и теней. Кроме того, черты лица могут показаться несвязными — возможно, глаза человека выглядят намного моложе, чем его кожа и волосы, или наоборот.
7. Странности со звуком
Голоса, звучащие неестественно ровно, повторяющиеся или сбивчивые, должны вызывать подозрения. Аналогичным образом, те, кто не реагирует на изменения тона в случае разговора в реальном времени, могут быть сгенерированы дипфейком. Некоторые дипфейки также имеют явно искусственный фоновый шум.
Как обнаружить фейковый контент с помощью ИИ
Поскольку технологии создания дипфейков продолжают совершенствоваться, становится все труднее определить, был ли изменен контент. Но ИИ также можно использовать для обнаружения дипфейков, созданных ИИ.. И хорошая новость заключается в том, что по мере развития создания дипфейков будут развиваться и технологии обнаружения дипфейков на базе искусственного интеллекта.
Сегодня доступно несколько инструментов обнаружения дипфейков, которые обрабатывают большие наборы дипфейковых изображений, видео и аудио. С помощью машинного и глубокого обучения данные анализируются для выявления неестественных закономерностей, которые указывают на то, что контент был создан искусственно.
Ниже приведены два дополнительных способа использования ИИ для автоматического обнаружения дипфейков:
- Анализ источников. Идентификация источника мультимедийного файла может указывать на то, что он был изменен. Проблема заключается в том, что анализ источника файлов является сложной задачей при использовании ручных методов. Алгоритмы обнаружения дипфейков могут реагировать гораздо более тщательно и быстро, поскольку они анализируют метаданные файлов, чтобы гарантировать, что видео полностью неизменено и является аутентичным.
- Проверка целостности фонового видео. Раньше дипфейк можно было легко распознать по его происхождению. Но сегодня инструменты искусственного интеллекта достигли такого уровня, что они способны изменять фон, чтобы он выглядел максимально аутентично. Детекторы Deepfake могут точно определить измененный фон, выполняя детальные проверки в нескольких точках, чтобы выявить изменения, которые могут быть не уловлены человеческим глазом.
Алисса Ирей — старший редактор сайта Informa TechTarget Security.
Эндрю Фрелих — основатель InfraMomentum, исследовательской и аналитической фирмы в области ИТ, а также президент West Gate Networks, консалтинговой компании в области ИТ. Он занимается корпоративными ИТ более 20 лет.
2025-12-17 18:25:00
1767016361
#Как #обнаружить #дипфейк #помощью #визуальных #подсказок #инструментов #искусственного #интеллекта
Читайте также
