Gemini распознает, было ли видео создано (его собственным) ИИ

Google объявил о серьезном обновлении Gemini, стремясь внести прозрачность в мрачный ландшафт цифрового контента. Популярный инструмент искусственного интеллекта теперь получает возможность проверять, было ли видео создано или отредактировано его собственными системами. ИИ. Эта новая функция призвана ответить на одну из самых больших проблем современной информации: неспособность отличить реальность от цифровой конструкции.

Заявление компании знаменует собой следующий шаг в ее стратегии по борьбе с дезинформацией, используя свои Технология СинтиД ее Гугл ДипМайнд. После интеграции соответствующих инструментов для изображений в ноябре прошлого года расширение использования видео считается критически важным, поскольку аудиовизуальные дипфейки становятся все более убедительными, из-за чего даже самым опытным пользователям становится трудно определить правду.

Как работает новая функция

Процесс проверки спроектирован так, чтобы быть простым и доступным для обычного пользователя. Через его применение Близнецыможно загрузить видеофайл и напрямую задать вопрос: “Было ли это создано с использованием Google AI?».

Система не ограничивается односложным ответом «да» или «нет». Вместо этого он сканирует контент в поисках цифрового водяного знака. SynthIDкоторый встроен в пиксели изображения или звуковые волны. После обнаружения Gemini предоставляет подробный отчет с указанием конкретных временных меток, когда появляется след ИИ. Это особенно полезно в случаях смешанного контента, когда фактическое видео могло быть отредактировано только в определенных его частях или может быть изменен только его звук.

Технология проверки

«Сердцем» системы является SynthID, технология разработан Google DeepMind. SynthID встраивает невидимый для человеческого глаза и уха водяной знак непосредственно в структуру файла в момент его создания.

Плюсом этого метода является его долговечность. Даже если видео сжато, изменен формат или цвет, водяной знак остается распознаваемым алгоритмами Google. Однако для зрителя качество изображения и звука остается неизменным, без видимых маркировок или логотипов, которые могли бы отвлекать.

Важные ограничения

Хотя этот шаг является положительным, это не панацея от проблемы дипфейков. Существуют определенные ограничения, о которых следует знать пользователям. Прежде всего, инструмент он может обнаруживать только видео, созданные с помощью собственных инструментов Google.например, модель Veo. Если видео было создано с помощью конкурирующих моделей, таких как Sora от OpenAI или инструментов Runway и Pika, Gemini не сможет пометить его как продукт искусственного интеллекта, даже если оно явно является подделкой.

Кроме того, существуют технические ограничения на использование этого инструмента. В настоящее время размер загружаемых файлов не должен превышать 100 МБ и продолжительность 90 секунд. Это означает, что для более длинных или короткометражных видеороликов проверку придется выполнять поэтапно или вообще невозможно.

Доступность этой функции является глобальной и охватывает все языки, поддерживаемые Gemini, предоставляя миллионам пользователей первое, но важное оружие в борьбе за правду на их экранах.