Учетные данные контента — это начало

Растет консенсус относительно того, как решить проблему дипфейков в средствах массовой информации и бизнесе, возникающую с помощью таких технологий, как искусственный интеллект. Ранее в этом году Google объявила, что присоединяется к Коалиции по происхождению и аутентичности контента в качестве члена руководящего комитета — в состав других организаций C2PA входят OpenAI, Adobe, Microsoft, AWS и RIAA. В условиях растущей обеспокоенности по поводу дезинформации и дипфейков, создаваемых искусственным интеллектом, ИТ-специалисты захотят обратить пристальное внимание на работу этого органа, и особенно на учетные данные контента, поскольку в отрасли формализуются стандарты, регулирующие управление визуальными и видеоданными.

Что такое учетные данные контента?

Учетные данные контента — это форма цифровых метаданных, которые создатели могут прикреплять к своему контенту, чтобы обеспечить правильное распознавание и повысить прозрачность. Эти защищенные от несанкционированного доступа метаданные включают информацию об создателе и творческом процессе, которая встроена непосредственно в контент во время экспорта или загрузки. Content Credentials имеет наилучшие шансы на достижение глобально стандартизированного и согласованного способа маркировки контента благодаря весу компаний, стоящих за этой концепцией.

ВИДЕТЬ: Adobe добавляет Firefly и учетные данные для контента в программу Bug Bounty

Использование учетных данных контента дает несколько преимуществ. Это поможет завоевать авторитет и доверие аудитории, предоставляя больше информации о создателе и творческом процессе. Эта прозрачность может помочь в борьбе с дезинформацией и дезинформацией в Интернете. Прикрепляя к своей работе идентификационную и контактную информацию, авторы могут облегчить другим возможность найти их и связаться с ними, повысив их видимость и узнаваемость. Точно так же станет легче выявлять и де-платформировать или удалять незаконный контент.

Дипфейки — это проблема, с которой Австралия пытается справиться

Австралия, как и большая часть остального мира, борется с массовым ростом дипфейкового мошенничества. Третий ежегодный фестиваль Sumsub Отчет о мошенничестве с личными данными обнаружил рост количества дипфейков в Австралии на 1530% за последний год и отметил, что их изощренность также растет.

Ситуация стала настолько тревожной, что правительство недавно объявил о стратегии чтобы противодействовать некоторым конкретным примерам этого, а затем установить способы рассматривать его как любую другую форму незаконного контента.

Дипфейки являются особенно мощными источниками дезинформации, поскольку глаз можно очень быстро обмануть. Исследования показывают, что для этого требуется всего лишь 13 миллисекунд для идентификации изображения — временные рамки, намного меньшие, чем время, необходимое для его обработки и определения достоверности. Другими словами, дипфейки представляют собой такой риск, потому что они могут оказать желаемое воздействие на человека еще до того, как их можно будет проанализировать и отклонить.

ВИДЕТЬ: Дипфейки с использованием искусственного интеллекта становятся риском для организаций Азиатско-Тихоокеанского региона

Например, ведущая научная организация Австралии CSIRO опубликовала информацию о «как распознать дипфейк», и это руководство требует тщательного анализа.

«Если это видео, вы можете проверить, правильно ли синхронизирован звук с движением губ. Соответствуют ли слова рту? Другие вещи, на которые следует обратить внимание, — это неестественное моргание или мерцание вокруг глаз, странное освещение или тени, а также выражения лица, которые не соответствуют эмоциональному тону речи», — сказала эксперт CSIRO, доктор Кристен Мур, в рекомендациях.

Таким образом, каким бы полезным ни был этот совет, информирования конечной цели дипфейков о том, как их идентифицировать, будет недостаточно, чтобы помешать им сеять хаос в обществе.

Правительству и частному сектору необходимо объединиться для борьбы с дипфейками

Правительство, объявляющее дипфейки незаконными, является позитивным шагом в защите тех, кто может стать их жертвой. Однако ИТ-индустрия должна будет разработать способы идентификации и управления этим контентом.

Уже известны громкие случаи, когда крупные бизнес-деятели, такие как Дик Смит и Джина Райнхарт, «требуют», чтобы такие организации, как Meta, были более активными в предотвращении мошенничества с использованием ИИ после их сходства использовались в дипфейках.

Как отмечает Комиссар Австралии по электронной безопасности, «разработка инноваций, помогающих идентифицировать дипфейки, пока не поспевает за самой технологией». Со своей стороны, австралийское правительство взяло на себя обязательство бороться с дипфейками посредством:

• Повышение осведомленности о дипфейках, чтобы австралийцы получили аргументированный и основанный на фактических данных обзор проблемы, а также были хорошо информированы о доступных им вариантах.
• Поддержка людей, подвергшихся нападкам через систему подачи жалоб. Любой австралиец, чья фотография или видео были изменены в цифровом формате и опубликованы в Интернете, может обратиться в eSafety за помощью в их удалении.
• Предотвращение вреда путем разработки образовательного контента о дипфейках, чтобы австралийцы могли критически оценивать онлайн-контент и более уверенно ориентироваться в онлайн-мире.
• Поддержка промышленности посредством нашей инициативы «Безопасность благодаря дизайну», которая помогает компаниям и организациям внедрять безопасность в свои продукты и услуги.
• Поддерживая усилия отрасли по сокращению или ограничению перераспределения вредных дипфейков, поощряя их разрабатывать: политику, условия обслуживания и стандарты сообщества в отношении дипфейков, политику проверки и удаления для управления оскорбительными и незаконными дипфейками, методы выявления и маркировки дипфейков в своем сообществе.

В конечном счете, чтобы эта концепция была успешной, необходима поддержка со стороны отрасли, а также организаций, предоставляющих технологии и наиболее глубоко инвестирующих в ИИ. Здесь на помощь приходят учетные данные контента.

Шаги, которые необходимо предпринять для борьбы с дипфейками

Учетные данные по контенту — лучший шанс сформировать стандарты для борьбы с дипфейками. Поскольку этот подход ориентирован на индустрию и поддерживается влиятельнейшими игроками в контент-индустрии, это означает, что незаконный контент может быть помечен в огромной части Интернета — аналогично тому, как веб-сайты, наполненные вирусами, могут быть помечены до такой степени, что они становятся практически недоступными для поиска в поисковых системах.

По этой причине ИТ-специалисты и другие специалисты, работающие с искусственным интеллектом для создания контента, захотят понимать учетные данные контента так же, как веб-разработчики понимают безопасность, SEO и стандарты, которые должны защищать контент от пометки. Шаги, которые им следует предпринять, включают:

• Реализация учетных данных контента: Прежде всего, ИТ-специалистам необходимо убедиться, что их организация активно принимает и интегрирует учетные данные контента в рабочие процессы, чтобы гарантировать подлинность и отслеживаемость контента.
• Выступая за прозрачность: Как внутри, так и снаружи, вместе с партнерами и клиентами, выступайте за то, чтобы организации были прозрачными в использовании ИИ и применяли этические практики при создании и распространении контента.
• Поддержка регулирования: Взаимодействуйте с отраслевыми организациями и государственными учреждениями для разработки политики и правил, направленных на решение проблем, связанных с дипфейками. Это включает в себя участие в различных расследованиях, которые правительство будет проводить в отношении ИИ, чтобы помочь сформировать политику.
• Сотрудничество: Работать с другими специалистами и организациями над разработкой стандартизированных методов и инструментов для выявления и снижения рисков, связанных с дипфейками.
• Подготовка стратегий реагирования: Разработайте план на случай обнаружения дипфейков, включая шаги по уменьшению ущерба и общению с заинтересованными сторонами.
• Использование ресурсов сообщества: Наконец, используйте ресурсы сообществ кибербезопасности и правительственных органов, таких как Комиссар по электронной безопасности, чтобы оставаться в курсе и быть готовым.

Без сомнения, дипфейки станут одной из наиболее серьезных проблем, на которую технологической индустрии и ИТ-специалистам придется найти ответ. Content Credentials предлагает отличную отправную точку, к которой может стремиться отрасль.