Новое исследование изучает, как ИИ формирует то, чему вы можете доверять в Интернете | Блог Microsoft Signal

Вы видите это в своих социальных сетях: видеоролики очаровательных малышей, говорящих странные взрослые вещи, общественные деятели, делающие совершенно нетипичные заявления, фотографии природы, слишком надуманные, чтобы быть правдой. В эпоху искусственного интеллекта увидеть не всегда значит поверить.

Дипфейки угрожают доверию к новостям, выборам, брендам и повседневному взаимодействию, заставляя нас сомневаться в том, что реально. Определение того, что является подлинным, а что подделанным, является предметом «Целостность СМИ и аутентификация: статус, направления и будущее»отчет, опубликованный сегодня. В исследовании оцениваются современные методы аутентификации, чтобы лучше понять их ограничения, изучить потенциальные способы их усиления и помочь людям принимать обоснованные решения относительно онлайн-контента, который они потребляют.

Авторы приходят к выводу, что ни одно решение не может предотвратить цифровой обман само по себе. Такие методы, как происхождениеводяные знаки и цифровые отпечатки пальцев могут предоставить полезную информацию, например, кто создал контент, какие инструменты использовались и был ли он изменен.

Средства массовой информации могут обмануть людей, если им не хватает такой информации, как их происхождение и история, или если эта информация некачественная или вводящая в заблуждение. По словам Джессики Янг, директора по научно-технической политике в офисе главного научного директора Microsoft, цель отчета — предоставить дорожную карту для предоставления общественности более достоверной информации о происхождении.

Помощь людям в распознавании индикаторов более высокого качества контента становится все более важной, поскольку дипфейки становятся все более разрушительными, а законодательство о происхождении в различных странах, включая США, вводит еще больше способов помочь людям аутентифицировать контент позже в этом году.

Происхождение средств массовой информации развивалось на протяжении многих лет, Microsoft является пионером в этой технологии в 2019 году и стал соучредителем Коалиция за происхождение и подлинность контента (C2PA) в 2021 году для стандартизации подлинности мультимедиа.

Янг, сопредседатель исследования, подробнее объясняет, что все это значит:

Что послужило толчком к исследованию?

«Мотивация была двоякой», — говорит Янг. “Во-первых, это признание того момента, в котором мы сейчас находимся. Мы знаем, что возможности генеративного искусственного интеллекта становятся все более мощными. Становится все сложнее различать подлинный контент – например, контент, который был снят камерой, и сложные дипфейки – и в результате сейчас наблюдается огромный всплеск интересов и требований к использованию существующих технологий для раскрытия и проверки того, был ли контент создан или манипулирован искусственным интеллектом.

«Момент назревал, и у нас есть желание помочь гарантировать, что эти технологии в конечном итоге принесут больше пользы, чем вреда, в зависимости от того, как они используются и понимаются».

Янг добавляет, что документ призван информировать более широкую экосистему целостности и аутентификации СМИ, включая создателей, технологов, политиков и других, чтобы понять, что возможно, а что невозможно в настоящее время и как мы можем опираться на это в будущем.

Чего удалось достичь в ходе исследования и что вы узнали?

В докладе намечен путь повышения уверенности в подлинности средств массовой информации. Авторы предлагают направление, которое они называют «аутентификацией высокой надежности», чтобы смягчить недостатки различных методов обеспечения целостности мультимедиа.

По ее словам, связывание происхождения C2PA с незаметным водяным знаком может обеспечить относительно высокую уверенность в происхождении СМИ.

Она отмечает, что в отчете также есть много предостережений, например, о том, что происхождение традиционных автономных устройств, таких как камеры, в которых часто отсутствуют важные функции безопасности, может быть менее надежным, поскольку их легче изменить.

Невозможно предотвратить каждую атаку или помешать определенным платформам разоблачать сигналы происхождения, поэтому задача, по словам Янга, «заключается в том, как выявить наиболее надежные индикаторы со встроенной надежной защитой — и, при необходимости, усилить их дополнительными методами, которые позволяют восстанавливать или поддерживать ручную работу по цифровой криминалистике».

Чем это исследование отличается от других?

Янг говорит, что в их исследовании изучались два «недоисследованных» подхода к трем методам проверки. Первые они определяют как социотехнические атаки, при которых информацией о происхождении или самими средствами массовой информации можно манипулировать, чтобы в процессе проверки подлинный контент выглядел синтетическим, а фальшивый контент казался реальным.

«Представьте, что вы видите подлинное изображение мирового спортивного события, на котором 80% зрителей болеют за команду хозяев», — говорит она. «Гостиная команда участвует в онлайн-споре, утверждая: «Эй, нет, это все фальшивая толпа». Кто-то может внести небольшое, незначительное изменение в изображение человека в углу изображения, и нынешние методы сочтут его созданным искусственным интеллектом, даже если размер толпы был реальным. Эти методы, которые должны были поддерживать подлинность, теперь усиливают фальшивое повествование вместо реального.

«Итак, зная, как работают разные валидаторы, даже с помощью очень тонких модификаций, вы можете манипулировать результатами, которые увидит публика, чтобы попытаться обмануть ее относительно контента», — говорит она. Вторая ключевая тема основана на работе C2PA по повышению надежности учетных данных контента, а также обеспечению надежности. Именно здесь исследование является особенно новым, говорит Янг. «Мы рассмотрели, как информация о происхождении может быть добавлена и сохранена в различных средах — от систем с высоким уровнем безопасности до менее безопасных автономных устройств — и что это означает для надежности».

Почему проверка цифровых носителей так сложна?

По словам Янга, аутентификация носителей является сложной задачей, поскольку не существует универсального решения, подходящего всем.

«У вас есть разные форматы, которые имеют разные ограничения или компромиссы в отношении сигналов, которые они могут содержать», — объясняет она. «Будь то изображения, аудио, видео — не говоря уже о тексте, который сталкивается с совершенно другим набором проблем — и насколько сильные решения могут быть там применены».

Янг говорит, что существуют разные требования и мнения относительно того, какой уровень прозрачности является подходящим. В некоторых случаях пользователи могут не захотеть, чтобы какая-либо их личная информация была включена в цифровое происхождение медиа-материала, в то время как в других создатели или художники могут захотеть указать авторство и дать согласие на включение своей информации.

«Итак, у вас разные требования или даже соображения относительно того, что входит в эту информацию о происхождении», — говорит она. “И затем, как и в области безопасности, ни одно решение не является надежным. Таким образом, все методы дополняют друг друга, но каждый имеет свои ограничения”.

Куда нам идти дальше?

Янг говорит, что по мере того, как контент, созданный или отредактированный искусственным интеллектом, становится все более распространенным, использование безопасного происхождения подлинного контента становится все более важным. Издатели, общественные деятели, правительства и предприятия имеют веские основания подтверждать подлинность контента, которым они делятся. Например, если новостное издание фотографирует какое-либо мероприятие, привязка к этим изображениям защищенной информации о происхождении может помочь показать аудитории, что контент надежен.

«Правительственные органы также заинтересованы в том, чтобы общественность знала, что их официальные документы или средства массовой информации представляют собой надежную информацию по вопросам, представляющим общественный интерес», — говорит Янг.

Она добавляет, что по мере того, как модификации средств массовой информации с помощью ИИ становятся «все более распространенными» для законных целей, безопасное происхождение может обеспечить важный контекст, который поможет не дать среднестатистическому читателю или зрителю просто отклонить этот контент как фальшивый или вводящий в заблуждение.

«Для отрасли и регулирующих органов мы отмечаем, насколько важно продолжать исследования пользователей в этой области, чтобы обеспечить более последовательное и полезное отображение этой информации для общественности — чтобы убедиться, что она действительно значима и полезна на практике», — говорит Янг.

«У нас есть ограниченный набор технологий, которые могут нам помочь, и мы не хотим, чтобы они имели неприятные последствия из-за неправильного понимания или неправильного использования».

Узнайте больше о Блог исследований Microsoft.

Главное изображение: Mininyx Doodle/Getty Images

Саманта Кубота рассказывает обо всем, что касается искусственного интеллекта и инноваций для Microsoft Signal, уделяя особое внимание тому, как ИИ-агенты являются изменение повседневной работыMicrosoft исследовательские прорывы и ответственное использование новых технологий. До прихода в Microsoft Кубота работал журналистом в NBC News. Следуй за ней LinkedIn и Х.