1764861058
2025-12-04 15:00:00
Широкое распространение генеративного искусственного интеллекта сопровождалось появлением в Интернете вводящего в заблуждение контента.
Стремясь помочь восстановить целостность цифровой информации, Национальный центр кибербезопасности Великобритании и Центр кибербезопасности Канады (CCCS) опубликовали новый отчет о происхождении общедоступного контента.
Провенанс означает место происхождения. Чтобы укрепить доверие к внешней аудитории, организациям необходимо улучшить способы решения проблемы публичного происхождения своей информации, говорится в отчете.
Комментируя публикацию, Олли Уайтхаус, технический директор NCSC, сказал: «Эта новая публикация исследует развивающуюся область технологий происхождения контента и предлагает четкое понимание того, как можно управлять этими рисками с использованием ряда точек зрения на кибербезопасность».
«Хотя не существует единого решения для обеспечения доверия к цифровому контенту, это сотрудничество направлено на внедрение ключевых концепций и стратегий, которые требуют дальнейшего изучения, чтобы помочь защитить нашу коллективную цифровую безопасность и процветание».
Будущее целостности контента
В отрасли постоянно предпринимаются усилия по решению проблемы происхождения контента, например Коалиция за происхождение и подлинность контента (C2PA)который пользуется поддержкой генеративного искусственного интеллекта и крупных технологических компаний, таких как Google, OpenAI, Meta и Microsoft.
Однако в настоящее время возникает потребность в совместимых стандартах для различных типов носителей, включая видео, изображения и текстовые документы. Хотя существуют доступные технологии происхождения контента, эта область остается неразвитой.
Ключевая технология включает надежные временные метки и криптографически защищенные метаданные, которые помогают доказать, что контент не был подделан. Однако существуют проблемы, связанные с разработкой этих безопасных технологий, в том числе с тем, как и когда они будут реализованы.
Сегодняшние технологии также возлагают несправедливое бремя на конечного пользователя, полагаясь на то, что он поймет данные о происхождении. Пользователь должен иметь возможность читать и просматривать метаданные полученного контента, чтобы оценить его легитимность, вместо того, чтобы делать оценку по водяному знаку или чему-то подобному.
Система происхождения должна позволять пользователю проверять, кто или что создало контент, когда он был создан и были ли внесены какие-либо правки или изменения.
Поскольку киберпреступники все чаще используют изображения, видео и текст, созданные искусственным интеллектом, чтобы сделать мошенничество более убедительным, возможность отслеживать происхождение и редактировать историю цифровых медиа обеспечивает важнейшую защиту.
Публикация NCSC и CCCS призвана помочь другим уверенно и ясно ориентироваться в этом сложном пространстве.
Он также предлагает практические шаги для организаций, рассматривающих возможность использования технологий происхождения.
#Киберагентства #добиваются #цифрового #доверия #эпоху #искусственного #интеллекта #помощью #новых #источников
Продолжение темы
