Генеративный искусственный интеллект и дипфейк: появляются ярлыки, требуемые Законом об искусственном интеллекте

Вскоре контент, созданный или обработанный искусственным интеллектом, включая дипфейки, будет сопровождаться лейблом и кибертегами. Это одна из мер, введенных новым европейским законом об ИИ (Закон об ИИ) для обеспечения прозрачности.

Чтобы помочь компаниям соблюдать эти обязательства, Комиссия ЕС опубликовала первый черновик Кодекса практики обеспечения прозрачности контента, созданного с помощью искусственного интеллекта.

О чем идет речь

Кодекс представляет собой добровольный инструмент, разработанный независимыми экспертами в рамках многостороннего процесса и обеспечивающий оперативные решения для соблюдения требований прозрачностиИИ Действовать.

В результате работы, начатой в ноябре прошлого года, в которой приняли участие сотни участников и заинтересованных сторон, документ разделен на два раздела: первый посвящен тем, кто разрабатывает системы ИИ (поставщики), второй — тем, кто их использует (развертыватели).

Маркировка контента, созданного искусственным интеллектом

Закон об искусственном интеллекте требует, чтобы поставщики генеративных алгоритмов гарантировали, что выходные данные (текст, изображения, видео, фотографии) размечаются в машиночитаемом формате и обнаруживаются как искусственные.

Для выполнения этого обязательства кодекс предлагает многоуровневый подход, основанный на комбинированном применении различных методов активной разметки, таких как использование невидимого водяного знака или добавление информации в виде метаданных.

Также указаны решения для обнаружения маркировки, такие как предоставление бесплатного интерфейса или детектора, доступного для всех. Документ также призывает поддерживать грамотность в вопросах происхождения и проверки контента ИИ в соответствии собязательство по обучению введено европейским законодательством.

Маркировка дипфейков и искусственных текстов

Закон обязывает тех, кто использует системы искусственного интеллекта, которые генерируют или манипулируют изображениями, аудио или видео, которые можно классифицировать как дипфейки, раскрывать, что контент является искусственным. То же самое относится и к текстам, публикуемым с целью информирования людей по вопросам, представляющим общественный интерес.

Чтобы помочь компаниям адаптироваться, в кодексе сначала вводится общая таксономия, позволяющая классифицировать результаты, создаваемые алгоритмами, на две категории: контент, полностью созданный ИИ, и контент, созданный с помощью ИИ, например синтез ИИ текста, созданного человеком, или изменение лица или голоса в видео.

Затем предусматривается общий значок, который, в ожидании разработки на европейском уровне, состоит из двухбуквенной аббревиатуры слова «искусственный интеллект», также в соответствии с переводом на различные языки ЕС. Значок, включающий таксономию, разработанную в кодексе, должен быть четко виден при первом просмотре и расположен в соответствии с форматом материала и контекстом распространения.

Документ также учитывает некоторые конкретные случаи, такие как трансляция видео в режиме реального времени или производство подкастов. В случае искусственных текстов значок можно вставить вверху или после последнего предложения текста. Кроме того, от развертывающих организаций также требуется внутреннее обучение и мониторинг.

Следующие шаги

Комиссия будет собирать отзывы по этому первому проекту кодекса до 23 января. Вторая версия документа ожидается к середине марта. Цель — опубликовать окончательный текст. к июнюучитывая, что требования прозрачности Закона об AI будут применяться со 2 августа 2026 года. Однако, если проект упрощения, предложенный Комиссией с пакетом, будет одобрен Цифровой омнибусможет быть предусмотрен шестимесячный переходный период для применения требований к маркировке поставщиков.