Детские мультфильмы получают бесплатный пропуск от правил YouTube по раскрытию информации о Deepfake

YouTube обновил свод правил для эпохи дипфейки. Начиная с сегодняшнего дня, любой, кто загружает видео на платформу, должен раскрывать определенные виды использования синтетических медиа, включая генеративный искусственный интеллект, чтобы зрители знали, что то, что они видят, не является реальным. YouTube говорит, что это применимо к «реалистичным» измененным медиа, таким как «создание впечатления, будто загорелось настоящее здание» или обмен «лицо одного человека с лицом другого».

новая политика показывает, что YouTube предпринимает шаги, которые могут помочь сдержать распространение Дезинформация, сгенерированная ИИ как президентские выборы в США подходы. Поразительно и то, что он позволяет: анимация, созданная искусственным интеллектом и предназначенная для детей, не подпадает под действие новых правил раскрытия синтетического контента.

YouTube новая политика полностью исключить анимированный контент из требования о раскрытии. Это означает, что новая сцена, где быстро разбогатеют производители контента, созданного с помощью искусственного интеллекта могут продолжать выпускать видеоролики, предназначенные для детей, без необходимости раскрывать свои методы. Родителям, обеспокоенным качеством наспех снятых видеороликов с детскими стишками, придется самим распознавать мультфильмы, созданные ИИ.

Новая политика YouTube также гласит, что авторам не нужно отмечать использование ИИ для «незначительных» изменений, которые «в первую очередь эстетические», таких как косметические фильтры или очистка видео и аудио. Использование ИИ для «создания или улучшения» сценария или титров также разрешено без раскрытия информации.

На YouTube нет недостатка в низкокачественном контенте, созданном без использования искусственного интеллекта, но инструменты генеративного искусственного интеллекта снижают планку производства видео и ускоряют его производство. Материнская компания YouTube, Google, недавно заявила, что это настройка алгоритмов поиска чтобы ослабить недавнее наводнение Кликбейт, созданный искусственным интеллектом, что стало возможным благодаря таким инструментам, как ChatGPT. Технология генерации видео менее зрелая но быстро поправляется.

Установленная проблема

YouTube — это развлекательная программа для детей, затмевая таких конкурентов, как Netflix и Disney. В прошлом платформа изо всех сил пыталась модерировать огромное количество контента, предназначенного для детей. Он подвергся критике за размещение контента, который на первый взгляд выглядит подходящим или привлекательным для детей, но при ближайшем рассмотрении содержит неприятные темы.

Недавно WIRED сообщил на росте количества каналов YouTube, ориентированных на детей, которые, похоже, используют инструменты создания видео с помощью искусственного интеллекта для создания некачественных видеороликов с типовой 3D-анимацией и необычными итерациями популярных детских стишков.

Исключение для анимации в новой политике YouTube может означать, что родители не смогут легко отфильтровывать такие видео из результатов поиска или запретить алгоритму рекомендаций YouTube автоматически воспроизводить мультфильмы, созданные искусственным интеллектом, после того, как они настроят своего ребенка на просмотр популярных и тщательно проверенных каналов, таких как PBS Kids или Ms. Рэйчел.

Некоторый проблемный контент, созданный искусственным интеллектом и предназначенный для детей, требует пометки в соответствии с новыми правилами. В 2023 году Би-би-си расследовано волна видеороликов, ориентированных на детей старшего возраста, которые использовали инструменты искусственного интеллекта для продвижения лженауки и теорий заговора, включая отрицание изменения климата. Эти видеоролики имитировали обычные образовательные видеоролики с живыми актерами, показывающие, например, настоящие пирамиды Гизы, поэтому ничего не подозревающие зрители могли принять их за фактически точный образовательный контент. (Видео пирамид затем предполагало, что конструкции могут генерировать электричество.) Эта новая политика будет пресекать этот тип видео.

«Мы требуем, чтобы создатели детского контента раскрывали контент, который существенно изменен или создан искусственно, если он кажется реалистичным», — говорит представитель YouTube Елена Эрнандес. «Мы не требуем раскрытия контента, который явно нереален и не вводит зрителя в заблуждение, заставляя его думать, что он реален».

Специальное детское приложение YouTube Детям курируется с использованием комбинации автоматических фильтров, человеческого анализа и отзывов пользователей для поиска качественного детского контента. Но многие родители просто используют основное приложение YouTube, чтобы подбирать контент для своих детей, полагаясь на бросающиеся в глаза названия видео, списки и миниатюры изображений, чтобы решить, что подходит.

До сих пор большая часть детского контента, созданного искусственным интеллектом, который WIRED нашел на YouTube, была плохо сделана, как и более традиционные детские анимации, не требующие больших усилий. У них уродливые визуальные эффекты, бессвязный сюжет и нулевая образовательная ценность. уникально уродливые, бессвязные или педагогически бесполезные.

Инструменты искусственного интеллекта упрощают создание такого контента и в больших объемах. Некоторые каналы, обнаруженные WIRED, загружают длинные видеоролики, некоторые продолжительностью более часа. Требование маркировки детского контента, созданного искусственным интеллектом, может помочь родителям отфильтровывать мультфильмы, которые могли быть опубликованы с минимальной или вообще без человеческой проверки.