Гиперреалистичные видеоролики с искусственным интеллектом в приложении Sora разжигают кризис онлайн-доверия из-за резкого роста скачиваний – Baltimore Sun

Нилеш Кристофер, Los Angeles Times

Пролистывание приложения Sora может немного напоминать попадание в реальную мультивселенную.

Майкл Джексон выступает в стойке; инопланетянин из фильма «Хищник» переворачивает гамбургеры в «Макдоналдсе»; камера домашней безопасности фиксирует лося, врезающегося в стеклянную дверь; Королева Елизавета ныряет со стола в пабе.

Такие невероятные реальности, фантастическое будущее и абсурдистские видеоролики являются основой приложения Sora, нового приложения для коротких видео, выпущенного производителем ChatGPT OpenAI.

Непрерывный поток гиперреалистичных коротких видеороликов, созданных искусственным интеллектом, поначалу ошеломляет и завораживает. Но это быстро вызывает новую потребность в пересмотре каждого фрагмента контента: реального или фальшивого.

«Самый большой риск, связанный с Сорой, заключается в том, что она делает невозможным преодоление правдоподобного отрицания и подрывает уверенность в нашей способности отличать подлинное от синтетического», — сказал Сэм Грегори, эксперт по дипфейкам и исполнительный директор правозащитной организации WITNESS. «Отдельные фейки имеют значение, но настоящий ущерб — это туман сомнений, окутывающий все, что мы видим»,

Все видео в приложении Sora полностью созданы искусственным интеллектом, и возможность поделиться реальными кадрами отсутствует. Но с первой недели после запуска пользователи делились своими видеороликами Sora во всех типах социальных сетей.

Менее чем через неделю после запуска 30 сентября приложение Sora пересекло миллион загрузокопережая первоначальный рост ChatGPT. Sora также достигла вершины App Store в США. На данный момент приложение Sora доступно только пользователям iOS в США, и люди не смогут получить к нему доступ, если у них нет кода приглашения.

Чтобы использовать приложение, люди должны отсканировать свое лицо и прочитать три цифры, отображаемые на экране, чтобы система могла записать голосовую подпись. Как только это будет сделано, пользователи смогут ввести собственную текстовую подсказку и создать гиперреалистичные 10-секундные видеоролики с фоновым звуком и диалогами.

С помощью функции «Камеи» пользователи могут накладывать свое лицо или лицо друга на любое существующее видео. Хотя все материалы имеют видимый водяной знак, многие веб-сайты теперь предлагают удаление водяных знаков для видео Sora.

При запуске OpenAI небрежно подходил к обеспечению соблюдения ограничений авторских прав и по умолчанию разрешал воссоздание материалов, защищенных авторским правом, если только владельцы не отказались от этого.

Пользователи начали создавать видеоролики с использованием искусственного интеллекта с участием персонажей из таких игр, как «Губка Боб Квадратные Штаны», «Южный парк» и «Во все тяжкие», а также видеоролики, стилизованные по мотивам игрового шоу «Цена правильная» и ситкома 90-х «Друзья».

Затем последовало воссоздание мертвых знаменитостей, в том числе Тупака Шакура, бродящего по улицам Кубы, Гитлера, сражающегося с Майклом Джексоном, и ремиксы на преподобного Мартина Лютера Кинга-младшего, произнесшего свою культовую речь «У меня есть мечта», но призывающего освободить опального рэпера Дидди.

«Пожалуйста, просто перестаньте присылать мне видео с папой, созданные искусственным интеллектом», — написала Зельда Уильямс, дочь покойного комика Робина Уильямса. Инстаграм. «Вы не занимаетесь искусством, вы делаете отвратительные, переработанные хот-доги из жизни людей, из истории искусства и музыки, а затем засовываете их в глотку кому-то другому, надеясь, что они покажут вам небольшой палец вверх и вам это понравится. Отвратительно».

Другие воссоздания умерших знаменитостей, в том числе Коби Брайанта, Стивена Хокинга и президента Кеннеди, созданные на Sora, были перекрестно размещены на сайтах социальных сетей, собрав миллионы просмотров.

Представитель компании Fred Rogers Productions заявил, что семья Роджерса «разочарована видеозаписями искусственного интеллекта, искажающими мистера Роджерса, которые распространяются в Интернете».

Видео, где г-н Роджерс держит пистолет, приветствует рэпера Тупака и другие сатирические фейковые ситуации, широко распространялись на Sora.

“Видео прямо противоречат тщательному намерению и соблюдению основных принципов развития детей, которые Фред Роджерс привносил в каждый эпизод сериала “Соседство мистера Роджерса”. Мы связались с OpenAI с просьбой заблокировать голос и изображение мистера Роджерса для использования на платформе Sora, и мы ожидаем, что они и другие платформы искусственного интеллекта будут уважать личность человека в будущем”, – заявил представитель в заявлении для The Times.

Голливудские агентства и профсоюзы талантов, в том числе SAG-AFTRA, начали обвинять OpenAI в неправомерном использовании образов. Основное напряжение сводится к контролю над использованием образов актеров и лицензированных персонажей — и справедливой компенсации за использование в видеороликах с искусственным интеллектом.

После обеспокоенности Голливуда по поводу авторских прав Сэм Альтман поделился сообщением в блоге, пообещав правообладателям усилить контроль над тем, как их персонажи могут использоваться в видеороликах с искусственным интеллектом, и изучает способы распределения доходов с правообладателями.

Он также сказал, что студии теперь могут «согласиться» на использование своих персонажей в воссозданных ИИ, что является отходом от первоначальной позиции OpenAI о режиме отказа.

Будущее, по мнению Альтмана, движется к созданию персонализированного контента для аудитории из нескольких человек или аудитории из одного человека.

«Творчество может пережить кембрийский взрыв, и вместе с ним может резко повыситься качество искусства и развлечений», — написал Альтман, назвав этот жанр взаимодействия «интерактивным фанфиком».

Однако поместья умерших актеров спешат защитить свое подобие в эпоху искусственного интеллекта.

CMG Worldwide, представляющая имущество умерших знаменитостей, заключила партнерство с компанией по обнаружению дипфейков. Много ИИ для защиты списков актеров и поместий CMG от несанкционированного цифрового использования.

Loti AI будет постоянно отслеживать ИИ-олицетворения 20 личностей, представленных CMG, включая Берта Рейнольдса, Кристофера Рива, Марка Твена и Розу Паркс.

«Например, с момента запуска Sora 2 число наших регистраций увеличилось примерно в 30 раз, поскольку люди ищут способы восстановить контроль над своим цифровым подобием», — сказал Люк Арригони, соучредитель и генеральный директор Loti AI.

С января Loti AI заявила, что удалила тысячи экземпляров несанкционированного контента, поскольку новые инструменты искусственного интеллекта упростили создание и распространение дипфейков.

После многочисленных «неуважительных изображений» Мартина Лютера Кинга-младшего OpenAI заявила, что приостанавливает создание видеороликов с изображением иконы гражданских прав на Соре по просьбе поместье короля. Хотя существуют сильные интересы свободы слова в изображении исторических деятелей, общественные деятели и их семьи в конечном итоге должны иметь контроль над тем, как используется их изображение, говорится в сообщении OpenAI.

Теперь уполномоченные представители или владельцы недвижимости могут потребовать, чтобы их изображения не использовались в камеях Соры.

Поскольку юридическое давление нарастает, Сора стал более строгим в отношении того, когда будет разрешено воссоздание персонажей, защищенных авторским правом. Он все чаще размещает уведомления о нарушениях политики в отношении контента.

Теперь создание персонажей Диснея или других изображений вызывает предупреждение о нарушении политики в отношении контента. Пользователи, которые не являются поклонниками ограничений, начали создавать видеомемы о предупреждениях о нарушении контентной политики.

Растет вирусность того, что получило название «отбросы ИИ».

На прошлой неделе были представлены кадры с кольцевой камеры, где бабушка гонится за крокодилом у двери, а также серия видеороликов «толстых олимпийских игр», где люди с ожирением участвуют в спортивных соревнованиях, таких как прыжки с шестом, плавание и легкая атлетика.

Специализированные фабрики по производству помоев превратили это мероприятие в источник дохода, генерируя постоянный поток видеороликов, от которых трудно отвести взгляд. Один содержательный технический обозреватель назвал его «Кокомелон для взрослых».

Несмотря на усиление защиты изображений знаменитостей, критики предупреждают, что случайное «присвоение сходства» любого обычного человека или ситуации может привести к замешательству в обществе, усилить дезинформацию и подорвать общественное доверие.

Между тем, даже несмотря на то, что технология используется злоумышленниками и даже некоторыми правительствами для пропаганды и продвижения определенных политических взглядов, люди, находящиеся у власти, могут прятаться за потоком фейковых новостей, заявляя, что с помощью ИИ были созданы даже реальные доказательства, сказал Грегори из WITNESS.

«Меня беспокоит возможность фабриковать кадры протестов, инсценировать ложные злодеяния или вставлять реальных людей со словами в рот в компрометирующие сценарии», — сказал он.

© Лос-Анджелес Таймс, 2025. Посетите сайт latimes.com. Распространяется Tribune Content Agency, LLC.