Группа по защите прав потребителей призывает OpenAI отказаться от видеоприложения Sora из-за проблем с конфиденциальностью и дезинформацией

Некоммерческая группа по защите интересов потребителей Public Citizen в письме во вторник потребовала, чтобы OpenAI отозвала свое программное обеспечение для создания видео Sora 2 после того, как приложение вызвало опасения по поводу распространения дезинформации и нарушений конфиденциальности.

В письме, адресованном компании и генеральному директору Сэму Альтману, OpenAI обвиняется в поспешном выпуске приложения, чтобы оно могло быть запущено раньше конкурентов.

Это продемонстрировало «постоянную и опасную тенденцию, когда OpenAI спешит на рынок с продуктом, который либо по своей сути небезопасен, либо не имеет необходимых ограждений», — заявила наблюдательная группа.

Сора 2, говорится в письме, демонстрирует «безрассудное пренебрежение» безопасностью продукции и правами людей на свое подобие. Это также способствует более широкому подрыву доверия общественности к аутентичности онлайн-контента, утверждается в докладе.

Группа также направила письмо в Конгресс США.

OpenAI не сразу ответила на запрос о комментариях во вторник.

Более оперативно реагировать на жалобы на контент о знаменитостях

Типичное видео Sora создано так, чтобы оно было достаточно забавным, чтобы вы могли щелкнуть его и поделиться им на таких платформах, как TikTok, Instagram, X и Facebook.

Это мог быть рэп покойной королевы Елизаветы II или что-то более обычное и правдоподобное. Один из популярных жанров сора изображает фальшивые кадры с камеры дверного звонка, на которых запечатлено что-то немного сверхъестественное — скажем, удав на крыльце или аллигатор, приближающийся к невозмутимому ребенку, — и заканчивается слегка шокирующим изображением, например, криком бабушки, избивающей животное метлой.

Public Citizen присоединяется к растущему хору правозащитных групп, ученых и экспертов, поднимая тревогу по поводу опасности позволить людям создавать видеоролики с использованием ИИ на основе практически всего, что они могут ввести в подсказку, что приводит к распространению несогласованных изображений и реалистичных дипфейков в море менее вредных «помоев ИИ».

OpenAI расправился с искусственными созданиями общественных деятелей, совершающих диковинные поступки — среди них Майкл Джексон, Мартин Лютер Кинг-младший и мистер Роджерс — но только после протеста со стороны семейных поместий и профсоюза актеров.

«Нашу самую большую озабоченность вызывает потенциальная угроза демократии», — сказал в интервью защитник технологической политики Public Citizen Джей Би Бранч.

«Я думаю, что мы вступаем в мир, в котором люди не могут по-настоящему доверять тому, что они видят. И мы начинаем видеть стратегии в политике, где первое изображение, первое выпущенное видео — это то, что люди помнят».

Ограждения не остановили преследования

Бранч, написавший письмо во вторник, также видит более широкие угрозы частной жизни людей и говорит, что они могут непропорционально повлиять на определенные группы.

OpenAI блокирует наготу, но Бранч сказала, что «женщины видят, что их преследуют в Интернете» и другими способами.

Фетишизированный нишевый контент преодолел ограничения приложения. Новостное издание 404 Media в пятницу сообщило о потоке видеороликов, снятых Сорой, на которых душат женщин.

OpenAI представила свое новое приложение Sora для iPhone более месяца назад. На прошлой неделе он был запущен на телефонах Android в США, Канаде и нескольких азиатских странах, включая Японию и Южную Корею.

Самая решительная реакция на него исходила со стороны Голливуда и других развлекательных кругов, включая японскую индустрию манги.

OpenAI объявила о своих первых больших изменениях всего через несколько дней после релиза, заявив, что «чрезмерная модерация очень расстраивает» пользователей, но важно быть консервативным, «пока мир все еще приспосабливается к этой новой технологии».

За этим последовало публично объявленное соглашение с семьей Мартина Лютера Кинга 16 октября, предотвращающее «неуважительное изображение» лидера гражданских прав, в то время как компания работала над более эффективными гарантиями, и еще одно 20 октября с актером сериала «Во все тяжкие» Брайаном Крэнстоном, профсоюзом SAG AFTRA и агентствами по поиску талантов.

«Все это хорошо, если ты знаменит», — сказал Бранч. «Это своего рода шаблон OpenAI, где они готовы реагировать на возмущение очень небольшой группы населения. Они готовы выпустить что-то и потом извиниться. Но многие из этих проблем — это дизайнерские решения, которые они могут сделать перед выпуском».

Судебные разбирательства против ChatGPT продолжаются

OpenAI столкнулась с аналогичными жалобами в отношении своего флагманского продукта ChatGPT. В семи новых исках, поданных на прошлой неделе в суды Калифорнии, утверждается, что чат-бот доводил людей до самоубийства и вредных заблуждений, даже если у них ранее не было проблем с психическим здоровьем.

В исках, поданных от имени шести взрослых и одного подростка Центром по защите прав жертв социальных сетей и Законодательным проектом по технологическому правосудию, утверждается, что OpenAI сознательно выпустила GPT-4o преждевременно в прошлом году, несмотря на внутренние предупреждения о том, что это было опасно подхалимски и психологически манипулятивно. Четверо из пострадавших покончили жизнь самоубийством.

Public Citizen не участвовал в судебных процессах, но Бранч сказал, что видит параллели с тем, как Сора был освобожден.

«Большая часть этого кажется предсказуемой», – сказал он. «Но они предпочли бы выпустить продукт, заставить людей его скачивать, привлечь людей, которые от него зависимы, вместо того, чтобы делать правильные вещи, заранее проводить стресс-тестирование этих вещей и беспокоиться о тяжелом положении обычных пользователей».

OpenAI отвечает создателям аниме и видеоигр

OpenAI провела прошлую неделю, отвечая на жалобы на Сору со стороны японской торговой ассоциации, представляющей таких известных аниматоров, как студия Ghibli Хаяо Миядзаки, а также производителей видеоигр Bandai Namco, Square Enix и других.

OpenAI защищает широкие возможности приложения по созданию фейковых видеороликов на основе популярных персонажей, заявляя, что многие поклонники аниме хотят взаимодействовать со своими любимыми персонажами.

Но компания также заявила, что установила барьеры, предотвращающие создание известных персонажей без согласия людей, владеющих авторскими правами.

«Мы напрямую сотрудничаем со студиями и правообладателями, прислушиваемся к отзывам и изучаем, как люди используют Sora 2, в том числе в Японии, где культурная и творческая индустрия глубоко ценится», — говорится в заявлении OpenAI по поводу письма торговой группы на прошлой неделе.