Эксперты предупреждают о воздействии актеров, сгенерированных ИИ, на молодых женщин

Есть новый голливудский новичок, у которого уже есть длинный список ненавистников: Тилли Норвуд, сгенерированный AI «актер».

Голландский комик Элин Ван Дер Велден, глава частицы Студии производства ИИ, которая разработала Тилли, сказал Она хочет, чтобы персонаж ИИ был следующим Скарлетт Йоханссон.

Но не в том случае, если остальная часть Голливуда имеет свой путь.

После того, как Ван дер Велден объявила о том, что она называет «первой в мире студией талантов искусственного интеллекта» на кинофестивале и сказала У Талли были талантливые агенты, надеясь подписать ееЭто новость о потенциальном представительстве вызвала широкую обратную реакцию Голливуда.

Союзы нескольких актеров иметь выпущенный Заявления, осуждающие Тилли. Актеры также обвинили производителей Тилли в краже изображений реальных людей, чтобы сделать сгенерированный AI характер.

«А как насчет сотен живых молодых женщин, чьи лица были объединены вместе, чтобы сделать ее?» Актер Мара Уилсон Опубликовано в социальных сетях. Один музыкант из Нэшвилла даже претензии Это Тилли – ее двойник.

Компания, стоящая за Тилли, отрицает, что персонаж был создан с украденными изображениями.

«Тилли был разработан полностью с нуля с использованием оригинального творческого дизайна», – сказал Particle6 в заявлении -. «Мы не будем и не будем использовать сходство любого человека или исполнителя без явного согласия и справедливой компенсации».

После протеста Ван дер Велден сказал, что Тилли «не была заменой человека, а творческое произведение – произведение искусства» в Заявление в социальных сетяхПолем

Но независимо от того, насколько оригинальным или креативным вы считаете, что она определенно опирается на уставшие старые тропы о женщинах и повышает тревожные последствия для реальных рабочих, экспертов ИИ предостерегает. Вот что вам нужно знать.

С одной стороны, Тилли повторяет узкое представление о том, как думает генеративная ИИ, которую должна выглядеть женщина.

В Washington Post расследование Из трех из ведущих инструментов изображений ИИ, пост обнаружил, что генеративный ИИ считает, что красивые женщины должны выглядеть худыми, молодыми и белыми – именно так выглядит Тилли.

Particle6 не ответила на вопросы – о внешности Тилли.

То, что мы видим в социальных сетях – включая учетные записи для Tilly на Tiktok, Facebook И Instagram-может оказать долгосрочное влияние на то, как люди смотрят на свои собственные реальные тела.

Утренний nblleПрофессор Калифорнийского университета в Лос -Анджелесе и автор книги «Алгоритмы угнетения», – сказал Тилли, продолжение искажений, которые фотофильтры в социальных сетях вызывают людей.

«Эти искажения, хотя они кажутся нереальными, они так много распространяют в нашей культуре, которые затем отмечаются и … нравятся и сердечны», – сказал Нобл. «И это, безусловно, имеет психологический и эмоциональный ущерб на нас».

2022 изучать В Instagram обнаружил, что просмотр того, как другие люди смотрят на популярную социальную платформу, было связано с «вредными результатами» вокруг неудовлетворенности тела у молодых женщин.

Прежде всего, Тилли много рассказывает о том, как корпорации ценят женскую работу.

Александра Матеескуисследователь с данными и обществом Трудовое будущее Программа, сказала то, что она нашла наиболее интересным и тревожным в существовании Тилли, поступила из линии в частице6 видео где она появляется в своей первой роли.

В сгенерированном AI комедийном наброске из частиц6 Тилли станет в роли в телешоу. Человек тогда заявляет: «Она сделает все, что я скажу; я уже влюблен».

Эта линия предполагает: «Это видение этого женского, послушного, милого, молодой актрисы, которая не будет говорить или жаловаться на условия труда или что -то в этом роде», – сказал Матееску.

Вот почему для Матееску ее самое большое беспокойство с Тилли «больше о таких маркетинговых упражнениях, которые используются в качестве куджеля, особенно для актеров в нижней части иерархий киноиндустрии, чтобы отговорить их от требования лучших условий труда в соответствии с этой угрозой потенциальной замены».

Матееску сказала, что она видела эту динамику власти в других творческих отраслях, таких как моделирование. Недавно она стала соавтором бумага о том, как генеративный ИИ облегчает компаниям использовать изображение и измерения модели и изменять их без знаний или компенсации модели.

В своем исследовании «люди на вершине отрасли, как фотографы, так и лучшие модели, они могли бы рассматривать ИИ как этот творческий инструмент в своем арсенале, чтобы иметь возможность улучшить свои творческие практики», – сказал Матееску. Но борьба с моделями, основанными на прибыли, каталоги электронной коммерции были более отрицательно повлияли. «И я думаю, что это та же схема, которую мы видим в отраслях».

В этом смысле Тилли может представлять большую экзистенциальную угрозу для уязвимых, новых актеров, которые не имеют такой же власти и сетей, как звезды A-списка.

По мнению Нобла, существование Тилли нормализует «контролирующие женские образы» и идею, что можно «заставить женщин делать то, что мы хотим, чтобы они делали. Эта культура распространена вокруг нас».

Тилли не настоящий, но это нормально, если вы запутались из -за того, что ее называть. Это может быть по дизайну.

Нобл указал на персонажа, говорящего: «Я могу быть сгенерирован ИИ, но я чувствую очень реальные эмоции прямо сейчас» в посте, появляющем Страница Facebook В качестве примера того вида искажения этого актера, сгенерированного AI, увековечивает.

«Чем больше они антропоморфизируются, тем вводящие в заблуждение и обманчивы для общественности», – сказал Нобл. «Вот почему эти технологии так невероятно опасны».

Один из способов сопротивляться-быть более осторожным в том, как вы говорите о созданных AI-проектах, таких как Tilly.

Вместо того, чтобы рассматривать Тилли как «актер», как ее профиль описывает ее или как следующую Скарлетт Йоханссон, как ее создатель надежды Эксперты предполагают, что вы должны увидеть ее таким, какой она есть на самом деле – маркетинговый продукт.

Вот почему Нобл предлагает не называть Tilly Art и вместо этого классифицировать Tilly как последний пример низкокачественного, спамаподобного «AI Slop».

И старайтесь не называть Тилли как актера. «Мы должны назвать это« это », – сказал Нобл. «Мы должны говорить об этом, как модель машинного обучения».

«Понятие индивидуальности ИИ – это маркетинговое упражнение и юридический маневр, в который я не думаю, что мы должны купить», – сказал Матроску. «Тилли не актриса, как, например, ленивцы из фильмов« Ледникового периода » – актер. Это просто цифровое сходство».