Исследователи и другие поднимают тревогу по поводу рекламы AI Deadbot: –

ИИ аватары умерших людей – или «мертвых» – появляются в новых и неожиданных контекстах, в том числе в тех, где они могут убедить.

Они дают интервью, выступающие за более жесткие законы о оружии, например, когда семья Хоакина Оливера, жертва стрельбы в школе Паркленда 2018 года во Флориде, создала аватар ИИ с шапочкой и поговорить с Журналист Джим Акоста в июле. «Это просто еще один инструмент адвокации, чтобы создать срочность в том, чтобы изменить вещи», – сказал -.

А в мае бородатый аватар ИИ Криса Пелки, покойная жертва инцидента с яростью дороги в Аризоне, дал видео воздействие заявление при приговоре человека, который смертельно застрелил Пелки. Семья Пельки создала Deadbot. «Я чувствую, что это было подлинно», – сказал судья Тодд Ланг, услышав, как ИИ, созданное в результате воздействия. Затем он сдал максимальное предложение.

Силы убеждения

Цифровая индустрия загробной жизни, которая управляет цифровыми активами человека после смерти, является ожидал в четыре раза по размеру до почти 80 миллиардов долларов в течение следующего десятилетия. Это включает в себя создание мертвых. Чем более захватывающими эти боты, тем больше технологических компаний изучают свой коммерческий потенциал, вызывая обеспокоенность в исследовательском сообществе и в других местах.

«Существует мощная риторика с мертвой, потому что она использует всю эту эмоциональную тоску и уязвимость», – сказал Нью -Йорк Карикатурист Эми Курцвейл. Работа Курцвейла часто исследует технологические темы, в том числе ее книга 2023 года Искусственная: история любвиПолем Графические мемуары рассказывают, как она и ее отец, изобретатель и футурист Рэй Курцвейл создали текстовый чат-бот своего мертвого дедушки в 2018 году, используя письменные материалы из его архивов. «Я чувствовал, что у меня было какое -то общение с его присутствием», – сказала она.

Курцвейл сказал, что более захватывающие голосовые и видеоботы могут обладать еще более сильными способностями убеждения. «Это похоже на фильм VR или 3D -фильм вместо того, что зернистое и черно -белое», – сказал Курцвейл. «И так это может быть более влиятельным».

Потенциальный вред

Исследователи теперь предупреждают, что коммерческое использование является следующей границей для Deadbots. «Конечно, это будет монетизировано», – сказал исследователь АИ Университета Линденвуда Джеймс Хатсон. Хатсон соавторил несколько исследований о мертвых, в том числе один Изучение этики использования ИИ для реализации мертвых.

Работа Хатсона, наряду с другими недавними исследованиями, такими как один От Кембриджского университета, который исследует вероятность того, что компании используют мертвые, чтобы рекламировать продукты пользователям, указывают на потенциальный вред такого использования. «Проблема в том, что если она воспринимается как эксплуататорство, верно?» Хатсон сказал.

Но Хатсон говорит, что американская общественность, тем не менее, была подготовлена, чтобы принять вероятность того, что реклама подается им через мертвых. «Что -то, что может показаться очень грубым и ужасающим сегодня, не будет казаться таким надуманным или неуместным, когда станет нормализованным и довольно распространенным», – сказал он.

Хатсон сказал, что на протяжении десятилетий сказал, что покойный на экране продвигал продукты на экране. Астэр Фреда, манипулированный в цифровом виде рекламный ролик еще в 1990 -х годах.

С другой стороны, сказал Хатсон, потребителям не потребовалось много времени, чтобы неохотно принимать рекламные ролики как часть их оплаченный подписки на стримеры, как Хулу и NetflixПолем Так почему же не поддерживаемые рекламой меры? (Deadbot Companies, такие как дальнейшие и Project Decemb оплачиваемые подписки или заряжая Авансовая плата.)

Юридические, этические и моральные проблемы

До того, как реклама Deadbot может взлететь, есть юридические изгибы, которые можно тренировать. «В Америке мы боремся с правами на неприкосновенность частной жизни, не говоря уже о правах умершего», – сказал Джеффри Розенталь, адвокат в Филадельфии, специализирующийся на технологии и конфиденциальности с юридической фирмой Blank Rome LLP.

Нет никаких всеобъемлющих федеральных законов, регулирующих использование ИИ в Соединенных Штатах. (Европейский союз имеет законодательство Это стремится поставить ограждения вокруг использования ИИ, но он не указывает мертвые.)

Что у США есть, – это лоскутное одеяло государственные законы Это признает право человека защищать коммерческое использование своего имени, сходства, голоса и других идентификационных характеристик даже после того, как он мертв. Но Розенталь сказал, что нынешняя правовая база в целом не подготовлена, чтобы получить вред, который может возникнуть, скажем, из-за того, что бабушка из мертвой бабушки, выдвигающая рекламу у членов семьи.

“Кто несет ответственность?” Розенталь сказал. «Компания по разработке программного обеспечения, которая разработала бабушку Deadbot? Рекламная компания, которая вставила их объявление? Компания, которая владеет ИС?

Создатели Deadbot и цифровые рекламные компании, с которыми – говорили для этой истории, говорят, что они отталкиваются этическими и моральными последствиями использования мертвых, для продажи продуктов.

«Этическая, я думаю, что использование мертвых людей вообще не звучит», – сказала Камилла Чианг, глава контента компании по маркетингу искусственного интеллекта NEX, которая в настоящее время разрабатывает AI Avatars для профессиональной баскетбольной команды для использования в рекламных кампаниях – только они работают с жизнь спортсмены; не мертвые.

«Какого черта я бы хотел, чтобы моя бабушка сказала что -то, что не является подлинным?» сказал Алекс Куинн, генеральный директор Аутентичные взаимодействия включеныматеринская компания Deadbot Creator StoryfileПолем «Это действительно выключит меня как потребителя. И я не думаю, что это оставляет нам высокий уровень репутации».

Но Куинн сказал, что он «абсолютно заинтересован», чтобы увидеть, есть ли другие способы сделать мертвые рекламные ролики. Один сценарий может включать вставку интерстициальной рекламы в разговоры людей с мертвыми, как и то, как появляются традиционные коммерческие перерывы во время телевизионных шоу.

Другой может включать в себя мертвой, чтобы искать лайки и антипатии от живых, которые могут быть полезны для рекламодателей. «Мы можем дать указаниям этих аватаров фактически исследовать информацию», – сказал Куинн. «Вы знаете, кто ваш любимый спортсмен? Какие майки могут быть для вас интересны?»

Куинн сказал, что компании попытаются заработать как можно больше денег от AI -аватаров как мертвых, так и живых, и он признает, что могут быть некоторые плохие актеры. «Компании уже проверяют вещи внутри этих вариантов использования», – сказал Куинн, ссылаясь на такие случаи, как одобрения с участием живых знаменитостей, созданных с генеративным ИИ, с которым люди могут интерактивно. «Мы просто еще не видели много реализаций».