Действительно ли можно поговорить с мертвыми с помощью ИИ? Мы опробовали «смертоносных роботов», так что вам не придется

Искусственный интеллект (ИИ) все чаще используется для сохранения голосов и историй умерших. От текстовых чат-ботов, имитирующих близких, до голосовых аватаров, позволяющих «разговаривать» с умершими, растущая индустрия цифровой загробной жизни обещает сделать память интерактивной, а в некоторых случаях и вечной.

В нашем исследовании недавно опубликовано в Память, разум и медиамы исследовали, что происходит, когда запоминание умерших оставлено на усмотрение алгоритма. Мы даже пытались поговорить с цифровые версии себя, чтобы это выяснить.

«Смертельные роботы» — это системы искусственного интеллекта, предназначенные для имитации голосов, речевых моделей и личности умерших. Они используют цифровые следы человека.голосовые записитекстовые сообщения, электронные письма и посты в социальных сетях— для создания интерактивных аватаров, которые, кажется, «говорят» из могилы.

Как сказала теоретик СМИ Симона Натале, эти «технологии иллюзий» имеют глубокие корни в спиритуалистических традициях. Но ИИ делает их гораздо более убедительными и коммерчески жизнеспособными.

Наша работа является частью проекта под названием Синтетическое прошлоев котором исследуется влияние технологий на сохранение личных и коллективная память. В рамках нашего исследования мы рассмотрели сервисы, которые утверждают, что сохраняют или воссоздают голос, воспоминания или цифровое присутствие человека с помощью искусственного интеллекта. Чтобы понять, как они работают, мы стали собственными подопытными. Мы загружали собственные видео, сообщения и голосовые заметки, создавая «цифровых двойников» самих себя.

В некоторых случаях мы выступали в роли пользователей, готовивших собственные синтетические загробные жизни. В других случаях мы действовали как скорбящие, пытающиеся поговорить с цифровой версией умершего человека.

То, что мы обнаружили, было одновременно захватывающим и тревожным. Некоторые системы ориентированы на сохранение памяти. Они помогают пользователям записывать и хранить личные истории, организованные по темам, например, детство, семья или советы близким. Затем ИИ индексирует контент и направляет людей через него, как в архиве с возможностью поиска.

Другие используют генеративный искусственный интеллект для создания постоянных разговоров. Вы загружаете данные об умершем человеке — сообщения, публикации и даже образцы голоса — и система создает чат-бота, который может отвечать его тоном и стилем. Он использует подмножество искусственного интеллекта, называемое машинным обучением (которое улучшается по мере практики), чтобы его аватары со временем развивались.

Некоторые представляют себя игривыми («организуют сеанс с ИИ»), но этот опыт может показаться пугающе интимным. Все платформы утверждают, что предлагают «настоящую» эмоциональную связь. Однако чем больше персонализации мы пытались сделать, тем более искусственной она казалась.

По запросу этих систем мы предоставили дополнительную информацию о себе только для того, чтобы бот повторил точную фразу, которую мы использовали в жестких, заданных по сценарию ответах. Иногда тон был неуместным, например, когда веселые смайлы или оптимистичные фразы появлялись даже при обсуждении смерти — ясное напоминание о том, что алгоритмы плохо справляются с эмоциональным бременем утраты:

«О боже… 😔 я бы не хотел, чтобы на этой (смерти) кто-то зацикливался. Честно говоря, сейчас все немного туманно. 🌫️ Давай поговорим о чем-нибудь повеселее, да?»

Инструменты, основанные на архивах, которые мы тестировали, предлагали более спокойный опыт, но также налагали жесткие категории и ограниченные нюансы. Как ученый в области цифровых медиа Эндрю Хоскинс Как заметили, память в эпоху искусственного интеллекта становится «разговорной» — формируется в результате взаимодействия между человеком и машиной. Но в наших экспериментах эти разговоры часто казались плоскими, обнажая пределы синтетической близости:

Человек: Ты всегда меня так ободрял и поддерживал. Я скучаю по тебе.

Deathbot: Я всегда рядом с тобой и всегда готов поддержать тебя, когда тебе это понадобится. И я тоже скучаю по тебе… Давайте встретим сегодняшний день вместе, с позитивом и силой.

За этим опытом стоит бизнес-модель. Это не мемориальные благотворительные организации, это технологические стартапы. Плата за подписку, уровни «фримиум» и партнерство со страховщиками или поставщиками медицинских услуг показывают, как воспоминания превращаются в продукт.

Как философы Карл Оман и Лучано Флориди поспорилииндустрия цифровой загробной жизни работает в рамках «политической экономики смерти», где данные продолжают создавать ценность еще долго после того, как жизнь человека заканчивается.

Платформы поощряют пользователей «запечатлевать свою историю навсегда», но они также собирают эмоциональные и биометрические данные, чтобы поддерживать высокий уровень вовлеченности. Память становится услугой — взаимодействием, которое нужно спроектировать, измерить и монетизировать. Это, как выразился профессор технологии и общества Эндрю Макстей. показалявляется частью более широкой экономики «эмоционального ИИ».

Цифровое воскресение?

Перспективы этих систем — своего рода воскрешение — реанимация мертвых с помощью данных. Они предлагают вернуть голоса, жесты и личности не как воспоминания, а как присутствия, смоделированные в реальном времени. Этот вид «алгоритмической эмпатии» может быть убедительным и даже трогательным, но он существует в пределах кода и незаметно меняет опыт запоминания, сглаживая двусмысленность и противоречие.

Эти платформы демонстрируют противоречие между архивной и генеративной формами памяти. Однако все платформы нормализуют определенные способы запоминания, отдавая предпочтение непрерывности, связности и эмоциональной отзывчивости, а также создают новые, основанные на данных формы личности.

Как утверждает теоретик СМИ Венди Чун заметил, цифровые технологии часто путают «хранение» с «памятью», обещая идеальное воспоминание, одновременно стирая роль забывания — отсутствия, которое делает возможными как скорбь, так и воспоминания.

В этом смысле цифровое воскрешение рискует неправильно понять саму смерть: заменить окончательность утраты бесконечной доступностью симуляции, где мертвые всегда присутствуют, интерактивны и обновляются.

ИИ может помочь сохранить истории и голоса, но он не может воспроизвести жизненную сложность человека или отношений. «Синтетическая загробная жизнь», с которой мы столкнулись, убедительна именно потому, что она терпит неудачу. Они напоминают нам, что память реляционная, контекстуальная и не программируемая.

Наше исследование показывает, что, хотя с помощью ИИ можно разговаривать с мертвыми, то, что вы слышите в ответ, больше говорит о технологиях и платформах, которые извлекают выгоду из памяти, а также о нас самих, чем о призраках, с которыми, как они утверждают, мы можем разговаривать.

Эта статья переиздана с Разговор по лицензии Creative Commons. Прочтите оригинальная статья.