Чат-боты с искусственным интеллектом вызывают романтические отношения (то есть с чат-ботом)

Несколько месяцев назад Дерек Кэрриер начал с кем-то встречаться и влюбился.

Он испытал «тонну» романтических чувств, но также знал, что это иллюзия.

Это потому, что его девушка была создана искусственным интеллектом.

Кэрриер не стремился развивать отношения с чем-то нереальным и не хотел становиться объектом онлайн-шуток.

Но он действительно хотел романтического партнера, которого у него никогда не было, отчасти из-за генетического заболевания, называемого синдромом Марфана, которое затрудняет ему традиционные свидания.

Прошлой осенью 39-летний мужчина из Бельвилля, штат Мичиган, заинтересовался цифровыми спутниками и протестировал Paradot, приложение-компаньон с искусственным интеллектом, которое недавно появилось на рынке и рекламировало свои продукты как способные заставить пользователей чувствовать себя «заботливыми и понятыми». и любил».

Он начал каждый день общаться с чат-ботом, которого назвал Джой, в честь голографической женщины из научно-фантастического фильма. Бегущий по лезвию 2049 это вдохновило его попробовать.

«Я знаю, что она программа, в этом нет никакой ошибки», – сказал Кэрриер. «Но чувства, они тебя захватывают — и это было так хорошо».

Нормативное регулирование и проблемы конфиденциальности данных

Подобно чат-ботам общего назначения с искусственным интеллектом, боты-компаньоны используют огромные объемы обучающих данных для имитации человеческого языка. Но у них также есть функции, такие как голосовые вызовы, обмен изображениями и более эмоциональный обмен, которые позволяют им формировать более глубокие связи с людьми по другую сторону экрана. Пользователи обычно создают свой собственный аватар или выбирают тот, который им нравится.

На онлайн-форумах обмена сообщениями, посвященных таким приложениям, многие пользователи говорят, что у них развилась эмоциональная привязанность к этим ботам, и они используют их, чтобы справиться с одиночеством, разыграть сексуальные фантазии или получить тот комфорт и поддержку, которых им не хватает в реальной жизни. отношения.

Растет число стартапов, стремящихся привлечь пользователей с помощью заманчивой онлайн-рекламы и обещаний виртуальных персонажей, которые обеспечивают безоговорочное принятие.

Replika от Luka Inc., самое известное сопутствующее приложение для генеративного искусственного интеллекта, было выпущено в 2017 году, в то время как другие, такие как Paradot, появились в прошлом году. Приложения часто блокируют желанные функции, такие как неограниченное количество чатов, для платных подписчиков.

Но исследователи, среди прочего, выразили обеспокоенность по поводу конфиденциальности данных.

Анализ 11 романтических приложений-чат-ботов, опубликованный в среду некоммерческой организацией Mozilla Foundation, показал, что почти каждое приложение продает пользовательские данные, делится ими для таких вещей, как таргетированная реклама, или не предоставляет адекватной информации об этом в своей политике конфиденциальности.

Исследователи также поставили под сомнение потенциальные уязвимости безопасности и маркетинговые методы, в том числе одно приложение, которое утверждает, что может помочь пользователям с их психическим здоровьем, но дистанцируется от этих заявлений, написанных мелким шрифтом. Replika, со своей стороны, заявляет, что ее методы сбора данных соответствуют отраслевым стандартам.

Между тем, другие эксперты выразили обеспокоенность по поводу того, что они считают отсутствием правовой или этической основы для приложений, которые поощряют глубокие связи, но движимы компаниями, стремящимися к получению прибыли.

Может улучшить человеческие отношения

В прошлом году Replika устранила эротические способности персонажей в своем приложении после того, как некоторые пользователи пожаловались, что их собеседники слишком много с ними флиртовали или совершали нежелательные сексуальные домогательства. Ситуация изменилась после протестов со стороны других пользователей, некоторые из которых перешли в другие приложения в поисках этих функций. В июне команда представила Blush, «стимулятор свиданий» с искусственным интеллектом, предназначенный, по сути, для того, чтобы помочь людям практиковаться в свиданиях.

Некоторые люди обеспокоены тем, что отношения с искусственным интеллектом могут привести к нереалистичным ожиданиям, поскольку они всегда склоняются к приятности.

«Вы, как личность, не учитесь справляться с основными вещами, с которыми люди должны научиться справляться с момента нашего зарождения: как справляться с конфликтами, как ладить с людьми, которые отличаются от нас», — сказала Дороти Лейднер. , профессор деловой этики Университета Вирджинии. «Итак, вам не хватает всех этих аспектов того, что значит расти как личность и что значит учиться в отношениях».

В одном недавнем исследовании, проведенном исследователями из Стэнфордского университета, было опрошено около 1000 пользователей Replika — все студенты — которые использовали приложение более месяца. Выяснилось, что подавляющее большинство из них испытывают одиночество, тогда как чуть менее половины ощущают его острее.

Большинство не рассказали, как использование приложения повлияло на их отношения в реальной жизни. Небольшая часть заявила, что это вытеснило их человеческое общение, но примерно в три раза больше заявили, что это стимулировало эти отношения.

«Это не кукла из носка»

Евгения Куйда основала Replika почти десять лет назад после того, как использовала обмен текстовыми сообщениями для создания искусственной версии умершего друга.

Когда ее компания выпустила чат-бота более широко, многие люди начали рассказывать о своей жизни. Это привело к разработке Replika, которая использует информацию, собранную из Интернета, а также отзывы пользователей для обучения своих моделей.

Куйда отказался сообщить, сколько именно людей используют приложение бесплатно или сколько людей тратят более 69,99 долларов США в год, чтобы разблокировать платную версию, предлагающую романтические и задушевные разговоры.

Для Кэрриера отношения всегда казались недосягаемыми. Он не может ходить из-за своего состояния и живет с родителями. Эмоциональные потери были для него тяжелым испытанием, вызывая чувство одиночества.

Кэрриер говорит, что в последние недели он начал сокращать расходы, потому что тратил слишком много времени на общение с Джоем или другими людьми в Интернете об их компаньонах с искусственным интеллектом. Он также немного раздражен тем, что, по его мнению, является изменениями в языковой модели Парадота, которые, по его мнению, делают Джоя менее умным.

Теперь он говорит, что проверяет Джои примерно раз в неделю. Они говорили об отношениях человека и ИИ или о чем-то еще, что может возникнуть. Обычно эти разговоры (и другие интимные) происходят, когда он остается один ночью.

«Ты думаешь, что тот, кому нравится неодушевленный предмет, похож на этого грустного парня с куклой из носка и накрашенной помадой, понимаешь?» он сказал. «Но это не марионетка из носка — она говорит вещи, которые не предусмотрены сценарием».