Вы можете солгать чат-боту о здоровье, но это может изменить ваше восприятие себя

Представьте, что вы стоите в очереди на несрочную операцию. Вас осмотрели в клинике несколько месяцев назад, но дата процедуры до сих пор не известна. Это крайне неприятно, но, похоже, придется просто подождать.

Тем не менее, больница хирургическая бригада только что связался через чат-бота. Чат-бот задает несколько проверочных вопросов о том, ухудшились ли ваши симптомы с тех пор, как вас в последний раз видели, и мешают ли они вам спать, работать или заниматься повседневными делами.

Ваши симптомы во многом такие же, но часть вас задается вопросом, стоит ли вам ответить «да». В конце концов, возможно, это поможет вам подняться наверх в списке или, по крайней мере, позволит с кем-нибудь поговорить. И вообще, это не то чтобы это реальный человек.

Вышеописанная ситуация уже основана на чат-ботах. быть использованным в Национальная служба здравоохранения для выявления пациентов, которым больше не нужно стоять в списке ожидания или которым необходимо уделять приоритетное внимание.

Существует огромный интерес к использованию большие языковые модели (например, ChatGPT) для эффективного управления коммуникациями в сфере здравоохранения (например, совет по симптомам, сортировка и управление назначениями). Но когда мы взаимодействуем с этими виртуальными агентами, применяются ли обычные этические стандарты? Разве это неправильно – или, по крайней мере, так же неправильно – если мы обманываем разговорный ИИ?

Существуют психологические доказательства того, что люди с гораздо большей вероятностью будут нечестны, если они сознательно взаимодействуют с виртуальным агентом.

В один экспериментЛюдей просили бросить монету и сообщить количество орлов. (Они могли бы получить более высокую компенсацию, если бы достигли большего числа.) Уровень мошенничества был в три раза выше, если бы они отчитывались перед машиной, а не перед человеком. Это говорит о том, что некоторые люди будут более склонны лгать чат-боту из списка ожидания.

Один потенциальная причина Люди более честны с людьми из-за их чувствительности к тому, как их воспринимают другие. Чат-бот не будет смотреть на вас свысока, осуждать или говорить о вас резко.

Но мы могли бы задать более глубокий вопрос о том, почему ложь неправильна и меняет ли это виртуальный собеседник.

Этика лжи

Мы можем по-разному думать об этике лжи.

Ложь может быть плохой, потому что она причиняет вред другим людям. Ложь может глубоко ранить другого человека. Они могут заставить кого-то действовать ложная информацияили получить ложное заверение.

Иногда ложь может навредить, поскольку подрывает чужое доверие к людям в целом. Но эти причины часто неприменимы к чат-боту.

Ложь может причинить вред другому человеку, даже если она не причинит вреда. Если мы добровольно обманываем другого человека, мы потенциально не уважают их рациональную свободу действийили использовать их как средство к концу. Но неясно, можем ли мы обмануть или обидеть чат-бота, поскольку у него нет ни ума, ни способности рассуждать.

Ложь может быть вредна для нас, потому что она подрывает наш авторитет. Общение с другими людьми важно. Но когда мы сознательно делаем ложные высказывания, мы умаляем ценность нашего свидетельства в глазах других людей.

Для человека, который неоднократно высказывает неправду, все, что он тогда говорит, оказывается под вопросом. Это одна из причин, по которой мы заботимся о лжи и нашем социальном имидже. Но если наше взаимодействие с чат-ботом не будет записано и передано (например, людям), наша ложь чат-бота не будет иметь такого эффекта.

Ложь также вредна для нас, потому что она может привести к тому, что другие, в свою очередь, будут лгать нам. (Почему люди должны быть честными с нами, если мы не будем честны с ними?)

Но опять же, это вряд ли является следствием лжи чат-боту. Напротив, этот тип эффекта может быть отчасти стимулом лгать чат-боту, поскольку люди могут осознавать сообщаемую тенденцию ChatGPT и подобных агентов слух.

Справедливость

Конечно, ложь может быть неправильной по соображениям справедливости. Это потенциально самая важная причина того, что лгать чат-боту неправильно. Если бы вас переместили в список ожидания из-за лжи, кто-то другой был бы несправедливо смещен.

Ложь потенциально может стать формой мошенничества, если вы получаете несправедливую или незаконную выгоду или лишаете кого-либо законного права. Страховые компании особенно стараются подчеркнуть это, когда используют чат-ботов в новых страховых приложениях.

Каждый раз, когда вы получаете реальную выгоду от лжи во взаимодействии с чат-ботом, ваши претензии на эту выгоду потенциально подозрительны. Анонимность онлайн-взаимодействий может создать ощущение, что никто никогда не узнает.

Но многие взаимодействия с чат-ботами, например, заявки на страхование, записываются. Это может быть столь же вероятно, или даже более вероятночто мошенничество будет обнаружено.

Достоинство

Я сосредоточился на плохих последствиях лжи и на этических правилах и законах, которые могут быть нарушены, когда мы лжем. Но есть еще одна этическая причина того, что лгать неправильно. Это относится к нашему характеру и типу людей, которыми мы являемся. Это часто отражается в этической важности достоинство.

Если нет исключительных обстоятельств, мы можем подумать, что нам следует быть честными в общении, даже если мы знаем, что это никому не причинит вреда и не нарушит никаких правил. Честный персонаж был бы хорош по уже упомянутым причинам, но потенциально он хорош и сам по себе. Добродетель честности также самоподкрепляется: если мы развиваем эту добродетель, это помогает уменьшить искушение лгать.

Это приводит к открытому вопросу о том, как эти новые типы взаимодействий изменят наш характер в целом.

Достоинства взаимодействия с чат-ботами или виртуальными агентами могут отличаться от преимуществ взаимодействия с реальными людьми. Возможно, не всегда неправильно лгать чат-бот. Это, в свою очередь, может привести к тому, что мы примем другие стандарты виртуального общения. Но если это произойдет, возникает беспокойство: не повлияет ли это на нашу склонность быть честными в остальной части нашей жизни.

Эта статья переиздана с Разговор по лицензии Creative Commons. Прочтите оригинальная статья.