ИИ может развиваться, чтобы чувствовать вину, но только в определенных социальных условиях

Вина является очень выгодным качеством для общества в целом. Это может не предотвратить первоначальные правонарушения, но вина позволяет людям судить свои собственные предыдущие суждения как вредные и предотвращает их снова. Внутреннее страдание, вызванное чувством вины, часто – но не всегда – возникает в человеке, который берет на себя какое -то покаяние, чтобы избавиться от внутренних беспорядков. Это может быть чем -то таким простым, как признание их проступка для других и принять небольшую стигму того, кто морально коррумпирован. Эта первоначальная стоимость может быть изначально болезненной, но может избавиться от дальнейшей вины и привести к лучшему сотрудничеству для группы в будущем.

Когда мы взаимодействуем все больше и больше с искусственный интеллект И использовать его практически во всех аспектах нашего современного общества, поиск способов привить этических решений становится более важным. В недавнем исследовании, опубликовано в Журнал интерфейса Королевского обществаисследователи использовали Теория игры Чтобы изучить, как и когда вина развивается в многоагентных системах.

Исследователи использовали «дилемму заключенных» – игру, в которой два игрока должны выбирать между сотрудничеством и дефектом. Deferting предоставляет агенту более высокую отдачу, но они должны предать своего партнера. Это, в свою очередь, повышает вероятность того, что партнер также будет дефект. Однако, если игра повторяется снова и снова, сотрудничество приводит к лучшей выплате обоих агентов.

Первоначально, однако, это изменение от деформации к сотрудничеству требует «чувства» вины и покаяния в форме уменьшенных точек. Эта итерационная версия была использована в исследовании среди хорошо смешанных, и решетчатых (гомогенных) и без шкале (гетерогенных) сетевых структур.

Исследователи также различали два различных типа вины: социальная вина, которая требует осознания государств других, и не социальной вины, которая самостоятельно ориентирована и не требует социальная осведомленностьПолем

В конечном счете, результаты показали, что как социальная, так и не социальная вина развивалась и сохранялась в более структурированных популяциях, где преобладали стратегии, связанные с виной, и приводили к более высоким уровням сотрудничества. Несоциальная вина была более уязвимой для эксплуатации людей, которые не чувствовали вины, но выжили, кластеризуясь с подобными эмоционально склонными стратегиями. С другой стороны, хорошо смешанные популяции испытали гораздо меньшее сотрудничество. Социальная вина развивалась только тогда, когда социальная стоимость был достаточно маленьким, но не социальная вина вообще не развивалась.

Общая нить, по -видимому, заключается в том, что агенты обнаружили, что это более выгодным для их действий (теряя точки и сотрудничая вместо того, чтобы дефектировать) только тогда, когда их партнер также проявлял вину, которая с большей вероятностью произошла в структурированных социальных сетях. Итак, оценка действий их партнера была важной частью процесса.

Авторы исследования пишут: «Сотрудничество не возникает, когда агенты только облегчают свою собственную вину (то есть не социальную вину), не рассматривая собственное отношение своих игроков в отношении облегчения вины. Это тот случай, когда агенты, которые не могут быть уверены в себе, не так, когда не имеют тенденции к упрека. Взаимная (то есть социальная вина) может сотрудничать процветать ».

Хотя реальные социальные сети могут быть более сложными, чем в моделировании, это исследование дает некоторую ценную информацию о том, как вина и этическое сотрудничество могут быть интегрированы в системы ИИ.

© 2025 Science X Network