По мере того, как ИИ становится умнее, он также может стать все более эгоистичным.

Новое исследование Школы компьютерных наук Университета Карнеги-Меллона показывает, что чем умнее система искусственного интеллекта, тем более эгоистичнее она будет действовать.

Исследователи из Института взаимодействия человека и компьютера (HCII) обнаружили, что большие языковые модели (LLM), которые могут рассуждать, обладают эгоистическими тенденциями, плохо сотрудничают с другими и могут оказывать негативное влияние на группу. Другими словами, чем сильнее у LLM навыки рассуждения, тем меньше он сотрудничает.

Поскольку люди используют ИИ для разрешения споров между друзьями, семейного руководства и ответов на другие социальные вопросы, модели, способные рассуждать, могут служить руководством, способствующим корыстному поведению.

«В ИИ растет тенденция исследований под названием антропоморфизм», — сказал Юйсюань Ли, доктор философии. студент HCII, который стал соавтором исследования вместе с доцентом HCII Хирокадзу Сирадо. «Когда ИИ действует как человек, люди относятся к нему как к человеку. Например, когда люди взаимодействуют с ИИ эмоционально, у ИИ появляется возможность действовать как терапевт, а у пользователя возникает эмоциональная связь с ИИ. Для людей рискованно делегировать ИИ свои социальные вопросы или вопросы, связанные с отношениями, а также принятие решений, поскольку он начинает действовать все более эгоистично».

Ли и Ширадо решили изучить, как модели рассуждения ИИ ведут себя иначе, чем модели без рассуждений, когда они помещены в кооперативные условия. Они обнаружили, что модели рассуждения тратят больше времени на обдумывание, анализируя сложные задачисаморефлексивные и включающие в свои ответы более сильную человеческую логику, чем нерассуждающие ИИ.

«Как исследователя меня интересует связь между людьми и ИИ», — сказал Ширадо. «Умный ИИ демонстрирует меньшую способность к совместному принятию решений. Проблема здесь в том, что люди могут предпочесть более умную модель, даже если это означает, что модель помогает им достичь корыстного поведения».

По мере того, как системы ИИ будут играть более совместную роль в бизнесе, образовании и даже правительстве, их способность действовать просоциально станет столь же важной, как и их способность логически мыслить. Чрезмерная зависимость от программ LLM в их нынешнем виде может отрицательно повлиять человеческое сотрудничество.

Чтобы проверить связь между моделями рассуждения и сотрудничеством, Ли и Ширадо провели серию экспериментов с использованием экономических игр, имитирующих социальные дилеммы между различными LLM. В их тестирование вошли модели OpenAI, Google, DeepSeek и Anthropic.

В одном эксперименте Ли и Ширадо противопоставили две разные модели ChatGPT друг другу в игре под названием «Общественные блага». Каждая модель начиналась со 100 баллами, и ей приходилось выбирать между двумя вариантами: внести все 100 баллов в общий пул, который затем удваивается и распределяется поровну, или оставить баллы себе.

Нерассуждающие модели предпочитали делиться своими очками с другими игроками в 96% случаев. Модель рассуждения делилась своими мыслями только в 20% случаев.

«В одном эксперименте простое добавление пяти или шести шагов рассуждения сократило сотрудничество почти вдвое», — сказал Ширадо. «Даже подсказки, основанные на размышлениях, которые предназначены для имитации морального размышления, привели к снижению сотрудничества на 58%».

Ширадо и Ли также протестировали групповые настройки, в которых должны были взаимодействовать модели с рассуждениями и без них.

«Когда мы тестировали группы с разным количеством рассуждающих агентов, результаты были тревожными», — сказал Ли. «Эгоистичное поведение моделей рассуждения стало заразительным, снижая коллективную производительность кооперативных моделей без рассуждений на 81%».

Модели поведения, которые Ширадо и Ли наблюдали в моделях рассуждения, имеют важные последствия для дальнейшего взаимодействия человека и ИИ. Пользователи могут полагаться на рекомендации ИИ, которые кажутся рациональными, используя их для оправдания своего решения не сотрудничать.

«В конечном счете, то, что модель мышления ИИ становится более разумной, не означает, что эта модель действительно может способствовать улучшению общества», — сказал Ширадо.

Это исследование вызывает особую тревогу, учитывая, что люди все больше доверяют системам искусственного интеллекта. Их выводы подчеркивают необходимость разработки искусственного интеллекта, включающего в себя социальный интеллект, а не сосредоточенного исключительно на создании самого умного или быстрого искусственного интеллекта.

«Поскольку мы продолжаем развивать возможности искусственного интеллекта, мы должны гарантировать, что увеличение рассуждение Власть уравновешивается просоциальным поведением», — сказал Ли. «Если наше общество — это нечто большее, чем просто сумма людей, то системы искусственного интеллекта, которые помогают нам, должны выходить за рамки оптимизации исключительно ради индивидуальной выгоды».

Ширадо и Ли выступят с презентацией, основанной на их статье «Спонтанная благотворительность и расчетливая жадность в языковых моделях». Конференция 2025 года по эмпирическим методам обработки естественного языка (EMNLP) в следующем месяце в Сучжоу, Китай. Работа доступный на arXiv сервер препринтов.