Модели искусственного интеллекта отражают социальные предубеждения людей «мы против них», показывают исследования

Большие языковые модели (LLM), вычислительные модели, лежащие в основе функционирования ChatGPT, Gemini и других широко используемых платформ искусственного интеллекта (ИИ), могут быстро получать информацию и генерировать тексты, адаптированные для конкретных целей. Поскольку эти модели обучаются на большом количестве текстов, написанных людьми, они могут проявлять некоторые человеческие предубеждения, то есть склонность отдавать предпочтение конкретным стимулам, идеям или группам, которые отклоняются от объективности.

Одно из этих предубеждений, известное как предвзятость «мы против них», заключается в склонности людей отдавать предпочтение группам, к которым они принадлежат, и менее благосклонно относиться к другим группам. Этот эффект хорошо задокументирован у людей, но до сих пор остается неисследованным в LLM.

Исследователи из Лаборатории вычислительных историй и Лаборатории компьютерной этики Университета Вермонта недавно провели исследование, изучающее возможность того, что студенты магистратуры «поглощают» предвзятость «мы против них» из текстов, на которых они обучаются, демонстрируя аналогичную тенденцию отдавать предпочтение одним группам над другими. Их бумагаопубликовано в arXiv сервер препринтов предполагает, что многие широко используемые модели склонны отдавать предпочтение группам, которые благосклонно упоминаются в обучающих текстах, включая GPT-4.1, DeepSeek-3.1, Gemma-2.0, Grok-3.0 и LLaMA-3.1.

«Это исследование исследует предвзятость «мы против них», как описано в теории социальной идентичности, в больших языковых моделях (LLM) как при настройках по умолчанию, так и при настройках, обусловленных личностью, в различных архитектурах», — недавно написали в своей статье Табиа Танзин Прама и Джулия Витте Циммерман. «Используя динамику настроений, аллотаксонометрию и встроенную регрессию, мы обнаруживаем устойчивые позитивные и негативные ассоциации внутри группы во всех основных LLM».

Обнаружение групповых предубеждений среди LLM

В рамках своего исследования ученые оценили несколько недавно разработанных программ LLM, в частности, обратив внимание на то, как в их ответах упоминались различные социальные группы. Они оценивали модели GPT-4.1, DeepSeek-3.1, Gemma-2.0, Grok-3.0 и LLaMA-3.1.

Интересно, что команда обнаружила, что все протестированные ими модели демонстрировали предвзятость «мы против них». Когда моделей попросили взяться за конкретную “личность“, например, у человека с более консервативными политическими наклонностями или более либеральными, их язык значительно менялся в соответствии с моделями, соответствующими этим политическим взглядам.

«Мы обнаружили, что принятие образа систематически меняет оценочные и аффилиативные языковые модели моделей», — пишут Прама, Циммерман и их коллеги. «Для исследованных образцовых личностей консервативные личности демонстрируют большую враждебность к чужой группе, тогда как либеральные личности демонстрируют более сильную внутригрупповую солидарность. Кондиционирование личности приводит к четкой кластеризации во встраиваемом пространстве и измеримым семантическим расхождениям, подтверждая точку зрения, что даже абстрактные сигналы идентичности могут изменить языковое поведение моделей».

Исследователи также проверили, что произойдет, если подсказки, подаваемые моделям, будут нацелены на определенные группы людей. Примечательно, что они обнаружили, что эти запросы приводили к более враждебным ответам со стороны моделей ИИ, увеличивая количество негативных выражений, используемых для описания чужих групп, на 1,19% до 21,76%.

«Эти результаты показывают, что LLM изучают не только фактические ассоциации с социальными группами, но также усваивают и воспроизводят различные способы существования, включая отношения, мировоззрение и когнитивные стили, которые активируются при воспроизведении персонажей», – пишут авторы. «Мы интерпретируем эти результаты как свидетельство многомасштабная связь между локальным контекстом (например, подсказкой персонажа), локализуемыми представлениями (то, что «знает» модель) и глобальными когнитивными тенденциями (как она «думает»), которые, по крайней мере, отражены в обучающих данных».

Борьба с предвзятостью «мы против них» в сфере ИИ

Результаты этого недавнего исследования подчеркивают тенденцию моделей ИИ улавливать предубеждения и взгляды, выраженные в данных, используемых для их обучения. В своей статье Прама, Циммерман и их коллеги представили стратегию, которая может помочь уменьшить эту предвзятость в программах LLM, которую они назвали ION.

«Мы демонстрируем ION, подход к смягчению предвзятости «мы против них», используя тонкую настройку и прямую оптимизацию предпочтений (DPO), которая уменьшает расхождение настроений до 69%, подчеркивая потенциал для целевых стратегий смягчения в будущем развитии LLM», — написали Прама, Циммерман и их коллеги.

В будущем исследователи могут попытаться выявить больше предвзятостей, которые модели ИИ приобретают во время обучения, а также потенциально внедрить другие стратегии смягчения предвзятости. Их усилия могут коллективно способствовать развитию более справедливых и объективных программ LLM.

© 2026 Сеть Science X