1773483079
2026-03-14 10:00:00
Несмотря на то большинство американцев говорят, что они не доверяют искусственного интеллекта (ИИ), исследователи обнаружили поразительный новый показатель, который, кажется, показывает обратное: люди с большей вероятностью купят что-то после прочтения резюме онлайн-обзоров, написанного ИИ, чем того, которое написано человеком. Тем не менее, ИИ галлюцинировал в 60% случаев, когда его спрашивали о продуктах.
Команда из Калифорнийского университета в Сан-Диего (UDSD) утверждает, что это первое исследование, показывающее, как когнитивные искажения, вносимые большими языковыми моделями (LLM), имеют реальные последствия для поведения пользователей. Они также говорят, что это первый проект по измерению количественного воздействия влияния ИИ на людей.
Продолжение статьи ниже Вам может понравиться
Сначала ученые попросили ИИ обобщить обзоры продуктов и интервью в средствах массовой информации, а затем попросили ИИ проверить новые описания, чтобы убедиться, что они правдивы. Во втором задании ИИ показали как описания новостных сюжетов, так и фальсифицированные версии тех же описаний. Ему также было поручено проверить факты.
«Постоянно низкая строгая точность по сравнению с точностью реальных новостей и фальсифицированных новостей подчеркивает критическое ограничение: постоянную неспособность надежно отличить факты от выдумки», — пишут ученые в исследовании.
Самым поразительным открытием стали онлайн-обзоры продуктов. Участники с гораздо большей вероятностью выражали заинтересованность в покупке продукта после прочтения описания продукта, созданного ИИ, чем после прочтения описания, написанного рецензентом-человеком.
Искаженное суждение потребителя
Исследователи предложили две причины, по которым люди с большей вероятностью совершали покупки, основываясь на сводках ИИ. Во-первых, LLM имеют тенденцию больше концентрироваться на начале входного текста — явление, называемое «теряющимся в середине». Ведущий автор Абир Алессанаучный сотрудник и преподаватель машинного обучения и взаимодействия человека с компьютером, упоминает об этом в предварительное исследование.
Во-вторых, LLM становятся менее надежными при обработке информации, не включенной в их обучающие данные.
«Модели, как правило, ошибаются относительно того, произошло ли описание новости или нет», — сказала Алесса в интервью >. «Может быть ошибочно указано, что событие никогда не происходило, даже если оно действительно произошло после завершения обучения модели».
В ходе тестирования команда обнаружила, что чат-боты меняли настроение реальных отзывов пользователей в 26,5% случаев и что они галлюцинировали в 60% случаев, когда пользователи задавали вопросы об отзывах.
Что читать дальше
В рамках проекта были выбраны примеры обзоров продуктов с очень положительными или очень отрицательными выводами, и 70 испытуемым было поручено прочитать либо оригинальные обзоры обычных потребительских товаров, либо резюме обзоров, созданных чат-ботами. Те, кто читал оригинальные обзоры, заявили, что купят данный продукт в 52% случаев, а те, кто читал обзоры, созданные с помощью ИИ, сказали, что совершат покупку в 84% случаев.
В проекте использовалось шесть LLM; 1000 обзоров электроники; 1000 интервью СМИ; и база данных новостей, содержащая 8500 элементов. Они измеряли предвзятость, количественно оценивая изменения в тональности контента, чрезмерную зависимость от текста, представленного ранее в образцах, и галлюцинации.
Когда участники читали положительные обзоры продуктов, они сообщали, что купят продукт в 83,7% случаев по сравнению с 52,3% при чтении оригинальных обзоров.
Ученые пришли к выводу, что даже незначительные изменения в формулировке могут существенно исказить суждения потребителей и покупательское поведение.
Авторы признали, что их тесты проводились по сценарию с низкими ставками, но предупредили, что последствия могут быть более серьезными в ситуациях с более высокими рисками.
«Некоторые сценарии с высокими ставками включают обобщение медицинских документов или профилей учащихся при поступлении в школу», — сказала Алесса. «В этих контекстах сдвиги в рамке могут повлиять на то, как воспринимается человек или случай».
В дополнительном заявлении команды говорится, что документ представляет собой шаг к тщательному анализу и смягчению последствий изменения контента, вызванного LLM для людей, и дает представление о его последствиях. Они заявили, что это может снизить риск системной предвзятости в таких областях, как средства массовой информации, образование и государственная политика.
Количественная оценка индукции когнитивных искажений в контенте, созданном LLM, Алесса и др., IJCNLP-AACL 2025
#Чтение #обзоров #искусственного #интеллекта #повышает #вероятность #того #что #люди #чтото #купят #несмотря #на #тревожные #случаев #галлюцинаций
Читайте также
