1762306264
2025-11-05 01:07:00
Может ли ИИ-персонаж обнаружить, когда человек лжет, и стоит ли нам доверять ему, если он может? Искусственный интеллект, или ИИ, в последнее время претерпел множество достижений и продолжает развиваться в своих масштабах и возможностях. Новое исследование, проведенное Университетом штата Мичиган, глубже изучает, насколько хорошо ИИ может понимать людей, используя его для обнаружения человеческого обмана.
В исследовании, опубликованном в журнале Журнал коммуникацииИсследователи из МГУ и Университета Оклахомы провели 12 экспериментов с более чем 19 000 участниками ИИ, чтобы проверить, насколько хорошо ИИ-персонажи способны обнаруживать обман и правду от людей.
Это исследование направлено на то, чтобы понять, насколько хорошо ИИ может помочь в обнаружении обмана и моделировать человеческие данные в социальных научных исследованиях, а также предостеречь профессионалов при использовании больших языковых моделей для обнаружения лжи».
Дэвид Марковиц, доцент кафедры коммуникаций Колледжа коммуникационных искусств и наук МГУ и ведущий автор исследования
Чтобы оценить ИИ в сравнении с обнаружением человеческого обмана, исследователи использовали теорию истины-по умолчанию, или TDT. TDT предполагает, что люди большую часть времени честны, и мы склонны верить, что другие говорят нам правду. Эта теория помогла исследователям сравнить, как действует ИИ, с тем, как люди действуют в аналогичных ситуациях.
«Люди имеют естественную предвзятость к правде — мы обычно предполагаем, что другие честны, независимо от того, являются ли они на самом деле честными», — сказал Марковиц. «Эта тенденция считается эволюционно полезной, поскольку постоянное сомнение в отношении всех требует много усилий, усложняет повседневную жизнь и создает нагрузку на отношения».
Чтобы проанализировать суждения персонажей ИИ, исследователи использовали исследовательскую платформу Viewpoints AI, чтобы назначить аудиовизуальные или только аудиомедиа людей для оценки ИИ. Судьям ИИ было предложено определить, лгал ли человек или говорил правду, и предоставить обоснование. Были оценены различные переменные, такие как тип носителя (аудиовизуальный или только аудио), контекстуальный фон (информация или обстоятельства, которые помогают объяснить, почему что-то происходит), базовые показатели лжи-правды (пропорции честного и обманного общения) и личность ИИ (личности, созданные, чтобы действовать и говорить как реальные люди), чтобы увидеть, как это повлияло на точность обнаружения ИИ.
Например, одно из исследований показало, что ИИ склонен к лжи, поскольку ИИ гораздо точнее выявляет ложь (85,8%) по сравнению с правдой (19,5%). При коротких допросах точность обмана ИИ была сравнима с человеческой. Однако в условиях отсутствия допроса (например, при оценке утверждений о друзьях) ИИ проявлял предвзятость к правде, более точно согласуясь с человеческими действиями. В целом результаты показали, что ИИ более склонен к лжи и гораздо менее точен, чем люди.
«Наша главная цель состояла в том, чтобы увидеть, что мы можем узнать об ИИ, включив его в число участников экспериментов по обнаружению обмана. В этом исследовании и с использованием модели, которую мы использовали, ИИ оказался чувствительным к контексту, но это не улучшило его способность обнаруживать ложь», — сказал Марковиц.
Окончательные результаты показывают, что результаты ИИ не соответствуют человеческим результатам или точности и что человечность может быть важным пределом или граничным условием для применения теорий обнаружения обмана. В исследовании подчеркивается, что использование ИИ для обнаружения может показаться беспристрастным, но отрасли необходимо добиться значительного прогресса, прежде чем генеративный ИИ можно будет использовать для обнаружения обмана.
«Легко понять, почему люди могут захотеть использовать ИИ для выявления лжи — это кажется высокотехнологичным, потенциально справедливым и, возможно, непредвзятым решением. Но наши исследования показывают, что мы еще не достигли цели», — сказал Марковиц. «И исследователям, и профессионалам необходимо внести серьезные улучшения, прежде чем ИИ сможет по-настоящему справиться с обнаружением обмана».
Источник:
Мичиганский государственный университет
Ссылка на журнал:
Марковиц, Д.М., и Левин, Т.Р. (2025). (Не)эффективность персонажей ИИ в экспериментах по обнаружению обмана. Журнал коммуникации. doi.org/10.1093/joc/jqaf034
#Исследование #МГУ #углубляется #то #насколько #хорошо #ИИ #может #обнаруживать #человеческий #обман
Ещё по этой теме
