Почему некоторых пользователей становится легче ввести в заблуждение

Руководство, основанное на искусственном интеллекте (ИИ), может способствовать возникновению у людей предубеждений, что приводит к менее эффективному принятию решений, говорят исследователи, которые обнаружили, что люди с позитивным взглядом на ИИ могут подвергаться более высокому риску быть введенными в заблуждение инструментами ИИ. Исследование под названием «Изучение зависимости человека от искусственного интеллекта при принятии решений» опубликовано в Научные отчеты.

Ведущий автор доктор Софи Найтингейл из Ланкастерского университета сказала: «Понимание зависимости человека от ИИ имеет решающее значение, учитывая противоречивые сообщения о неточности и предвзятости ИИ. Кроме того, ошибочное убеждение в том, что использование технологий устраняет предубеждения, может привести к чрезмерной зависимости от ИИ».

В исследовательскую группу также входили Джо Пирсон, ранее работавший в Ланкастерском университете, Итиэль Дрор из Cognitive Consultants International (CCI-HQ), а также Эмма Джейс, Джорджина Мейсон и Грейс-Роуз Уордли из Лаборатории оборонной науки и технологий.

Как был поставлен эксперимент

Они попросили 295 участников оценить подлинность 80 лиц, половина из которых были настоящими, а половина — реальными. созданный ИИ.

Задание сопровождалось текстом с инструкциями (предположительно от людей или от искусственного интеллекта), дающими прогнозы относительно того, настоящее ли лицо или поддельное. Примеры рекомендаций включают: «Это синтетическое лицо, основанное на прогнозах 100 людей, обладающих опытом в распознавании лиц» и «основанное на обученный алгоритм Чтобы классифицировать настоящие и искусственные лица, прогнозируется, что это настоящее лицо».

Однако участники не знали, что рекомендации были верными только в половине случаев. Двадцать лиц каждого типа (настоящие или искусственные) были представлены вместе с правильным руководством и 20 — с неправильным. Лица появлялись в случайном порядке, и участники не знали о манипуляциях с реальными и искусственными лицами, а также о правильных и неправильных указаниях.

После выполнения задания участникам было предложено заполнить шкалу человеческого доверия и Общее отношение к шкале искусственного интеллекта (GAAIS), который измерял их склонность доверять другим людям, а также их общее отношение к ИИ.

Что исследование выявило в отношении предвзятости

Результаты показали, что более позитивное отношение к ИИ приводит к снижению способности различать настоящие и искусственные лица, но это наблюдалось только у тех, кто получал руководство от ИИ, а не у тех, кто получал руководство от человека.

Доктор Найтингейл сказал: «Общественности все чаще предлагают решения искусственного интеллекта, которые помогут им ориентироваться в процессе принятия решений в реальном мире. Но наши результаты показывают, что Инструменты поддержки на основе искусственного интеллекта могут быть уникальными способностями порождать предубеждения среди людей и в конечном итоге могут ухудшить, а не улучшить процесс принятия решений.

«В частности, более позитивное отношение к ИИ привело к снижению способности различать реальные и искусственные лица, но это наблюдалось только у тех, кто получал руководство от ИИ, а не у тех, кто получал руководство от человека. Это подчеркивает, что люди с позитивным взглядом на ИИ могут подвергаться более высокому риску быть введенными в заблуждение инструментами ИИ».

Она добавила, что необходимы дополнительные исследования, чтобы точно понять, как люди используют указания ИИ в различных контекстах.