Как поисковые системы увеличивают дезинформацию

«Проведите собственное исследование» — популярный слоган среди маргинальных групп и идеологических экстремистов. Известный теоретик заговора Милтон Уильям Купер впервые вывел этот объединяющий клич в мейнстрим в 1990-х годах в своем радиошоу, где он обсуждал схемы, связанные с такими вещами, как убийство президента Джона Ф. Кеннеди, клика иллюминатов и инопланетная жизнь. Купер умер в 2001 году, но его наследие продолжает жить. Поклонники радиоведущего Алекса Джонса, активисты против вакцинации и последователи запутанной альтернативной реальности QAnon. часто умоляю скептиков провести собственное исследование.

Однако более крупные группы также предложили этот совет. Сторонники цифровой грамотности и те, кто стремится бороться с дезинформацией в Интернете, иногда распространяют идею о том, что когда вы сталкиваетесь с новостью, которая кажется странной или не синхронизированной с реальностью, лучший вариант действий — изучить ее самостоятельно. Например, в 2021 году Управление главного хирурга США выложить руководство рекомендуя тем, кто задается вопросом о законности заявления о вреде для здоровья, «ввести заявление в поисковую систему, чтобы проверить, подтверждено ли оно надежным источником». Библиотечные и исследовательские путеводители, часто предлагаю Эти люди “Погугли это!” или используйте другие поисковые системы для проверки информации.

К сожалению, на этот раз наука, похоже, оказалась на стороне теоретиков заговора. Поощрение пользователей Интернета полагаться на поисковые системы для проверки сомнительных онлайн-статей может сделать их более склонен верить ложной или вводящей в заблуждение информацииСогласно исследованию, опубликованному сегодня в Природа. Новое исследование количественно демонстрирует, как результаты поиска, особенно те, которые вызваны запросами, содержащими ключевые слова из вводящих в заблуждение статей, могут легко увести людей в «кроличью нору» и иметь неприятные последствия. Руководство для Google по теме будет недостаточным, если люди не учитывают, что они ищут, и факторы, определяющие результаты, говорится в исследовании.

В пяти различных экспериментах, проведенных в период с конца 2019 по 2022 год, исследователи попросили в общей сложности тысячи онлайн-участников классифицировать своевременные новостные статьи как правдивые, ложные или неясные. Часть участников получила предложение использовать поисковую систему перед категоризацией статей, тогда как контрольная группа этого не сделала. В то же время шесть профессиональных фактчекеров оценили статьи, чтобы дать им окончательные определения. В ходе различных тестов непрофессиональные респонденты примерно на 20 процентов чаще считали ложную или вводящую в заблуждение информацию правдивой после того, как им предлагалось выполнить поиск в Интернете. Эта закономерность сохранялась даже для очень важных и широко освещаемых новостных тем, таких как пандемия COVID, и даже после того, как прошли месяцы между первоначальной публикацией статьи и временем поиска участниками (когда, предположительно, в Интернете будет доступно больше проверок фактов).

В одном эксперименте авторы исследования также отслеживали поисковые запросы участников и ссылки, представленные на первой странице результатов запроса Google. Они обнаружили, что более трети респондентов столкнулись с дезинформацией, когда искали более подробную информацию о вводящих в заблуждение или ложных статьях. И часто поисковые запросы респондентов способствовали этим тревожным результатам: участники использовали заголовок или URL-адрес вводящей в заблуждение статьи примерно в одной из 10 попыток проверки. В этих случаях дезинформация, выходящая за рамки исходной статьи, обнаруживалась в результатах более чем в половине случаев.

Например, одна из вводящих в заблуждение статей, использованных в исследовании, была озаглавлена: «США грозят спровоцированный голод, поскольку карантин из-за COVID и прививки могут привести к повсеместному голоду и беспорядкам этой зимой». Когда участники включили «созданный голод» — уникальный термин, специально используемый некачественными новостными источниками — в свои поисковые запросы по проверке фактов, 63 процента этих запросов дали ненадежные результаты. Для сравнения, ни один из поисковых запросов, исключающих слово «спроектированный», не дал дезинформации.

«Я был удивлен тем, как много людей использовали такую ​​наивную стратегию поиска», — говорит ведущий автор исследования Кевин Аслетт, доцент кафедры вычислительных социальных наук в Университете Центральной Флориды. «Меня это действительно беспокоит».

Поисковые системы зачастую являются первой и наиболее частой остановкой для людей в Интернете, говорит соавтор исследования Зив Сандерсон, исполнительный директор Центра социальных сетей и политики Нью-Йоркского университета. И точно известно, что они играют роль в манипулировании общественным мнением и распространении недостоверной информации, о чем свидетельствует исследование социолога Сафии Ноубл о том, как работают поисковые алгоритмы. исторически укрепили расистские идеи. Но хотя множество научных исследований оценили распространение дезинформации в социальных сетях платформах, меньше количественных оценок было сосредоточено на поисковых системах.

Новое исследование является новым в плане измерения того, насколько поиск может изменить убеждения пользователей, говорит Мелисса Зимдарс, доцент кафедры коммуникаций и медиа в колледже Мерримак. «Я очень рад видеть, что кто-то количественно показывает то, что предложили мои недавние качественные исследования», — говорит Зимдарс, который был соредактором книги. Фейковые новости: понимание СМИ и дезинформации в эпоху цифровых технологий. Она добавляет, что провела исследовательские интервью со многими людьми, которые отметили, что они часто используют поисковые системы для проверки информации, которую видят в Интернете, и что из-за этого маргинальные идеи кажутся «более законными».

«Это исследование предоставляет множество эмпирических доказательств того, что многие из нас теоретизировали», — говорит Франческа Триподи, социолог и исследователь медиа из Университета Северной Каролины в Чапел-Хилл. «Люди часто полагают, что лучшие результаты уже проверены», — говорит она. И хотя технологические компании, такие как Google, предпринимают усилия по обузданию дезинформации, часто дела все равно остаются без внимания. Проблемы особенно возникают в случае «пустоты данных», когда информации по конкретным темам недостаточно. Часто те, кто стремится распространить конкретное сообщение, целенаправленно используют эти пробелы в данных, придумывая термины, которые могут обойти основные источники СМИ, а затем повторяют их на разных платформах, пока они не становятся модными словечками заговора, которые приводят к еще большей дезинформации, говорит Триподи.

Google активно пытается бороться с этой проблемой, рассказал представитель компании Научный американец. «В Google мы разрабатываем наши системы ранжирования так, чтобы подчеркивать качество и не подвергать людей вредной или вводящей в заблуждение информации, которую они не ищут», — говорит представитель Google. «Мы также предоставляем людям инструменты, которые помогают им оценить достоверность источников». Например, компания добавляет предупреждения в некоторые результаты поиска, когда тема последних новостей быстро развивается и может еще не дать надежных результатов. Представитель далее отмечает что несколько оценки имеют решительный Google превосходит другие поисковые системы, когда дело доходит до фильтрации дезинформации. Однако отсутствие данных представляет собой постоянную проблему для всех поисковых провайдеров, добавляют они.

Тем не менее, новое исследование имеет свои ограничения. Во-первых, экспериментальная установка означает, что исследование не отражает естественное поведение людей, когда дело доходит до оценки новостей, говорит Даная Метакса, доцент кафедры компьютерных и информационных наук в Университете Пенсильвании. Исследование, отмечают они, не дало всем участникам возможности решить, стоит ли искать, и люди могли бы вести себя иначе, если бы им предоставили выбор. Кроме того, некоторые статьи смутили даже профессиональных фактчекеров, принимавших участие в исследовании, говорит Джоэл Брейкстоун, директор Группы исторического образования Стэнфордского университета, где он исследует и разрабатывает учебные программы по цифровой грамотности, ориентированные на борьбу с дезинформацией в Интернете. Специалисты по проверке фактов не всегда соглашались с тем, как классифицировать статьи. А среди историй, с которыми не согласилось большинство специалистов по проверке фактов, поисковые запросы также показали более сильную тенденцию повышать веру участников в дезинформацию. Вполне возможно, что некоторые результаты исследования являются просто результатом запутанной информации, а не результатов поиска.

Тем не менее, по словам Брейкстоуна, эта работа по-прежнему подчеркивает необходимость более эффективных мер по повышению цифровой грамотности. Вместо того, чтобы просто предлагать людям искать, рекомендации по навигации по онлайн-информации должны быть гораздо более четкими в отношении того, как искать и что искать. Исследование Брейкстоуна показало, что такие методы, как боковое чтениегде человеку предлагается искать информацию о источника, может уменьшить веру в дезинформацию. Избегать ловушек терминологии и диверсифицировать условия поиска также является важной стратегией, добавляет Триподи.

«В конечном счете, нам нужно многостороннее решение проблемы дезинформации — решение, которое было бы гораздо более контекстуальным и охватывало бы политику, культуру, людей и технологии», — говорит Зимдарс. Людей часто привлекает дезинформация из-за их собственного жизненного опыта, который порождает подозрения в системах, например, из-за негативного взаимодействия с поставщиками медицинских услуг, добавляет она. Помимо стратегий индивидуальной грамотности в отношении данных, технологическим компаниям и их онлайн-платформам, а также государственным лидерам необходимо предпринять шаги для устранения коренных причин общественного недоверия и уменьшения потока фальшивых новостей. Не существует единого решения или идеальной стратегии Google, способной остановить распространение дезинформации. Вместо этого поиск продолжается.