Восстановление доверия в эпоху искусственного интеллекта требует более строгих норм и контроля | Мнения экспертов

Гаутама Мукунда

Твоя бабушка доверяла своему врачу. Твоя мать доверяла потребительским отчетам. Вы доверяете рейтингу 4,7 звезды от 2300 незнакомцев. Но если вы недавно пользовались Интернетом, чтобы просмотреть отзывы о коляске или даже получить помощь в выборе плана медицинского страхования, вы, вероятно, заметили, что это уже не очень полезно. Реальная информация была погребена под лавиной фейков, созданных искусственным интеллектом.

Сегодняшний Интернет менее аутентичен. И менее человечный. Если вы полагаетесь на него для получения информации о чем угодно, от рубашек поло до политики, это большая проблема. Хорошей новостью может быть то, что в эпоху, когда искусственный интеллект (ИИ) может создавать этих незнакомцев — и их энтузиазм — в одночасье, люди могут снова начать доверять учреждениям и экспертам.

Частично из-за влияния Интернета мы стали свидетелями отказа от институционального доверия и ценности экспертных знаний в пользу распределенных суждений обычных пользователей. Бесконечный поток цифровой чепухи, создаваемой генеративным ИИ, делает эту ставку все более плохой. Исследование Graphite 65 000 англоязычных веб-статей показало, что до ChatGPT около 5 процентов из них были в основном созданы искусственным интеллектом. К концу 2024 года эта цифра превысила 50 процентов. В апреле 2025 года Ahrefs обнаружил, что 74 процента вновь созданных веб-страниц содержат контент, созданный искусственным интеллектом.

Многие статьи, написанные ИИ, вместо того, чтобы приносить пользу, являются ложью. Проблема не в галлюцинациях ИИ, а в способности генеративного ИИ создавать правдоподобную фантастику дешево и в больших масштабах. Следствием этого является бесконечный поток созданной ИИ чепухи по каждой теме, где распространение лжи отвечает чьим-то интересам, от обзоров продуктов Amazon до глобальной политики.

Естественная реакция — проявить скептицизм, провести собственное исследование, триангулировать источники и т. д. Это может сработать, если у вас уже есть опыт по вопросу, на который вы пытаетесь ответить. Он разваливается из-за всего остального. Покупая коляску, вы не можете провести краш-тест каждой модели. Вы полагаетесь на реальных рецензентов, которые, надеюсь, не продают вам что-то и, похоже, имеют здравый смысл. У этой договоренности есть название: делегированное доверие.

Некоторое время распределенная версия делегированного доверия в Интернете — обзоры Amazon, влиятельные лица TikTok — выглядела так, как будто она может заменить институциональную власть. А почему бы и нет? Институты постоянно терпят неудачу. Они попадают в плен, ленятся и защищают свои интересы. Но когда любой может генерировать бесконечный обман, полагаться на нефильтрованные взгляды означает слушать того, кто наиболее агрессивно использовал фальшивку, чтобы заглушить правду синтетической болтовней.

И становится еще хуже. Десятилетия психологических исследований показали, что простое повторение делает утверждения правдивыми. Исследования 2015 года показали, что этот «эффект иллюзорной правды» сохраняется, даже когда люди знают, что утверждение ложно. Когда ИИ позволяет дешево и массово повторять правдоподобные истории, доверие заменяется знакомством. Это не проблема, из которой каждый может найти выход.

Но довольно часто приходится кому-то доверять. В жизни слишком много решений — от того, что покупать, куда инвестировать и за кого голосовать — и люди, какими бы способными они ни были, нуждаются в руководстве.

Итак, вот мой прогноз: поскольку контент, созданный ИИ, захлестнет открытую сеть, доверие снова централизуется. Люди будут обращаться к узнаваемым учреждениям, названным авторам и видимым редакционным процессам. Они также обратятся к людям с солидным послужным списком, будь то известный журналист или влиятельный родитель, который тестирует коляски со своими детьми на реальных тротуарах и в реальных аэропортах. Ключом в обоих случаях является подлинность. Вы уверены, что реальный человек предоставляет правдивую и заслуживающую доверия информацию.

Институты могут восполнить этот пробел. Вы можете не согласиться с этой колонкой, но можете быть уверены, что я реальный человек, потому что Bloomberg говорит, что я реальный человек. Кто-то в организации встретил меня, проверил мои учетные данные и был бы уволен, если бы я оказался ChatGPT-5.2 в блейзере. Это немного, но больше, чем большая часть того, что публикуется сегодня.

Организации, создавшие такую инфраструктуру проверки, начинают получать отдачу. The New York Times купила Wirecutter за 30 миллионов долларов в 2016 году, и теперь это ключевой фактор в пакете подписки медиакомпании, а более широкая категория, в которой она находится — партнерские, лицензионные и другие доходы — достигла 70,5 миллионов долларов во втором квартале 2025 года. Армия редакторов-добровольцев Википедии — реальных людей, обеспечивающих соблюдение стандартов поиска — сделала его одним из самых надежных сайтов в Интернете по той же причине: видимое, человеческое курирование.

Институты, которые предполагают, что общественное недоверие является постоянным, будут недостаточно инвестировать в доверие. Это стратегическая ошибка. Доверие растет медленно. Потребуются годы редакционных стандартов, дисциплины поиска и ответственности, прежде чем люди начнут относиться к вам как к несовершеннолетнему. Институты, которые выиграют от предстоящей рецентрализации доверия, — это те, кто строит эту инфраструктуру сейчас, до того, как этого потребует рынок.

Вопрос не в том, произойдет ли рецентрализация доверия; вопрос в том, какие учреждения будут готовы, когда это произойдет.