Укрощение четырех всадников инфокалипсиса

Трудно представить приход к власти президента Дональда Трампа без социальных сетей. Его политический гений заключался в том, чтобы овладеть средой нашего времени, разжигая недовольство, мобилизуя поддержку и провоцируя возмущение непревзойденными способами.

Во время своего первого срока он написал в Твиттере более 25 000 раз (в среднем 18 постов в день). Во время своего второго срока он был так же счастлив на своей собственной социальной сети Truth Social. Можно почти сказать, что его подход таков: управление социальными сетями, социальными сетями, для социальных сетей.

Движение Трампа Мага также нашло свой естественный дом в социальных сетях, где многие тысячи аккаунтов усиливают его послания. Тем более неприятно обнаружить, что некоторые из наиболее активных аккаунтов программы «Америка прежде всего» управляются из-за границы.

Стремясь обеспечить «целостность глобальной городской площади», платформа социальных сетей X в прошлую пятницу начала публиковать данные о местоположении пользователей. В результате выяснилось, что десятки влиятельных аккаунтов Maga открыты за рубежом, в том числе в России, Индии и Нигерии.

Например, аккаунт MAGA NATION, который претендует на звание «Голоса патриотов для нас, народа» и имеет более 393 000 подписчиков, базируется в Восточной Европе (за пределами ЕС), как сообщил X.

Известно, что злонамеренные иностранные субъекты используют аккаунты самозванцев — либо для манипулирования политическими дебатами, либо для привлечения трафика и зарабатывания денег. Это лишь один из способов сознательной деградации нашей инфосферы.

Есть еще три типа деформации социальных сетей. Назовите их четырьмя всадниками инфокалипсиса. Если их не остановить, они наверняка разрушят наше доверие практически ко всему, что мы читаем в Интернете.

Второе разрушительное влияние заключается в том, как экстремистские взгляды, когда-то ограничивавшиеся темными уголками сети, просочились в массовые дебаты, как документально подтверждено Джулией Эбнер, исследователем из Оксфордского университета и автором книги Становление мейнстримом.

В своем выступлении в Лондоне на этой неделе Эбнер описал, как исламистские джихадисты, женоненавистники, сторонники теорий заговора и сторонники превосходства белой расы следовали аналогичной цифровой книге, чтобы распространять свои взгляды. Экстремисты часто находят друг друга на таких сайтах, как 4chan, Parler и Discord, где они привлекают последователей посредством геймификации, глобализации и прославления, прежде чем перейти на основные платформы, такие как Facebook, X и YouTube, для популяризации своих взглядов.

По словам Эбнера, их идеи зачастую подпитываются средствами массовой информации и армиями троллей из России, Китая и Ирана. Она указала на информацию на российских сайтах Sputnik и RT, которые, по ее словам, поддерживают кампанию вакцинации в России, но раздувают антинаучные теории заговора на английском и немецком языках.

Влияние экстремистов сейчас усиливается благодаря генеративным инструментам искусственного интеллекта, которые сократили стоимость производства контента почти до нуля. Это привело к третьему влиянию — широкому распространению мусора, созданного ИИ. Через два года после запуска ChatGPT в ноябре 2022 года количество статей, созданных ИИ, опубликованных в сети, превысило количество статей, написанных людьми.

По данным агентства искусственного интеллекта Graphite, к маю этого года по меньшей мере 52 процента интернет-контента было создано машинами. Этот контент, созданный ИИ, не только угрожает целостности сети, но и может поставить под угрозу устойчивость будущих моделей ИИ.

Если модели ИИ поглощают слишком много синтетических данных, существует опасность, что они могут «сойти с ума» или страдать от модельного расстройства аутофагии. Когда входные данные для новых моделей все чаще становятся результатами старых моделей, возникает риск краха модели, говорит Итан Смит, исполнительный директор Graphite.

Четвертый способ подрыва доверия заключается в том, что сами платформы социальных сетей действуют скорее как пристрастные издатели, чем как нейтральные платформы.

Согласно анализу New York Times, вскоре после того, как Илон Маск приобрел X (тогда Twitter), он отказался от большей части механизмов модерации контента, что привело к всплеску расистских и вызывающих разногласия высказываний.

Последний шаг X по публикации данных об учетных записях предполагает, что он более серьезно относится к разоблачению «неаутентичных» пользователей. Опять же, это уже много лет является стандартной процедурой работы групп безопасности других социальных сетей.

Перспектива того, что экстремисты с поддержкой ИИ и враждебные иностранные державы будут и дальше эксплуатировать уязвимости вседозволенных социальных сетей, вызывает тревогу. Но хотя она и является краткосрочным пессимистом в отношении этих тенденций, Эбнер заявляет о себе как о долгосрочном оптимисте.

В настоящее время правительства и регулирующие органы все больше признают эти проблемы. Также появляются инновационные платформы, которые могут работать как сети общения, поощряя сотрудничество больше, чем конфронтацию. Компании, занимающиеся искусственным интеллектом, и сайты социальных сетей придают большее значение контенту, созданному человеком. И растет здоровый скептицизм по отношению к тому, что пользователи видят в Интернете, особенно среди молодежи.

“Я очень надеюсь, что следующее поколение будет демонстрировать все большую устойчивость. Они интуитивно знакомы с тем, как работают эти технологии”, – говорит мне Эбнер.

Более того, другие политики также осваивают социальные сети. Недавно избранный мэр Нью-Йорка, 34-летний демократ-социалист Зохран Мамдани, мобилизовал массовую поддержку с помощью вирусных видеороликов. «Победить в Нью-Йорке теперь значит свободно говорить на TikTok», — написал один наблюдатель.

Какими бы ни были недостатки социальных сетей, это урок, который ни один политик не может себе позволить игнорировать.

[email protected]