В октябре полярный миллиардер и генеральный директор Tesla Илон Маск купил поляризующую социальную сеть Twitter для 44 миллиарда долларовобещая изменить работу сайта.
В различных заявлениях, большинство из которых были твитами, Маск намекал на снижение модерации на платформе, пообещав сделать сайт оплотом «свободы слова».
В последующие месяцы он реализовал несколько новых инициатив в компании и на сайте, включая увольнение сотен сотрудников, восстановление сотен ранее заблокированных учетных записейсняв значки подтверждения с большинства пользователей, которые не платили 8 долларов в месяц за подписку на Twitter Blue, и пообещав решить проблему с ботами на сайте.
Но новое исследование показывает, что сайт также претерпел еще одно изменение после прихода Маска — он стал более ненавистным.
В соответствии с данные Собранные исследователями из Университета Южной Калифорнии, Калифорнийского университета в Лос-Анджелесе, Калифорнийского университета в Мерседе и Орегонского государственного университета, ежедневное использование языка ненависти теми, кто ранее публиковал ненавистнические твиты, почти удвоилось после того, как Маск завершил продажу. И общий объем разжигания ненависти также удвоился по всему сайту.
Исследование было проведено Китом Бургхардтом, Матеусом Шмитцем и Гораном Муриком из Университета Южной Калифорнии, Дэниелом Фесслером из Калифорнийского университета в Лос-Анджелесе, Дэниелом Хики из штата Орегон и Полом Смальдино из Калифорнийского университета в Мерседе.
Группа изучила твиты пользователей, оставивших ненавистные посты за месяц до и после продажи Twitter, а также собрала выборку из общего пула пользователей.
Сначала исследователи разработали «лексикон ненависти» из 49 расистских, антисемитских, гомофобных и трансфобных терминов. Затем они изучили сообщения до и после продажи, используя инструмент искусственного интеллекта, который сканировал ненавистные термины и их частоту, отсеивая «нетоксичное» или не вызывающее ненависти использование терминов.
«Сначала нам нужно было создать набор слов, которые мы могли бы определить как ненавистные», — сказал в пресс-релизе Бургхардт, ученый-компьютерщик из Института информационных наук Инженерной школы Университета Южной Калифорнии в Витерби. «Наша цель состояла в том, чтобы найти слова с относительно высокой точностью, а это означает, что если люди используют эти слова, маловероятно, что они используются без ненависти».
Объем ненавистнических высказываний, размещенных ненавидящими пользователями, резко вырос после завершения продажи, хотя исследователи отметили, что ненавистнические высказывания в Твиттере росли еще до того, как Маск купил его.
В начале своего проекта исследователи предположили, что, если Маск склонится к менее ограничительной политике, количество разжигающих ненависть высказываний возрастет. Но они не были уверены, насколько.
«У меня не было никаких ожиданий, так или иначе, — сказал Фесслер, директор Института доброты Бедари Калифорнийского университета в Лос-Анджелесе, в интервью The Times, — потому что это очень трудно оценить заранее. Вы не знаете, какая популяция пользователей потенциально может создавать такой контент, вы не знаете, какова численность этой популяции или какова частота их твитов и ретвитов».
Но результаты потрясли Бургхардта.
«Что было удивительно, так это то, что этот материал так резко увеличился», — сказал он The Times. «Мы не ожидали, что пользователи ненависти будут использовать больше слов ненависти после того, как Илон Маск присоединился к Twitter».
Фесслер отметил, что проявления нетерпимости нарастали с начала президентской кампании Дональда Трампа и что Маск «подмигивал этим настроениям достаточно часто, чтобы население активных или потенциальных пользователей Твиттера, разделявших эти взгляды, признало возможность, которую им предоставили. ”
«На уровне примерно 30 000 футов, — сказал Фесслер, — эффект Твиттера действительно отражает более широкие тенденции в обществе».
Исследователи отметили, что им не удалось «доказать причинно-следственную связь между поглощением Маска и разжиганием ненависти». По их словам, изменения генерального директора в отношении модерации «плохо задокументированы».
По словам Бургхардта, это исследование является важным шагом в определении того, как и почему люди могут радикализироваться в Интернете из-за так называемого стохастического терроризма, когда разжигание ненависти используется для подстрекательства к насильственным действиям.
По его словам, социальные сети могут сыграть роль в этой радикализации, но необходимы дополнительные исследования.
Как только пользователи присоединяются к этим группам ненависти, даже на сайтах социальных сетей, которые традиционно не вызывают ненависти, по словам Бургхардта, они сразу же становятся более ненавистными и враждебными.
«Мы ожидаем, что после того, как они присоединятся к этим сайтам, они станут более склонными к пропаганде насилия, — сказал он, — а затем какая-то небольшая часть действительно совершает эти действия».
Но, несмотря на документально подтвержденный рост разжигания ненависти, Фесслер отметил, что он исходил от небольшой части населения.
«Это никоим образом не мнение большинства», — сказал он. «И общество в целом… становится все более терпимым к различиям и все более разнообразным».
Twitter имеет значительное влияние, несмотря на его относительно небольшой размер, поэтому Фесслер обеспокоен тем, что он, по-видимому, зависит от прихотей одного человека — Маска.
«Тревожно, когда платформа с охватом Twitter может быть куплена одним человеком, и даже скромные попытки использовать ее для более социально конструктивных целей… деконструируются и удаляются», — сказал Фесслер.
