Социальные сети — дефектный продукт

Я только сел писать, но прежде чем записать слова в документ, достал телефон, чтобы проверить календарь. Затем я получил уведомление в чате от друга, который прислал мне ссылку на какой-то мем в Instagram. Мог бы и проверить. Под публикацией выставлена в очередь стопка коротких видеороликов, выбранных алгоритмически, чтобы меня заворожить: одно о воронах в лондонском Тауэре, другое — об индонезийской уличной еде. Тыкаю ворона. Потом еще один. Я могу пролистывать эти ролики бесконечно, и я это делаю. Видео становятся все более тревожными и политическими. Ты знаешь, что будет дальше. Когда я снова смотрю на свой компьютер, прошло почти 45 минут.

Мой день не испорчен, но я чувствую себя подавленным и усталым. Куда делось все это недостающее время? Как Instagram заставил меня просмотреть сотни видео (не говоря уже о десятках рекламы), когда все, что мне хотелось, — это проверить календарь? И почему мне стало так паршиво?

Ответы на эти вопросы обсуждаются прямо сейчас и в ближайшее время будут переданы в суд. два судебных дела в Калифорнии принесенный тысячи людей и групп против гигантов социальных сетей Meta (владелец Facebook и Instagram), Google (владелец YouTube), Snap (владелец Snapchat), ByteDance (владелец TikTok) и Discord. Истцы в этих делах – от школьных округов до обеспокоенных родителей – утверждают, что платформы социальных сетей представляют опасность для детей, нанося серьезный психологический вред и даже приводя к смерти. Детей, которым показывают видео, наполненные насилием, невыполнимыми стандартами красоты и «конкурсами», поощряющими опасные трюки, ведут в темные кроличьи норы, из которых они, возможно, никогда не вернутся. На кону в обоих случаях стоит один фундаментальный вопрос: виноваты ли эти компании в том, что они заставляют людей чувствовать себя ужасно?

Вот уже более десяти лет многие законодатели США подразумевают, что ответ – нет. Вместо того, чтобы пытаться регулировать компании, несколько штатов США приняли законы, регулирующие использование детьми социальных приложений. Некоторые пытаются ограничить доступ требуется согласие родителей например, для несовершеннолетних для создания учетных записей. Другие пытались предотвратить издевательства над подростками, запрет лайков засчитывается на постах. Многие из этих законов сосредоточены на опасностях контента в социальных сетях. Здесь, в США, это, по сути, освобождает компании от ответственности. В нашем Законе о порядочности в сфере коммуникаций есть печально известная часть, известная как Раздел 230, это не позволяет компаниям нести ответственность за контент, размещенный пользователями.

Вы можете понять, почему раздел 230 казался хорошей идеей, когда он был написан в 1990-х годах. В то время никто не беспокоился о думскроллерах, алгоритмических манипуляциях или токсичных влиятельных лицах «lookmaxxer». которые поощряют своих последователей бить молотками по лицу, чтобы создать более четкую линию подбородка. Кроме того, раздел 230 казался практичным: Отчеты YouTube что на его сервис ежедневно загружается 20 миллионов видеороликов. Компания и подобные ей компании не смогли бы функционировать, если бы они несли ответственность за каждую незаконную информацию, размещенную на их сервисе.

За всем этим законотворчеством скрывается тот факт, что США являются страной, абсолютизирующей свободу слова. Это означает, что таким компаниям, как Meta или Google, очень легко оспаривать законы, которые могут ограничить доступ людей к высказываниям в Интернете, даже если эта речь представляет собой видео о том, как похудеть с помощью голодания. Действительно, многие из этих законов, ограничивающих доступ несовершеннолетних к социальным сетям, были отменены судьями, которые считают их противоречащими свободе слова. В результате многие компании, занимающиеся социальными сетями в США, смогли принять законы о свободе слова в качестве защиты от любого рода регулирования.

До настоящего времени. Что интересно в двух текущих делах в Калифорнии, так это то, что они ловко обходят вопросы содержания и свободы слова. Вместо этого они утверждают, что дизайн самих платформ социальных сетей «дефектен» и, следовательно, вреден; бесконечная прокрутка, постоянные уведомления, автоматическое воспроизведение видео и алгоритмический соблазн, который подпитывает наши фиксации — эти функции намеренно созданы самими компаниями. И, как утверждается в исках, эти «дефекты» превращают приложения для социальных сетей в «вызывающие привыкание» продукты, похожие на «игровые автоматы», которые «эксплуатируют молодых людей», предоставляя им «бесконечную ленту на основе искусственного интеллекта, заставляющую пользователей прокручивать». В конечном счете, цель этих исков — заставить компании социальных сетей взять на себя ответственность за негативное воздействие, которое их продукты оказывают на наиболее уязвимых потребителей.

Во многом этот аргумент напоминает те, которые правительство США возбудило против табачных компаний в 1990-х годах.. Правительство успешно доказывало, что компании знали, что их продукция вредна, но скрывали это. В результате компании выплатили крупную компенсацию жертвам, разместили предупреждающие этикетки на табачных изделиях и изменили свой маркетинг, чтобы он больше не привлекал детей.

Уже есть слитые документы из Меты предполагая, что компания знала, что ее продукт вызывает привыкание. Федеральный судья распечатал судебные документы по делу, в котором девочка-подросток совершила самоубийство после того, как пристрастилась к социальным сетям. Эти документы содержали внутренние сообщения в Instagram, в которых специалист по пользовательскому опыту якобы написал: «О, черт возьми, да! [Instagram] это наркотик… По сути, мы торговцы». Это один из многих документов из Instagram и YouTube, которые, по словам юристов, рисуют картину компаний, сознательно и небрежно производящих бракованную продукцию.

Эти два испытания в настоящее время продолжаются и имеют потенциал кардинально изменить социальные сети. Возможно, законодательство США наконец-то признает то, что многие из нас знали уже много лет: проблема не в содержании, а в поведении компаний, которые нам его предоставляют.

Вам нужно выслушивающее ухо? Великобритания самаритян: 116123 (samaritans.org); Служба помощи при самоубийствах и кризисных ситуациях в США: 988 (988lifeline.org). Посещать bit.ly/SuicideHelplines на услуги в других странах.