Как компании могут формировать (более безопасное) будущее социальных сетей

«Огромный риск причинения вреда психическому здоровью и благополучию детей и подростков». Таков был вердикт главного хирурга США Вивека Мурти в его недавней Консультативный о социальных сетях и психическом здоровье молодежи.

Как бывший высокопоставленный член независимого Наблюдательного совета Meta/Facebook, я нахожу этот бюллетень, основанный на многолетних исследованиях, долгожданным возвышением использования социальных сетей молодежью до национальной проблемы общественного здравоохранения. Это также важный призыв к действию для компаний и инвесторов в формировании ответственного будущего Интернета. Как я объясню, его результаты отражают трудности, с которыми правительствам приходится принимать эффективные меры, технические проблемы, связанные с балансированием соответствующего возрасту контента с правами на неприкосновенность частной жизни, а также неизведанную этическую и нормативную территорию виртуальных сред. Это также указывает на огромные возможности развития доверия и безопасности в Интернете как основной функции бизнеса.

Отчет является противоядием как от безжалостной защиты платформ социальных сетей, так и от преувеличенной критики, которая приписывает их влиянию множество социальных бед. Мурти придерживается подхода «безопасность прежде всего» из-за широкого использования социальных сетей; это также разумный подход, учитывая отсутствие ясности в литературе о вреде.

Мурти изо всех сил старается утверждать, что социальные сети, которыми пользуются 95% подростков, оказывают положительное влияние на значительный процент молодежи. К ним относятся социальные связи или поддержка, а также признание маргинализированных групп, включая этнические и гендерные меньшинства. Это абсолютно критический момент, которому не уделяется должного внимания, особенно с учетом увеличение насилие и купорос, направленные против этих общин в последние годы.

Тем не менее, он также предоставляет некоторые отрезвляющие статистические данные об использовании социальных сетей и «достаточные показатели» их вредного воздействия на многих молодых пользователей. Например, «почти 40% детей в возрасте 8–12 лет… высокочувствительный период развития мозга» используют социальные сети, и частое использование может быть связано с изменениями в мозге, связанными с эмоциональной регуляцией и контролем импульсов. Киберзапугивание также является серьезной проблемой: почти 20% подростков сообщают, что они подвергались киберзапугиванию. А подростки, которые проводят в социальных сетях более трех часов в день, чаще испытывают депрессию и тревогу. В бюллетене также упоминается «национальный репрезентативный опрос девочек в возрасте 11–15 лет», в котором «одна треть или более говорят, что чувствуют себя« зависимыми »от платформы социальных сетей».

Отчет по понятным причинам сосредоточен на США. Стоит отметить, что исследовать В Европе рассказывается другая история, которая в целом обнаруживает более негативную связь между использованием социальных сетей и благополучием, а исследования показывают общее положительное влияние в Азии. Это важное различие, которое следует отметить, поскольку дебаты о государственной политике в эпоху цифровых технологий иногда рисуют широкими мазками, в то время как политика разрабатывается в нескольких масштабах; в корпоративных залах заседаний, в состояниянации и наднациональные организации, такие как ЕС.

Легче сказать, чем сделать

Таким образом, несмотря на то, что анализ Консультативного совета беспристрастен, выполнение некоторых из его рекомендаций, таких как ограничение доступа к социальным сетям и вредоносному контенту в социальных сетях, является сложной задачей. Я видел, как трудно найти практические решения для родителей, политиков и компаний, независимо от географического положения, культуры и возраста.

Возьмем «укрепление и обеспечение соблюдения возрастных минимумов» в качестве одного из примеров, когда нюансы легко теряются. Сама цель похвальна, но нам нужно найти сложный баланс: проверка личности для обеспечения безопасности молодых людей, но без требования личной информации, которая может быть собрана и использована во вред другим. Например, сканирование лица ребенка для проверки его возраста становится все более популярным. строго учитывая отсутствие лучших альтернатив; но это невероятно нарушает конфиденциальность, особенно когда утечка данных на многих веб-сайтах почти наверняка произойдет.

Вот где национальный США конфиденциальность данных рамки были бы полезный, как для того, чтобы придать юридический вес веским аргументам о последствиях обмена данными в социальных сетях для национальной безопасности, так и для поощрения более скоординированного подхода, особенно для компаний, работающих в социальных сетях, и новых платформ, надеющихся на глобальное масштабирование. В отсутствие системы конфиденциальности законодательные органы штатов берут на себя ведущую роль в разработке лоскутного одеяла законов о конфиденциальности и социальных сетях, которые широко варьируются и иногда являются жесткими.

Вспомните законы Монтаны, запрещающие детям младше 18 лет пользоваться социальными сетями без согласия родителей, или полный запрет TikTok в Монтане. Грубо говоря, есть большая разница между восьмилетним и пятнадцатилетним. Последний имеет гораздо большую свободу действий и может легально научиться водить машину в большинстве штатов.

Нам нужно найти способ вовлечь детей на этом этапе подросткового возраста в разговор и уважать их взгляды как в семейной обстановке при определении общих правил, так и в публичном дискурсе. Если мы этого не сделаем, это, вероятно, приведет к той же атмосфере взаимной подозрительности, язвительного дискурса и межпоколенческой поляризации, которую мы наблюдаем на онлайн-платформах, которые эти законы должны смягчать, а не подражать.

Недавний Пью Опрос подтверждает это, обнаружив, что 54% ​​американцев в возрасте 50–64 лет выступают за запрет TikTok по сравнению с 29% тех, кто моложе 50 лет. Если мы не будем серьезно относиться к привлечению молодежи к разговору, любой запрет социальных сетей будет иметь неприятные последствия, как и явная шоковая тактика раннего курения, употребления алкоголя и кампаний по борьбе с наркотиками. Кроме того, общие запреты или полномочия правительства блокировать определенные классы контента могут быть использованы злоумышленниками. политические деятели стремясь кооптировать движение за безопасность молодежи для продвижения своих собственных программ.

Получение данных

Чтобы избежать распространения неэффективного и вызывающего разногласия законодательства, которое способствует восприятию открытой цензуры со стороны патерналистских элит, эмпирические доказательства каждого политического вмешательства должны быть более надежными. Мурти признает пробелы в знаниях о взаимосвязи между социальными сетями и психическим здоровьем молодежи. Таким образом, ключевые вопросы, которые он предлагает: «Какой тип контента, с какой частотой и интенсивностью приносит наибольший вред?» – должно быть открытым приглашением для дальнейших исследований от академических кругов, благотворительных групп и соответствующих учреждений общественного здравоохранения.

Но качество доказательств для этого исследования зависит от большей прозрачности со стороны компаний, работающих в социальных сетях. Только когда они предоставят исследователям доступ к данным, они смогут больше практические решения быть создан.

Мандаты на прозрачность данных, такие как Закон ЕС о цифровых услугах, являются шагом в правильном направлении. На территории США, Закон об ответственности и прозрачности платформы По словам профессора Стэнфордского университета Нейта Персили, который сообщил о его создании, исследователи смогут «получить доступ к данным, которые прольют свет на самые насущные вопросы, связанные с влиянием социальных сетей на общество». Обязательный доступ к данным для исследователей является критическим приоритетом, особенно вслед за Twitter, который не только непомерно дорого для академических исследователей, продвигающихся вперед, но и угроза судебного иска если они не удалят все данные, собранные на законных основаниях на сегодняшний день.

Даже при наличии тонкой государственной политики нам необходимо преодолеть технические проблемы для эффективного регулирования социальных сетей. Ключевой дилеммой, с которой сталкиваются усилия по обеспечению доверия и безопасности для детей и подростков, использующих социальные сети, является ограниченная способность существующих инструментов обнаруживать вредоносное онлайн-поведение и реагировать на него в режиме реального времени, особенно в прямом эфире, аудио и других нетекстовых доминирующих конструкциях. Кроме того, текущие инструменты текстового мониторинга в основном обучаются на англоязычном тексте, что является серьезным недостатком при работе с глобальным рынком платформ социальных сетей. В США регулирование высказываний в Интернете является чрезвычайно сложной задачей, не нарушая при этом действующую концепцию прав Первой поправки.

Добавьте к этому сложность оценки не только контента, но и поведения актеров в иммерсивном или дополненная реальность виртуальные среды. Например, как Apple обеспечит полезное использование новой гарнитуры «смешанной реальности» Apple Vision Pro? И как все новые приложения, создаваемые для использования гарнитуры, будут соответствовать требованиям Apple App Store к жесткой модерации контента на уровне приложений? Будем надеяться, что Apple найдет новаторские способы сдерживания вредоносного поведения и действий — задача, которая гораздо более требовательна к контексту и технически сложна, чем обнаружение и блокировка вредоносного контента.

Привлечение к ответственности платформ социальных сетей

В конечном счете, мы должны спросить больше у компаний, создающих эти платформы. Мы должны настаивать на безопасности по замыслу, а не как на задним числом. Мы должны ожидать соответствующих возрасту стандартов здоровья и безопасности, более строгой конфиденциальности данных для детей, а также алгоритмической прозрачности и надзора.

Одна рекомендация, которую я бы добавил, это добавить главный трастовый управляющий руководителям каждой онлайн-компании или иным образом наделять полномочиями руководителей, ответственных за доверие и безопасность. Эта роль будет нести ответственность за минимизацию риска причинения вреда молодежи; работать в тесном сотрудничестве с академическими исследователями для предоставления соответствующих данных; и предоставление контрапункта доминирующим внутренним мотиваторам максимального вовлечения, виральности и масштаба. Ключевым шагом в этом отношении является профессионализация сферы доверия и безопасности. В настоящее время очень мало формального обучения или аккредитации в этой области в университетах или других местах. Это должно измениться, если мы хотим обучить будущее поколение трастовых офицеров высшего звена.

С нетерпением ожидаемый отчет из Целевая группа Атлантического совета по надежной будущей сети содержит еще более конкретные рекомендации, которые помогут обеспечить более позитивное онлайн- и офлайн-будущее для молодежи. Не в последнюю очередь это необходимость развивать более надежный и разнообразный кадровый резерв для поддержки расширения практики доверия и безопасности. Отчет должен быть обязательным к прочтению для лидеров отрасли, которые заботятся о более безопасных и надежных онлайн-пространствах.

Новые правовые стандарты и управление социальными сетями на системном уровне с учетом рисков только зарождаются, но также открывают большие возможности. С точки зрения социальной значимости и инвестиционных перспектив доверие и безопасность в Интернете станут новым информационная безопасность. Молодежь, родители, политики, компании и благотворительные организации должны занять место за одним столом, чтобы разделить ответственность за формирование этого будущего.

Эли Шугарман — старший научный сотрудник Schmidt Futures и временно исполняющий обязанности директора Hewlett Foundation Cyber ​​Initiative. Ранее он был вице-президентом по контенту (модерация) в Наблюдательном совете Meta/Facebook.