Существует четкий способ регулирования Facebook, TikTok и других социальных сетей.

Мощные технологии, возможно, никогда еще не представляли для правительства США такого большого набора нормативных проблем. Перед праймериз штата в январе демократы в Нью-Гэмпшире получили звонки от роботов, играя созданный искусственным интеллектом дипфейковые аудиозаписи президента Байдена, призывающего их не голосовать. Представьте себе политические дипфейки, которые, скажем, подстрекают американцев к насилию. Этот сценарий не так уж сложно представить, учитывая новое исследование из Нью-Йоркского университета, который описывает распространение ложного, разжигающего ненависть или насильственного контента в социальных сетях как самый большой цифровой риск для выборов 2024 года.

Мы вдвоем помогли разработать и обеспечить соблюдение некоторых из наиболее важных решений в области социальных сетей в современной истории, в том числе запрет порномести на Реддите и запрет Трампа в Твиттере. Итак, мы воочию убедились, насколько хорошо удалось полностью полагаться на саморегулирование компаний социальных сетей при модерировании своего контента.

Вердикт: совсем нехорошо.

Токсичного контента предостаточно в наших практически нерегулируемых социальных сетях, которые уже помогли спровоцировать попытку мятежа в Капитолии США 6 января 2021 года, а также попытка переворот в Бразилии 8 января 2023 года. Опасности только усугубляются увольнения промышленность, Верховный суд и Конгресс неспособность решить эти проблемы напрямую, и загадочные руководители запуск кардинальные изменения в их компаниях. Широкий доступ к новым и все более сложным технологиям для создания реалистичных дипфейков, таких как фейковая порнография, созданная искусственным интеллектом. Тэйлор Свифтоблегчит распространение обмана.

Статус-кво социальных сетей в США сродни нерегулируемой авиаиндустрии. Представьте себе, если бы мы не отслеживали время или задержки рейсов или не фиксировали сбои и не выясняли, почему они произошли. Представьте себе, если бы мы никогда не узнали о мошеннических пилотах или пассажирах, и эти люди не были бы занесены в черный список для будущих полетов. Авиакомпании будут иметь меньшее представление о том, что нужно делать и в чем заключаются проблемы. Они также столкнутся с меньшей ответственностью. Отсутствие стандартов и показателей индустрии социальных сетей для отслеживания безопасности и вреда привело нас к гонке ко дну.

Подобно Национальному совету по безопасности на транспорте и Федеральному управлению гражданской авиации, должно быть агентство по регулированию американских технологических компаний. Конгресс может создать независимый орган, ответственный за установление и обеспечение соблюдения основных правил безопасности и конфиденциальности для компаний, занимающихся социальными сетями. Для обеспечения соблюдения требований агентство должно иметь доступ к соответствующей информации и документам компаний, а также полномочия привлекать к ответственности компании, не соответствующие требованиям. Если или когда вещи пойти наперекосяк, Агентство должно иметь полномочия расследовать произошедшее, так же как транспортный совет может расследовать деятельность Boeing после его недавних происшествий.

Обуздание вреда, наносимого социальными сетями, является сложной задачей. Но нам нужно с чего-то начинать, и попытки запретить платформы после того, как они уже стали чрезвычайно влиятельными, как это пытаются сделать некоторые американские законодатели с ТИК Такпросто устройте бесконечную игру «Ударь крота».

Платформы могут отслеживать количество удаленных аккаунтов, количество удаленных сообщений и причины, по которым были предприняты эти действия. Также должно быть возможным создать общекорпоративную базу данных скрытых, но отслеживаемых идентификаторов устройств для телефонов и IP-адресов, которые использовались для совершения нарушений конфиденциальности, безопасности и других правил, включая ссылки на сообщения и действия, которые послужили основанием для решения. каталогизировать человека и устройство.

Компании также должны рассказать, как алгоритмы используются для модерации контента, а также подробно рассказать о своих мерах защиты, чтобы избежать предвзятости (исследовать указывает на то, что, например, автоматическое обнаружение разжигания ненависти демонстрирует расовую предвзятость и может усилить вред, причиненный расовой принадлежностью). Как минимум, компаниям будет запрещено принимать платежи от террорист группы, желающие подтвердить учетные записи в социальных сетях, как обнаружил проект Tech Transparency Project X (ранее Twitter).

Люди часто забывают, сколько контента уже происходит в социальных сетях, включая запреты на детскую порнографию, спам-фильтры и блокировку отдельных учетных записей, например той, которая отслеживала Частный самолет Илона Маска. Регулирование этих частных компаний с целью предотвращения преследований, вредоносного обмена данными и дезинформации является необходимым и естественным расширением безопасности, конфиденциальности и опыта пользователей.

Защита конфиденциальности и безопасности пользователей требует исследований и понимания того, как работают компании социальных сетей, как были написаны их текущие политики и как исторически принимались и исполнялись их решения по модерации контента. Группы безопасности, члены которых выполняют важную работу по модерации контента и обладают жизненно важными инсайдерскими знаниями, недавно были сокращены в таких компаниях, как Амазонка, Твиттер и Google. Эти увольнения, а также рост числа людей, делающих карьеру в сфере технологий, но обнаруживающих неопределенность в частном технологическом секторе, оставляют на рынке труда множество людей, обладающих навыками и знаниями для решения этих проблем. Их могло бы нанять новое агентство для разработки практических и эффективных решений.

Технологическое регулирование — редкий вопрос, который пользуется поддержкой обеих партий. А в 2018 году Конгресс создал агентство по защите кибербезопасность правительства. Он может и должен создать еще один регулирующий орган для борьбы с угрозами, исходящими как от устаревших, так и от новых технологий отечественных и иностранных компаний. В противном случае мы просто будем продолжать испытывать одну катастрофу в социальных сетях за другой.

Аника Коллиер Навароли — журналист, юрист и старший научный сотрудник Центра цифровой журналистики Tow при Школе журналистики Колумбийского университета. Она также является бывшим высокопоставленным политическим чиновником в Twitter и Twitch. Эллен К. Пао — технологический инвестор и защитник, бывший генеральный директор Reddit и соучредитель отмеченной наградами некоммерческой организации Project Include, занимающейся вопросами разнообразия и инклюзивности.