Meta, TikTok и другие согласны с рейтингами безопасности подростков

Meta, TikTok и Snap будут оценены за усилия по обеспечению безопасности подростков на фоне растущей обеспокоенности по поводу того, делают ли крупнейшие в мире социальные сети достаточно для защиты психического здоровья молодых людей.

Коалиция психического здоровья, коллектив организаций, занимающихся дестигматизацией проблем психического здоровья, заявила во вторник, что запускает стандарты и новую систему рейтингов для онлайн-платформ. Для Стандарты безопасного онлайна (SOS), независимая группа мировых экспертов будет оценивать компании по таким параметрам, как правила безопасности, дизайн, модерация и ресурсы психического здоровья.

TikTok, Snap и Meta — материнские компании Facebook и Instagram — станут первыми компаниями, получившими оценку. Discord, YouTube, Pinterest, Roblox и Twitch также согласились участвовать, говорится в пресс-релизе коалиции.

«Эти стандарты предоставляют общественности значимый способ оценить защиту платформ и привлечь компании к ответственности — и мы с нетерпением ждем, когда больше технологических компаний подпишутся на оценки», — заявила в своем заявлении Антигона Дэвис, вице-президент и глобальный руководитель отдела безопасности Meta.

Руководители TikTok и Snap также выразили свою приверженность онлайн-безопасности.

Родители, законодатели и правозащитные группы годами критиковали онлайн-платформы за то, защищают ли они безопасность миллиардов пользователей. Несмотря на наличие правил относительно того, какой контент пользователям запрещено публиковать, им приходится модерировать вредный контент о членовредительстве, расстройствах пищевого поведения, наркотиках и многом другом.

Между тем, технологии продолжают играть все большую роль в жизни людей.

Рост чат-боты на базе искусственного интеллекта усилился психическое здоровье опасения, поскольку некоторые подростки обращаются к технологиям для общения. Компании также столкнулись с шквалом судебных исков по поводу безопасности в Интернете.

На этой неделе в Лос-Анджелесе стартовал широко обсуждаемый судебный процесс по вопросу о том, могут ли технологические компании, такие как Instagram и YouTube, быть привлечены к ответственности за предположительное продвижение вредного продукта и пристрастие пользователей к их платформам.

TikTok и Snap, материнская компания приложения Snapchat для исчезающих сообщений, согласились на нераскрытую сумму, чтобы избежать судебного разбирательства.

Во вступительном слове один из адвокатов, представляющих женщину из Калифорнии, которая утверждает, что в детстве она пристрастилась к YouTube и Instagram, сказал, что эти продукты были созданы, чтобы вызывать привыкание.

Технологические компании отвергли обвинения, выдвинутые в иске, и заявляют, что внутренние документы искажаются, чтобы представить их злодеями, хотя есть и другие факторы, такие как детские травмы, которые приводят к проблемам психического здоровья некоторых из их пользователей.

Ожидается, что генеральный директор Meta Марк Цукерберг даст показания на суде в Лос-Анджелесе. На этой неделе также начался еще один судебный процесс по иску, в котором утверждается, что Мета не смогла защитить детей от сексуальной эксплуатации и нарушила законы Нью-Мексико о защите прав потребителей.

Новые рейтинги были также объявлены во вторник в День безопасного Интернета — глобальную кампанию, пропагандирующую ответственное использование технологий, особенно среди молодежи. Компании во вторник, такие как Google, рассказали о некоторых работах, которые они проделали в области безопасности, включая родительский контроль, позволяющий установить ограничения по времени для прокрутки коротких видеороликов.

Рейтинги будут иметь цветовую маркировку, а компании, которые хорошо справятся с тестами, получат значок синего щита, который сигнализирует о том, что они помогают уменьшить вредный контент на платформе и их правила ясны. Те, кто не справится с этой задачей, получат красный рейтинг, указывающий на то, что они не надежно блокируют вредоносный контент или не имеют надлежащих правил. Рейтинги других цветов указывают на то, имеют ли платформы частичную защиту или их оценка еще не завершена.

«Создавая общую систему подотчетности, SOS помогает нам перейти к онлайн-пространству, которое лучше поддерживает психическое здоровье и благополучие», — заявил в своем заявлении Кеннет Коул, модельер, основавший Коалицию психического здоровья.

На сайте SOS говорится, что технологические компании не повлияли на разработку новых стандартов и не финансируют проект. Однако Коалиция психического здоровья ранее объединялась с Метой по другим инициативам. Meta и Google также указаны как «творческие партнеры» на сайте коалиции.

Коалиция, базирующаяся в Нью-Йорке, не сразу ответила на электронное письмо с вопросом о ее финансировании.

Компании опубликовали свои онлайн-правила и данные по модерации контента. Желающие принять участие в проекте добровольно передают документы о политиках, инструментах и возможностях продукта.