Персонал ФП3 октября 2022 г., 13:39:02 IST
Мета-владелец Instagram часто сталкивался с обвинениями в том, что платформа наносит ущерб психическому здоровью многих молодых людей и подростков и что она недостаточно делает для того, чтобы люди в определенных возрастных группах получали определенные виды сообщений в их корма.
Теперь Instagram официально указан коронером в качестве причины смерти по делу 14-летней девочки по имени Молли Рассел, которая покончила жизнь самоубийством в 2017 году.
Одним из ключевых моментов, на котором сосредоточено судебное разбирательство, является тот факт, что Молли, девушка, покончившая с собой, просмотрела тысячи постов на такие платформы, как Instagram и Pinterest, пропагандирующие членовредительствопрежде чем покончить с собой.
Коронер, давший показания по делу, Эндрю Уокер, в какой-то момент описал контент, который Рассел любил или сохранял за несколько дней до ее смерти, как настолько тревожный, что он счел его «практически невозможным для просмотра».
В своих показаниях в качестве коронера Уокер пришел к выводу, что смерть Рассела нельзя считать самоубийством. Вместо этого он описал ее причину смерти как «акт членовредительства во время страдания от депрессии и негативных последствий онлайн-контента».
Уокер пришел к такому выводу, основываясь на активном использовании Расселом Instagram, которое включало лайки, обмен или сохранение 16 300 постов в течение шести месяцев до ее смерти, а также около 5 793 пинов на Pinterest за тот же период времени, что, в сочетании с тем, как платформы обслуживали контент, способствующий депрессивному состоянию Рассела, усугубляло ее положение.
«Платформы работали таким образом, используя алгоритмы, что в некоторых случаях это приводило к периодам переедания изображений, видеоклипов и текста», которые «романтизировали акты членовредительства» и «стремились изолировать и препятствовать обсуждению с теми, кто могли бы помочь», — сказал Уокер.
Чтобы заставить пользователей проводить больше времени в своем приложении, такие платформы, как Instagram и Pinterest, курируют ленту пользователя таким образом, чтобы она показывала только то, к чему пользователь мог проявить хотя бы небольшой интерес. Интерес измеряется. по времени, затраченному на публикацию, была ли запись лайкнута или сохранена, была ли публикация обработана с использованием комментариев и т. д. Алгоритм Instagram не принимает во внимание характер публикации, а также не учитывает возраст пользователя, который взаимодействует с постом. Это, как утверждают защитники, является одной из самых больших областей где модерация контента подвела пользователей.
Свидетельство Уокера вновь поднимает вопрос, который защитники безопасности детей задавали в течение многих лет: насколько ответственны платформы социальных сетей за алгоритмы контента, которыми скармливают несовершеннолетним, и почему вообще несовершеннолетним разрешают пользоваться платформой?
Согласно отчету Bloomberg, адвокат семьи Расселов потребовал, чтобы Уокер «отправил инструкции о том, как предотвратить повторение этого в Pinterest, Meta, правительству Великобритании и регулятору связи». В своем заявлении семья призвала регулирующие органы Великобритании быстро принять и обеспечить соблюдение Закона Великобритании о безопасности в Интернете, который может установить «новые меры безопасности для молодых пользователей во всем мире».
Во время судебного разбирательства Pinterest и Meta использовали разные подходы для защиты своей политики. Pinterest заявил, что у него нет технологии для более эффективной модерации контента, с которым познакомилась Молли. С другой стороны, глава отдела здоровья и благополучия Meta Элизабет Лагон заявила суду, что контент, который просматривала Молли, считался «безопасным» по стандартам Meta. Официальный ответ Меты разозлил семью Расселов.
«Мы слышали, как высокопоставленный исполнительный директор Meta описал этот смертоносный поток контента, который алгоритмы платформы передали Молли, как «БЕЗОПАСНЫЙ» и не противоречащий политике платформы. Если бы этот безумный след высасывающего жизнь контента был в безопасности, моя дочь Молли, вероятно, была бы жива», — написала семья Расселов в своем заявлении.
Они также добавили: «Сегодня впервые технологические платформы официально признаны ответственными за смерть ребенка. В будущем мы, как семья, надеемся, что любые другие компании социальных сетей, призванные помочь расследованию, последуют примеру Pinterest, которые предприняли шаги, чтобы извлечь уроки и искренне и уважительно участвовали в процессе расследования».
