Home » Модерация Meta не работает, и людей убивают

Модерация Meta не работает, и людей убивают

6 июля 2020 года, когда известный иракский историк Хишам аль-Хашими шел к своей машине возле своего дома в восточном Багдаде, группа боевики мчались к нему на мотоциклах и стреляли пять раз в упор. К тому времени, когда он добрался до больницы, аль-Хашими был мертв.

Аль-Хашими часто откровенно критиковал военизированные группы страны. глубоко связаны с различными властными группировками Иракаот ИГИЛ до правительственных и оппозиционных политиков.

В месяцы, предшествовавшие его смерти, вирусные посты в Facebook и других социальных сетях сайты обвинили аль-Хашими в шпионаже в пользу американских, израильских или британских сил, а также в заговоре с целью дальнейшей дестабилизации Ирака. В то время Ирак переживал крупнейшее гражданское восстание в стране со времен вторжения США в 2003 году.

Аль-Хашими знал, что один из его ближайших друзей, Аус аль-Саади, основатель некоммерческой организации Tech4Peace, был «доверенным партнером» Meta и имел прямую связь с компанией, чтобы помочь удалить контент, такой как угрозы его жизни. В сентябре 2019 года аль-Хашими обратился к аль-Саади, чтобы спросить, может ли он помочь удалить вредоносные посты, нацеленные на него, в Facebook.

Текстовые сообщения между Aws и Hashimi

Хишам аль-Хашими обратился к своему другу Авсу аль-Саади, доверенному партнеру Meta, с просьбой удалить сообщения, угрожающие его жизни.

Фото предоставлено Авсом аль-Саади



Аль-Саади сделал все, что мог, но ответы Меты были непоследовательными. Некоторые посты были удалены в течение дня, а другие продержались целую неделю.

Один пост от апреля 2019 года, в котором ошибочно утверждалось, что аль-Хашими был лидером «Аль-Каиды», так и не был удален. Аль-Саади отметил это, но Мета ответил, что публикация не нарушает политику компании.

6 июля 2020 года, в день смерти аль-Хашими, аль-Саади ответил: «Они убили его сейчас».

«Одной из причин его убийства была Мета», — сказал аль-Саади Insider.

В черновике отчета указано, что проблемы в сети доверенных партнеров Meta слишком распространены.

Аль-Саади не одинок. Facebook и его материнская компания Meta столкнулись с жесткой критикой за то, что не смогли должным образом модерировать платформу.

Во многих странах Meta полагается на отчеты местных групп гражданского общества и экспертов, чтобы отметить ненавистнические высказывания и дезинформацию в Facebook. Программа доверенных партнеров набрала обороты в конце 2010-х годов после того, как Meta подверглась критике за свою роль в распространении геноцида в Мьянме, и теперь фирма считает эту программу важной для своей стратегии модерации в политически напряженных странах, таких как Ирак.

В черновом отчете некоммерческой организации Internews, полученном Insider через доверенного партнера, сделан вывод о том, что упущения в программе доверенных партнеров Meta подвергают людей серьезному риску.

Internews также является одним из крупнейших партнеров Meta и получает финансирование от Meta для различных проектов.

Мета не ответила на просьбу прокомментировать ни смерть аль-Хашими, ни отчет Internews.

Однако он предоставил три страницы ответов на вопросы «Интерньюс», которые были включены в проект отчета. В этих комментариях Meta признала, что COVID-19 «серьезно повлиял» на ее деятельность, что «привело к плохой отчетности» для ее доверенных партнеров с 2019 по 2021 год.

«В течение этого периода наши группы по проверке контента работали с ограниченными возможностями и не могли так быстро реагировать на отчеты доверенных партнерских каналов, как нам хотелось бы и как они делали это в прошлом», — заявили в компании. «В этих сложных обстоятельствах мы отдали предпочтение наиболее опасному контенту для проверки нашими командами, например, риску неминуемого физического вреда или насилия».

Ставки здесь – защита людей, то, как страны могут поддерживать свои политические системы, или риски для здоровья населения. Пол Барретт, заместитель директора Центра бизнеса и прав человека, Школа бизнеса Стерна при Нью-Йоркском университете

Meta добавила, что время отклика улучшилось в 2022 году и ожидается, что время действия составит от одного до пяти дней. Более сложные случаи — Мета говорит, что отчеты доверенных партнеров часто сложны — время ответа может быть больше.

По его словам, в программе доверенных партнеров Meta участвуют 465 организаций, и у нее есть как минимум один доверенный партнер в 122 странах. Meta, которая ранее сообщила Insider, что программа была запущена в 2012 году, в своих комментариях Internews заявила, что не формализовала свои процессы до 2019 года.

Отчет Internews перекликается с результатами инсайдерского расследования, проведенного в начале этого года, которое показало, как Мета игнорировала или катастрофически запаздывает с реагированием на сигналы тревоги, подаваемые его доверенными партнерами в Эфиопии, поскольку в стране шли два насильственных конфликта.

Ответы Meta доверенным партнерам по всему миру были «хаотичными».

Отчет, основанный на опросе 24 доверенных партнеров, включая аль-Саади, предполагает, что доверенные партнеры, работающие по всему миру, сталкиваются с серьезными задержками и «беспорядочным» временем отклика при пометке разжигания ненависти и другого вредоносного контента, а также неизбежных угроз. к жизни людей.

В отчете говорится, что партнеры иногда ждали ответа от Meta неделями, а то и месяцами. В некоторых случаях партнеры вообще не получали ответов. Разочарование в связи с этим привело к тому, что некоторые партнеры отказались от программы.

Аль-Саади и другие партнеры нашли обходной путь: обратились напрямую к личным контактам в Meta через WhatsApp или Signal, что часто имело больший успех, чем выделенный канал отчетности для доверенных партнеров.

Пол Барретт, заместитель директора Центра бизнеса и прав человека в Школе бизнеса Стерна Нью-Йоркского университета, сказал, что последствия игнорирования Meta своих доверенных партнеров слишком часто были ужасными.

«Ставки здесь — это защита людей, то, как страны могут поддерживать свои политические системы, или риски для здоровья населения», — сказал Барретт.

Партнеры участвуют в изучении всего, от разжигания политической ненависти и дезинформации до дезинформации о вакцинах.

Единственным исключением была Украина. Там, как говорится в отчете, партнеры испытали лучшее время отклика от Meta, в среднем около 72 часов. Напротив, во время войны в районе Тыграй в Эфиопии партнеры могли ждать месяцами и не получать никакого ответа.

Я думаю, разумно сказать, что если бы партнеры были более довольны программой, они бы сообщали о ней чаще. Рафик Коупленд, старший советник по вопросам глобальной ответственности платформы в Internews

Рафик Коупленд, старший советник Internews и один из авторов отчета, сказал, что Meta не объяснила разницу во времени ответов для украинских и эфиопских партнеров.

«Я думаю, мы должны исходить из того, что это вопрос приоритетов и ресурсов», — сказал Коупленд.

В отчете Internews также говорится, что эти отказы от ответа доверенным партнерам и удаления контента могут быть частично связаны с программа «значительно недофинансирована и недоукомплектована персоналом», проблема, которая усугубилась недавними увольнениями компании.

Internews обнаружил, что участие в программе доверенных партнеров во многих случаях увеличивало риски для самих доверенных партнеров, что подтверждает истории нескольких доверенных партнеров в Эфиопия, которая рассказала Insider, что им угрожали смертью в результате их работы.

Надежные партнеры по всему миру отказываются от программы

В ответ на смерть аль-Хашими в Ираке в электронных письмах, просмотренных Insider, Мета выразил соболезнования и попросил аль-Саади принять участие во встрече, на которой он мог бы предоставить компании больше отзывов о ее процессах.

На встрече, обезумев от смерти своего друга, аль-Саади сказал, что сказал компании: «Почему вы спрашиваете мое мнение, если вы ничего не собираетесь с этим делать?»

В течение следующих нескольких недель, охваченный грустью и сомнениями в том, что он мог бы сделать по-другому, он временно отказался сообщать о содержании.

Протестующий проходит мимо плаката Хишама аль-Хашими

Иракский демонстрант проходит мимо плаката Хишама аль-Хашими в Багдаде.

Тайер Аль-Суданезе



Internews сообщает, что доверенные партнеры отправляли в Meta только около 1000 отчетов в месяц.

«Партнеры, с которыми мы разговаривали, были шокированы, когда услышали это число», — сказал Копленд, который признал, что это может быть занижением, поскольку отчеты, поданные по неофициальным каналам, таким как WhatsApp или Signal, не учитывались. «В основном потому, что они предполагали, что медленное время отклика связано с большим объемом дел».

Не все эти случаи рассматриваются.

«Когда мы видим только 33 случая в день, это говорит нам о том, что сбои системы не связаны напрямую с объемом», — сказал Коупленд.

Одним из объяснений такого низкого показателя может быть то, что партнеры не используют программу из-за своего плохого опыта работы с ней.

«Я думаю, разумно сказать, что если бы партнеры были более довольны программой, они бы сообщали о ней чаще», — сказал Коупленд.

У Meta нет возможности, чтобы доверенные партнеры могли легко передавать отчеты, когда чья-то жизнь находится в опасности.

В отчете говорится, что политика Meta была непрозрачной и непоследовательной, когда партнеры помечали посты с угрозами в адрес активистов, журналистов или других правозащитников. Иногда партнеры получали ответы о том, что никаких действий предприниматься не будет. Но когда они обращались через личный контакт в Meta, эти решения часто отменялись.

Инсайдер ранее сообщал, что Доверенный партнер из Эфиопии отметил риск вирусной ненависти к профессору Мирегу Амаре как через канал доверенного партнера, так и через последующие масштабные встречи с Meta, но платформа не сработала. Этот расследование теперь является важным доказательством в иске о разжигании ненависти на сумму 1,6 миллиарда долларов. против фейсбука.

В феврале сам аль-Саади стал мишенью вирусной дезинформации, в которой утверждалось, что он был американским коллаборационистом, работающим над дестабилизацией Ирака. Как и в случае с его другом аль-Хашими, он знал, что такие обвинения могут поставить под угрозу его жизнь. Аль-Саади сообщил о сообщениях в Meta 17 февраля. Неделю спустя он передал проблему личному контакту в Meta, который сказал, что изучит ее, но не принял никаких мер. Посты были удалены 18 апреля, через два месяца после того, как о них впервые сообщили.

Аус аль Саади в Эрбиле

Aws al Saadi, доверенный партнер Meta, за пределами Эрбильской цитадели в Ираке.

Аус аль Саади



«Необходима система управления делами, которая позволяет быстро выявлять и решать действительно срочные дела, которых так или иначе не существует», — сказал Коупленд.

Если бы он все еще был в Ираке, сказал аль-Саади, который сейчас живет в Нидерландах, он бы больше опасался за свою жизнь.

«Вы смеетесь, но в то же время вы плачете об этом», — сказал он.

Партнеры призывают к капитальному ремонту системы

Коупленд по-прежнему надеется, что Meta реформирует программу доверенных партнеров. Internews сообщил, что Meta необходимо переработать программу для более прямого сотрудничества со своими доверенными партнерами.

Internews надеется, что это может помочь создать канал доверенных партнеров с улучшенной коммуникацией, большей прозрачностью и более быстрым временем отклика.

«Я думаю, что Meta должна взять на себя обязательство по реформированию и подлинному кодированию программы», — сказал Коупленд. «Пока что мы не видели этого обязательства, но работа продолжается».

Дополнительная отчетность по Рим Махул

2023-06-21 23:00:23


1687401606
#Модерация #Meta #не #работает #людей #убивают

Read more:  Сюрприз Станкович: «Интер как Наполи, ничего не могу объяснить!» - Неаполитанское пространство

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.