Twitter, TikTok и Google столкнулись с юридическими угрозами со стороны комиссара по электронной безопасности Австралии, который требует информацию о том, что они делают для борьбы с подлой торговлей материалами об эксплуатации детей на своих платформах.
Ключевые моменты:
-
Пять социальных сетей получили требования объяснить свою практику, чтобы избежать распространения материалов о сексуальной эксплуатации детей.
-
Компаниям пригрозили ежедневными штрафами до 700 000 долларов, если они не уложатся в сроки.
-
Комиссар по электронной безопасности сказал, что предыдущие попытки получить информацию от компаний были трудными.
Юридические уведомления были отправлены компаниям, а также Twitch и Discord в среду днем, вместе с крайним сроком в 35 дней для ответа или ежедневных штрафов в размере до 700 000 долларов.
«Мы буквально годы спрашивали ряд этих платформ: что вы делаете, чтобы заблаговременно обнаруживать и удалять материалы о сексуальном насилии над детьми?» Комиссар по электронной безопасности Джули Инман Грант сказала ABC.
«И мы получили то, что я бы назвал, знаете ли, не совсем радикальной прозрачностью».
Это второй раз, когда комиссар выдает такие юридические уведомления, преследуя Microsoft, Apple и Meta — материнскую компанию Facebook, Instagram и WhatsApp — в прошлом году.
Г-жа Инман Грант сказала, что были искренние опасения по поводу того, как технологические гиганты отслеживают вредоносные материалы на своих сайтах, особенно на таких платформах, как Twitter, который стал предметом серьезной критики с тех пор, как его захватил миллиардер Илон Маск.
«Это не рыболовная экспедиция. На это было потрачено много исследований и ресурсов», — сказала она.
«С первым набором основных уведомлений об ожиданиях в отношении безопасности в Интернете… у нас было много подозрений относительно того, что делают некоторые из крупных игроков, таких как Apple, Microsoft и Meta.
«Это на самом деле подтвердило, что мы на самом деле не понимаем всех масштабов и масштабов сексуальной эксплуатации детей, которые могут иметь место в обычных облачных сервисах и почтовых службах, которые мы используем каждый день».
Microsoft не использует собственный инструмент обнаружения
Комиссар сказал, что Microsoft разработала инструмент, известный как PhotoDNA, для обнаружения и удаления таких материалов.
«Они даже не ели свой собачий корм, как мы говорим в технологической индустрии», — сказала г-жа Инман Грант.
«Они не использовали его в ряде своих сервисов, таких как OneDrive, Skype и некоторых других платформах, таких как Hotmail».
Microsoft была не единственной целью критики комиссара.
«Apple не ищет iCloud, и у них есть миллиарды мобильных телефонов, подключенных к iMessage и iCloud, — сказала г-жа Инман Грант.
«Они сообщили в [United States] Национальный центр пропавших без вести эксплуатируемых детей 800 случаев сексуального насилия над детьми.
«Напротив, Meta сообщила о 29 миллионах штук. Так что, чтобы отдать должное Meta, по крайней мере, они сканируют его, находят и пытаются удалить».
Федеральный министр связи Мишель Роуленд заявила, что Австралия является мировым лидером в выдвижении таких требований к технологическим компаниям.
«Мы должны признать, что Австралия действительно является мировым лидером в этой области», — сказала она.
«Это была область двухпартийности, и мы знаем, что, хотя мы были первопроходцами, у нас также есть другие страны — особенно в нашем регионе — которые хотят сделать больше в этой области».
Обнаружены алгоритмы, рекомендующие сексуальный контент
Майкл Солтер, адъюнкт-профессор криминологии Университета Нового Южного Уэльса, сказал, что проблема «усугубляется с каждым годом».
«Крупные социальные сети разработали свои услуги и платформы с очень небольшим количеством эффективных мер по защите детей», — сказал он.
Доктор Солтер утверждал, что технологические компании усугубляют ситуацию.
«Очень часто они используют алгоритмы, чтобы активно рекомендовать этот контент, и у нас были ситуации, когда алгоритмы социальных сетей активно рекомендовали сексуальный контент детей, сексуальный интерес к детям», — сказал он.
«Хотя технологические компании и компании, работающие в социальных сетях, всегда будут говорить, что у них нулевая терпимость к сексуальной эксплуатации детей, факт в том, что часто мы не видим, чтобы они выполняли элементарные действия.
«Они не используют алгоритмы и ИИ, чтобы, например, обнаруживать груминг. И есть способы автоматического обнаружения груминга с точки зрения типов слов, которые используют правонарушители, видов сигналов, которые они используют. “
«Нулевая терпимость к хищническому поведению»
ABC связалась с пятью участвующими компаниями для получения комментариев.
В своем заявлении старший менеджер Google по делам правительства и общественной политике заявил, что материалам о сексуальном насилии над детьми не место на платформах компании.
«Мы используем ряд стандартных методов сканирования, включая технологию сопоставления хэшей и искусственный интеллект, для выявления и удаления материалов о сексуальном насилии над детьми, которые были загружены в наши службы», — сказала Саманта Йорк.
«Мы тесно сотрудничаем с Комиссаром по электронной безопасности, Национальным центром пропавших без вести и эксплуатируемых детей в США и другими агентствами по всему миру для борьбы с такого рода злоупотреблениями».
TikTok также ответил и заявил, что у него «подход с нулевой терпимостью к хищническому поведению и распространению материалов о сексуальном насилии над детьми, а также к другому контенту, который потенциально ставит под угрозу безопасность несовершеннолетних».
«У нас есть более 40 000 специалистов по безопасности по всему миру, которые разрабатывают и обеспечивают соблюдение наших политик, а также создают процессы и технологии для обнаружения, удаления или ограничения недопустимого контента в масштабе», — сказал менеджер по политике страны Джед Хорнер.
Discord подтвердил, что получил уведомление от уполномоченного по электронной безопасности и отреагирует на запрос.
«Мы абсолютно нетерпимы к контенту, который угрожает безопасности детей в Интернете, и твердо верим, что этому типу контента нет места на нашей платформе или где-либо в обществе», — заявил представитель.
«Это очень важная область для всех нас в Discord, и мы разделяем приверженность офиса созданию безопасного и позитивного опыта в Интернете».
