Регулятор Великобритании угрожает технологическим гигантам аудитом алгоритмов для защиты детей

Будьте в курсе бесплатных обновлений

Просто зарегистрируйтесь в Технологический сектор myFT Digest — доставляется прямо на ваш почтовый ящик.

Технологические компании будут подвергаться аудиту алгоритмов социальных сетей, используемых для продвижения того, что дети могут видеть в своих лентах, на следующем этапе репрессий в соответствии с Законом Великобритании о безопасности в Интернете.

В интервью Financial Times глава Ofcom Мелани Доус предупредила компании, занимающиеся социальными сетями, что им грозят принудительные меры, если они не смогут доказать, что их алгоритмы не позволяют лицам младше 18 лет видеть вредоносный контент.

Она также сообщила, что британский регулятор СМИ провел переговоры с технологическими группами США о том, как новые модели искусственного интеллекта подпадают под действие Закона о безопасности в Интернете, при этом Ofcom хочет, чтобы проверка возраста была встроена, чтобы дети не подвергались воздействию вредного или порнографического контента. из чат-ботов или генеративные инструменты искусственного интеллекта.

Ofcom начал применять ряд новых строгих правительственных ограничений, введенных Законом о безопасности в Интернете в июле, включая требование к любой технологической платформе социальных сетей, содержащей материалы для взрослых, запрещать детям доступ к ним.

Доус сказал, что закон работает: основные социальные сети и сайты для взрослых ввели проверку возраста. В Великобритании заблокированы или больше не доступны более 12 сайтов высокого риска, в том числе два форума суицидистов и как минимум пять порносайтов. Ofcom также наложила свой первый штраф за несоблюдение требований на американскую доску объявлений 4Chan, основанную на изображениях.

Доус сказал, что Ofcom теперь активизирует усилия, чтобы «подтолкнуть их к тому, что они не очень хотят делать».

По ее словам, модерация контента алгоритмически управляемых каналов и рекомендаций для таких сайтов, как YouTube, Roblox и Facebook, будет тщательно проверяться на предмет контента для взрослых.

“Изменили ли они способ работы алгоритмов, чтобы детям не показывали этот материал? Для нас это большое внимание”, – сказала она. «[Are there] введены меры защиты от груминга, чтобы детские каналы принимали только детские профили и не могли напрямую передавать сообщения людям, которых они не знают?»

В рамках этой работы Ofcom может поручить техническим сайтам провести «алгоритмический аудит» этих каналов. «В ближайшие несколько месяцев вы можете увидеть от нас какие-то принудительные меры, если мы не начнем получать ответы, которые мы ищем в отношении алгоритмической стороны вещей», — добавил Доус.

Она сказала, что в этом акте был «хороший прогресс на начальном этапе, но впереди очень, очень, очень долгий путь… мы пытаемся повернуть вспять пару десятилетий, когда Интернет был слеп к возрасту».

Недавно Доус посетил фирмы в Калифорнии, чтобы поговорить о правилах, в том числе о том, как они связаны с разрабатываемыми платформами искусственного интеллекта. Уже были случаи, когда чат-боты с искусственным интеллектом давали проблемные ответы, а сейчас генеративный искусственный интеллект используется для создания порнографического контента.

«[The US trip] абсолютно ясно дал понять, что в рамках OSA новые услуги должны подвергаться надлежащей оценке рисков, включая искусственный интеллект», — сказала она.

Доус сказал, что Ofcom уже поддерживает отношения с OpenAI, которая согласилась с тем, что ChatGPT подпадает под действие этого закона. Отвечая на вопрос Грока из X, Доус сказал, что «X — это услуга, которую мы регулируем, а чат-боты часто оказываются услугами между пользователями и, следовательно, попадают под действие закона».

Она добавила: “Одна из особенностей генеративного искусственного интеллекта заключается в том, что не всегда возможно предсказать, что он будет делать и что он скажет, и поэтому безопасность необходимо учитывать заранее. Индустрия не поняла это правильно 20 лет назад, когда впервые были запущены социальные сети”.

Ofcom стал мишенью для правых лоббистских групп из США, а также для политиков-республиканцев, учитывая то, что они считают угрозой свободе слова в соответствии с этим законом.

Политики-республиканцы, в том числе сенатор Скотт Фицджеральд и конгрессмен Джим Джордан, обвинили Закон о безопасности в Интернете в том, что он является «законом о цензуре», и эта тема поднималась в торговых переговорах между США и Великобританией.

Доус отказался комментировать публикацию в социальных сетях американского миллиардера Илона Маска, в которой говорится, что «Гражданская война в Британии неизбежна». Его платформа X заявила, что Закон о безопасности в Интернете рискует «серьезно ущемить» свободу слова.

Доус подтвердил, что Ofcom встретился с юридическим комитетом Палаты представителей в июле, заявив, что органы ведут «гражданский и конструктивный диалог». Она добавила, что, как и в Великобритании, где мотивация защиты детей в соответствии с этим законом остается популярной, в Вашингтоне «есть большая поддержка защиты детей в Интернете».

Она сказала: “Мы здесь, чтобы принести пользу британской общественности. В этой стране существует большая общественная поддержка изменений, которые мы пытаемся осуществить. Во всяком случае, люди просят нас делать больше и быстрее”.

Трафик на порносайты увеличился упал примерно на треть в Великобритании, поскольку в июле были приняты меры по обеспечению возраста. Однако более крупные порногруппы предупреждают, что интернет-пользователи переходят на более мелкие и менее добросовестные сайты, которые игнорируют закон.

Доус признал, что «явно есть некоторые сайты, которые не соблюдают требования, и в результате у некоторых из них их бизнес растет», но сказал, что «мы работаем над обеспечением соблюдения требований».

Ofcom в настоящее время проводит 69 расследований в отношении веб-сайтов, которые не соответствуют правилам, но это лишь малая часть от десятков тысяч сайтов для взрослых.

По словам Дауэса, количество случаев использования виртуальных частных сетей для обхода мер по обеспечению возраста (за счет создания видимости, что пользователь выходит в Интернет из-за пределов Великобритании) первоначально удвоилось примерно до 1,5 млн, но с тех пор сократилось примерно до 1 млн.

Она сказала, что сайты для взрослых не сообщали о всплеске использования VPN, но Ofcom будет проводить работу, чтобы выяснить, используют ли дети VPN.