Как мы можем обеспечить безопасность детей, пока ИИ меняет Интернет?

Инструменты искусственного интеллекта становятся частью повседневной жизни детей, чья жизнь уже полностью цифровая: игры, социальные сети, обмен сообщениями и обучение проходят через онлайн-платформы.

Исследование Pew Research обнаружило, что 64% подростков говорят, что используют чат-бота с искусственным интеллектом, а трое из 10 говорят, что используют его каждый день. Помимо чат-ботов, в приложения и каналы, на которые они уже напрямую полагаются, встроены функции искусственного интеллекта, например, инструменты, создающие сказки на ночь для самых маленьких, или расширения браузера, которые выдают ответы в онлайн-викторинах..

Такая скорость внедрения имеет значение, поскольку меры защиты, грамотность и управление отстают. Дети все еще развивают критическое мышление, контроль над импульсами и социальную идентичность, и у них меньше возможностей понимать непрозрачные системы, убедительный дизайн или методы работы с данными. ИИ может усилить привычный онлайновый вред от преследований, выдачи себя за другое лицо и эксплуатации, а также привнести новые риски: от реалистичных синтетических медиа до автоматизированного ухода и ИИ-компаньонов, которые стирают здоровые границы.

Знаменитые подростковые социальные сети Австралии Запрет в конце прошлого года попал в заголовки газет, но другие правительства, в том числе Соединенное Королевство, Сингапур и Испания, отреагировали волной мер онлайн-безопасности, включая более жесткие пошлины для платформ и дебаты по поводу обеспечения возраста. Эта тема также занимала важное место в повестке дня Ежегодного собрания Всемирного экономического форума 2026 года, где лидеры обсудили благополучие молодежи в гиперсвязанном мире.

Отчет о глобальных рисках 2026 г. подчеркивает растущие риски, связанные с технологиями: онлайн-вред займет 12-е место в течение следующих двух лет, а неблагоприятные последствия технологий искусственного интеллекта — 5-е место в течение следующих 10 лет. Идея проста: безопасность детей в Интернете в эпоху искусственного интеллекта является главным приоритетом.

Команды доверия и безопасности уже давно боролись со знакомым набором онлайн-вредов, затрагивающих детей и подростков, такими как киберзапугивание и преследование, ухаживание и приманка, материалы о сексуальном насилии над детьми (CSAM), ненависть и экстремизм, мошенничество, а также подвергание членовредительству или сексуальному контенту. Что изменилось, так это скорость, масштаб и реализм, которые может добавить ИИ.

То, что когда-то требовало технических знаний, теперь может быть сделано отдельными людьми, используя широко доступные инструменты. Генеративный искусственный интеллект можно использовать для создания высокореалистичных изображений, снижая барьеры для создания и распространения незаконного контента и увеличивая объем контента, который должны проверять модераторы и следователи.

Масштаб перемен уже виден. Фонд Internet Watch Foundation (IWF) сообщил рост на 26,362% в фотореалистичных видеороликах искусственного интеллекта о сексуальном насилии над детьми, часто включая реальных и узнаваемых детей-жертв в 2025 году, и предупредил, что большая часть этих материалов носит экстремальный характер. Правоохранительные органы также реагирование на CSAM, созданный ИИ распределительные сети; однако синтетический CSAM может затруднить выявление реальных жертв, отслеживание исходных исходных материалов и определение приоритетности срочных спасательных операций, что усложняет расследования, даже если контент полностью создан искусственным интеллектом.

Данные показывают также резкий рост онлайн-переманивания и финансового вымогательства. Инструменты «обнажения» с поддержкой искусственного интеллекта и дипфейк обнаженной натуры превращают обычные фотографии в сексуальные образы, усиливая преследования и унижения, часто в школьном контексте и нацеленные на девочек. ИИ делает эту динамику более масштабируемой: от имитации сверстников до явного создания изображений.

Системы искусственного интеллекта созданы для того, чтобы быть быстрыми и полезными, а это качества, которые могут выглядеть авторитетными. Из-за риска галлюцинаций, упрощений или воспроизводимой предвзятости дети могут быть уязвимы к чрезмерное доверие к разговорному ИИ и могут упускать из виду такие ограничения, как пробелы в эмпатии или тонкие неточности. Для детей, которые все еще развивают грамотность и критическое мышление, уверенные, но неправильные результаты ИИ могут дезинформировать обучение, формировать убеждения и искажать процесс принятия решений, особенно когда ИИ рассматривается как наставник, поисковая система или надежный друг.

Важным сдвигом является появление ИИ-компаньонов, которые явно являются социальными друзьями, романтическими партнерами, персонажами ролевых игр и псевдотерапевтическими чат-ботами. Эмоциональный зависимость на сопутствующих чат-ботах становится все более опасным. ИИ-компаньоны могут быть опасной смесью для молодежи, особенно когда проверка возраста слаба, а системы оптимизированы для взаимодействия.

Случаи вредное взаимодействие с чат-ботом были связаны с подростковыми кризисами, включая самоубийства в некоторых крайних случаях, а изменения моделей иногда вызывали чувство утраты, похожее на потерю друга. Это подчеркивает необходимость более сильных гарантий, эффективных протоколов реагирования на кризисы и более четкой ответственности за продукты, используемые несовершеннолетними, особенно когда эти продукты могут формировать поведение и способствовать укреплению привязанностей.

Помимо увеличения существующего ущерба, ИИ создает риски, коренящиеся в том, как эти системы спроектированы и используются. Дети легче раскрывают деликатные детали, когда взаимодействие носит разговорный и непредвзятый характер. В отличие от веб-поиска, чат может стать дневником, который может содержать личные данные, включая информацию о психическом здоровье, шаблонах местоположения и учебе. Этот риск возрастает, когда искусственный интеллект встроен в различные платформы и когда взаимодействия могут храниться, анализироваться или использоваться для совершенствования систем.

Дети и молодые люди живут на переднем крае Интернета, управляемого искусственным интеллектом, но слишком часто их просят ориентироваться в системах, созданных без их учета. Обеспечение их безопасности и предоставление им возможности пользоваться цифровыми инструментами не могут быть возложены только на родителей, учителей или группы доверия и безопасности.

Ведущие организации проводят практические мероприятия, такие как Internet Watch Foundation, поддерживающий выявление и удаление материалов, содержащих сексуальное насилие над детьми; Фонд 5Rights, продвигающий цифровой дизайн, ориентированный на детей; и Техническая коалиция, объединяющая компании для усиления предотвращения, выявления, отчетности и межплатформенной координации борьбы с сексуальной эксплуатацией детей в Интернете.

Крупные платформы и технологические компании также инвестируют в безопасный инструмент и более безопасные по умолчанию возможности, такие как хеширование изображений и технологии обнаружения, инструменты родительского надзора и защита подростков. Между тем, регулирующие органы все чаще ожидают более жестких подходов к обязанностям по обеспечению заботы, разработки, соответствующей возрасту, и надежного обеспечения возраста. Вместе эти усилия направлены на создание цифровых систем, которые будут более безопасными для детей, поскольку ИИ внедряется в повседневную онлайн-жизнь.

Цифровая безопасность детей — это задача всего общества, требующая сотрудничества. Предприятия, правительства, гражданское общество и научные круги играют свою роль в обеспечении безопасности ИИ и онлайн-сервисов по своей конструкции, подкрепленных надежными гарантиями, четкой подотчетностью и научно обоснованными подходами, которые идут в ногу с развивающимися рисками. Не менее важно и то, что дети и молодые люди должны быть включены в качестве партнеров, чтобы правила, образование и защита отражали реалии того, как они живут, учатся и общаются в Интернете.

Действуя сообща, можно построить цифровой мир, в котором ИИ не подрывает доверие или благополучие, а вместо этого расширяет возможности обучения, творчества и возможностей для каждого ребенка.