Переломный момент в жестоком обращении с детьми в Интернете

Новые данные показывают, что в 2025 году объем детской порнографии в Интернете, вероятно, был больше, чем в любой другой момент истории. Рекордные 312 030 сообщений о подтвержденной детской порнографии были расследованы в прошлом году Internet Watch Foundation, британской организацией, которая работает по всему миру над выявлением и удалением подобных материалов из сети.

Это само по себе вызывает беспокойство. Это означает, что общий объем детской порнографии, обнаруженной в Интернете, вырос на 7 процентов с 2024 года, когда был установлен предыдущий рекорд. Но также вызывает тревогу резкий рост количества детской порнографии и, в частности, видеороликов, созданных с помощью ИИ. На первый взгляд, распространение изображений сексуального насилия над детьми, созданных ИИ, может создать неправильное впечатление, что ни один ребенок не пострадал. Это не так. Созданные ИИ оскорбительные изображения и видео изображают реальных детей и преследуют их — либо потому, что модели обучались на существующей детской порнографии, либо потому, что ИИ использовался для манипулирования реальными фотографиями и видео.

Сегодня, Об этом сообщает IWF. что в 2025 году было обнаружено 3440 видеороликов о сексуальном насилии над детьми, созданных искусственным интеллектом; годом ранее их было обнаружено всего 13. Социальные сети, зашифрованные сообщения и форумы в темной сети уже много лет способствуют устойчивому росту материалов о сексуальном насилии над детьми, а теперь генеративный искусственный интеллект резко усугубил проблему. Еще один ужасный рекорд, скорее всего, будет установлен в 2026 году.

Из тысяч видеороликов сексуального насилия над детьми, созданных с помощью искусственного интеллекта, которые IWF обнаружила в 2025 году, почти две трети были отнесены к «Категории А» — самой серьезной категории, которая включает проникновение, сексуальные пытки и зоофилию. Еще 30 процентов относились к категории B и изображали половые акты без проникновения. Благодаря этой относительно новой технологии «преступники, по сути, могут иметь свои собственные машины для сексуального насилия над детьми, чтобы делать все, что они хотят видеть», — заявил в своем заявлении Керри Смит, исполнительный директор IWF.

Читайте: Средняя школа становится помойкой откровенно сексуальных дипфейков

Количество изображений сексуального насилия над детьми, созданных с помощью ИИ, возросло. растет как минимум с 2023 года. Например, IWF найденный что всего за один месяц в начале 2024 года только на одном форуме в даркнете пользователи загрузили более 3000 сгенерированных искусственным интеллектом изображений сексуального насилия над детьми. В начале 2025 года некоммерческая организация Thorn, занимающаяся цифровой безопасностью сообщил что среди более чем 700 опрошенных американских подростков 12 процентов знали кого-то, кто стал жертвой «дипфейковой обнаженной натуры». Распространение созданных с помощью ИИ видеороликов, изображающих сексуальное насилие над детьми, отставало от таких фотографий, поскольку инструменты создания видео с использованием ИИ были гораздо менее фотореалистичными, чем генераторы изображений. «Когда видео с искусственным интеллектом не было реалистичным или сложным, преступники не удосужились сделать их в любом количестве», — сказал мне Джош Томас, представитель IWF. Это изменилось.

В прошлом году OpenAI выпустила модель Sora 2, Google выпустила Veo 3, а xAI выпустила Grok Imagine. Между тем, другие организации разработали множество высокотехнологичных моделей генерации видео с использованием искусственного интеллекта с открытым исходным кодом. Эти инструменты с открытым исходным кодом, как правило, бесплатны для использования всеми и имеют гораздо меньше гарантий, если таковые вообще имеются. Почти наверняка существуют видео и изображения сексуального насилия над детьми, созданные с помощью искусственного интеллекта, которые власти никогда не обнаружат, поскольку они создаются и хранятся на персональных компьютерах; вместо того, чтобы искать и загружать такие материалы в Интернете, потенциально подвергая себя опасности правоохранительных органов, злоумышленники могут действовать тайно.

OpenAI, Google, Anthropic и несколько других ведущих лабораторий искусственного интеллекта присоединились к инициативе по предотвращению сексуального насилия над детьми с помощью искусственного интеллекта, и все крупные лаборатории заявляют, что у них есть меры, позволяющие прекратить использование их инструментов в таких целях. Тем не менее, меры безопасности могут быть нарушены. В первой половине 2025 года OpenAI сообщила о более чем 75 000 изображений о сексуальном насилии над детьми или угрозе для детей на своих платформах в Национальный центр по делам пропавших и эксплуатируемых детей, что более чем вдвое превышает количество сообщений от вторая половина 2024 года. Представитель OpenAI рассказал мне, что компания разрабатывает свои продукты так, чтобы запрещать создание или распространение «контента, который эксплуатирует детей или причиняет им вред», и принимает «действия в случае нарушений». Компания сообщает обо всех случаях сексуального насилия над детьми в NCMEC и блокирует связанные аккаунты. (OpenAI имеет корпоративное партнерство с Атлантика.)

Другими словами, развитие и простота использования видеогенераторов искусственного интеллекта открывают отправную точку для злоупотреблений. Эта динамика стала очевидна в последние недели, когда люди использовали Grok, модель искусственного интеллекта Илона Маска, для определения вероятных сотни тысяч сексуализированных изображений, полученных без согласияв первую очередь женщин и детей, публично на своей платформе в социальных сетях X. (Маск настаивал что он «не знал ни о каких изображениях обнаженных несовершеннолетних, созданных Гроком», и обвинил пользователей в незаконных запросах; Тем временем его сотрудники незаметно откатили некоторые аспекты этого инструмента.) Изучая темную сеть, IWF обнаружил, что в некоторых случаях люди, очевидно, использовали Grok для создания оскорбительных изображений детей 11–13 лет, которые затем вводились в более либеральные инструменты для создания еще более темного и откровенного контента. «Легкая доступность этого материала только придаст смелости тем, кто проявляет сексуальный интерес к детям» и «будет способствовать его коммерциализации», — сказал Смит в пресс-релизе IWF. (Вчера команда безопасности X сказал он ограничил возможность создавать изображения пользователей в открытой одежде и работает с правоохранительными органами «по мере необходимости»).

Читайте: Илону Маску это не сойдет с рук

Есть признаки того, что кризис сексуального насилия над детьми, вызванного искусственным интеллектом, будет ухудшаться. Хотя все больше и больше стран, в том числе Великобритания и США, принимают законы, которые объявляют создание и публикацию таких материалов незаконными, реальное преследование преступников происходит медленно. Тем временем Кремниевая долина продолжает развиваться с головокружительной скоростью.

Множество новых цифровых технологий использовалось для преследования и эксплуатации людей; Эпоха сексуального насилия с использованием ИИ была предсказуема еще десять лет назад, но тем не менее она началась. Руководители, инженеры и эксперты в области искусственного интеллекта любят говоря что сегодняшние модели ИИ наименее эффективны, чем когда-либо. По той же причине способность ИИ жестоко обращаться с детьми в дальнейшем может только ухудшиться.