В этом году резко возросло количество отчетов OpenAI об эксплуатации детей

OpenAI 80 центов По данным Национального центра по делам пропавших и эксплуатируемых детей, в первой половине 2025 года в Национальный центр по делам пропавших и эксплуатируемых детей поступило в раз больше сообщений о случаях эксплуатации детей, чем за аналогичный период в 2024 году. недавнее обновление от компании. CyberTipline NCMEC — это уполномоченный Конгрессом центр обмена информацией для сообщения о материалах о сексуальном насилии над детьми (CSAM) и других формах эксплуатации детей.

По закону компании обязаны сообщать очевидная эксплуатация детей на КиберТиплайн. Когда компания отправляет отчет, NCMEC рассматривает его, а затем передает в соответствующий правоохранительный орган для расследования.

Статистика, связанная с отчетами NCMEC, может иметь нюансы. Увеличение количества отчетов иногда может указывать на изменения в автоматической модерации платформы или критериях, которые она использует для принятия решения о необходимости отчета, а не обязательно указывать на рост недобросовестной деятельности.

Кроме того, один и тот же фрагмент контента может быть предметом нескольких отчетов, а один отчет может касаться нескольких фрагментов контента. Некоторые платформы, в том числе OpenAI, раскрывают количество как отчетов, так и общее количество контента, о котором они говорили, для более полной картины.

Представитель OpenAI Габи Райла заявила в своем заявлении, что компания инвестировала к концу 2024 года, «чтобы увеличить [its] возможность просматривать отчеты и принимать меры, чтобы идти в ногу с текущим и будущим ростом числа пользователей». Райла также сказал, что эти сроки соответствуют «внедрению большего количества поверхностей для продуктов, позволяющих загружать изображения, и растущей популярности наших продуктов, что способствовало увеличению количества отчетов». В августе Ник Терли, вице-президент и глава ChatGPT, объявлено что у приложения было в четыре раза больше активных пользователей в неделю, чем годом ранее.

В первой половине 2025 года количество отчетов CyberTipline, отправленных OpenAI, было примерно таким же, как и объем контента, о котором OpenAI отправил отчеты, — 75 027 по сравнению с 74 559. За первую половину 2024 года было отправлено 947 отчетов CyberTipline о 3252 единицах контента. Как количество отчетов, так и содержание отчетов заметно увеличилось между двумя периодами времени.

Контент в этом контексте может означать несколько вещей. OpenAI заявила, что это отчеты все экземпляры CSAM, включая загрузки и запросы, в NCMEC. Помимо приложения ChatGPT, которое позволяет пользователям загружать файлы, включая изображения, и генерировать в ответ текст и изображения, OpenAI также предлагает доступ к своим моделям через доступ через API. Самый последний подсчет NCMEC не будет включать в себя какие-либо отчеты, связанные с приложение для создания видео Soraпоскольку его сентябрьский выпуск произошел после периода, предусмотренного обновлением.

Всплеск количества отчетов следует той же схеме, которую NCMEC наблюдал на CyberTipline в более широком смысле с развитием генеративного искусственного интеллекта. Центра анализ всех данных CyberTipline обнаружило, что количество отчетов, связанных с генеративным искусственным интеллектом, увеличилось на 1325 процентов в период с 2023 по 2024 год. NCMEC еще не опубликовал данные за 2025 год, и в то время как другие крупные лаборатории искусственного интеллекта, такие как Google публикуют статистику отчетов NCMEC, которые они подготовили, но не уточняют, какой процент этих отчетов связан с ИИ.