1760163624
2025-10-11 06:05:00
Google DeepMind представила КодМендерновый агент на основе искусственного интеллекта, предназначенный для автоматического обнаружения, исправления и защиты уязвимостей программного обеспечения. Проект основан на последних достижениях в области моделей рассуждений и анализа программ с целью сократить время, которое разработчики тратят на выявление и исправление проблем безопасности.
По мнению исследовательской группы, CodeMender использует большие модели рассуждений наряду со статическим и динамическим анализом, фаззингом и символьными решателями для анализа поведения программы. Когда он обнаруживает ошибку, он генерирует возможные исправления и запускает автоматические проверки, чтобы убедиться, что они устраняют основную причину, не нарушая существующую функциональность и не вызывая регрессий. Только проверенные исправления затем предоставляются для проверки человеком и отправки в исходную версию.
Ранние примеры включают исправление переполнения буфера кучи, вызванного ошибками обработки стека XML, и устранение сложной ошибки времени жизни объекта посредством нетривиальных модификаций кода. Система также поддерживает упреждающее усиление защиты: в одном случае CodeMender автоматически добавил аннотации безопасности в широко используемую библиотеку изображений libwebp, чтобы предотвратить повторную возможность использования определенных атак на переполнение буфера.
Реакция сообщества была оптимистичной. Например, Джавид Фарахани, генеральный директор CogMap, прокомментировал:
Впечатляющая работа. Автоматизированный ремонт переводит ИИ от выявления рисков к активному укреплению инфраструктуры. Уровень проверки является ключевым: доверие будет зависеть от того, насколько надежно эти системы могут корректировать ситуацию без побочных эффектов.
На Reddit пользователи обсуждали, что повсеместная автоматизация может означать для будущего кибербезопасности. Один пользователь спросил:
Интересно, будут ли в будущем постоянно запускаться подобные боты?
Еще один ответил:
Да, и злоумышленники также будут использовать эти модели для поиска эксплойтов. Победит тот, у кого будет новейшая модель и больше вычислительных ресурсов. Возможно, вместо DDoS люди будут захватывать устройства для вычислений и запускать состязательные модели.
Хотя долгосрочные последствия остаются неопределенными, DeepMind заявляет, что все патчи, созданные CodeMender, в настоящее время проверяются людьми перед их интеграцией в исходную версию. Команда подчеркивает надежность и прозрачность как основополагающие принципы и намерена опубликовать технические отчеты и оценки в ближайшие месяцы.
CodeMender — это исследовательский проект, который предлагает новый способ с помощью ИИ улучшить экосистему с открытым исходным кодом путем автоматического обнаружения, исправления и предотвращения уязвимостей.
#Google #DeepMind #представляет #CodeMender #ИИагент #для #автоматического #восстановления #кода
По теме
