Как мы можем повысить устойчивость к киберугрозам с использованием искусственного интеллекта?

Искусственный интеллект (ИИ) вышел за рамки своего изначального средства повышения производительности и теперь фундаментально меняет поле битвы в области кибербезопасности.

Число кибератак, связанных с искусственным интеллектом, растет во всех отраслях: автономные системы искусственного интеллекта выполняют атаки со скоростью и точностью, которые превосходят традиционные средства защиты, управляемые человеком. В 2023 году исследователи безопасности задокументировали использование генеративного искусственного интеллекта (GenAI) для создания очень убедительных персонализированных фишинговых писем за считанные секунды, одновременно нацеленных на тысячи сотрудников, что привело к Увеличение на 40 % в успешных фишинговых инцидентах.

Такие кампании адаптируются в режиме реального времени, используя слабые места быстрее, чем успевают отреагировать устаревшие модели безопасности. Представьте себе систему искусственного интеллекта, которая постоянно сканирует корпоративную сеть на наличие уязвимостей и при обнаружении автоматически развертывает настроенное вредоносное ПО в течение нескольких минут, опережая любое ручное вмешательство или реагирование.

Такой уровень автоматизации и адаптивности иллюстрирует, как могут действовать атаки с использованием искусственного интеллекта, подчеркивая необходимость срочного переосмысления организациями своих защитных стратегий.

Таким образом, устойчивость требует большего, чем просто постепенных улучшений; организации должны внедрять стратегии безопасности, которые предвидят угрозы, нейтрализуют риски до того, как они материализуются, и развиваются так же быстро, как и противник.

GenAI и агентный ИИ коренным образом изменили ландшафт киберугроз. Всемирный экономический форум Глобальный прогноз кибербезопасности 2026 сообщил, что 87% опрошенных организаций считают, что риск, связанный с уязвимостями ИИ, увеличился.

CrowdStrike’s Исследование состояния программ-вымогателей в 2025 году также обнаружил, что почти половина организаций теперь считают автоматизированные цепочки атак с использованием искусственного интеллекта наиболее серьезной угрозой, связанной с программами-вымогателями. В том же опросе 85% специалистов по безопасности считают, что традиционные подходы к обнаружению устаревают в борьбе с атаками с использованием искусственного интеллекта.

Эти проблемы усугубляются ростом теневого ИИ – несанкционированного использования инструментов ИИ сотрудниками – что значительно расширяет поверхность атаки. По прогнозу 2025 г. Отчет ГартнераАналитики прогнозируют, что к концу десятилетия значительная часть нарушений безопасности будет напрямую связана с неправомерным использованием автономных агентов ИИ.

В совокупности эти события указывают на серьезный сдвиг в стратегии кибербезопасности, и стремление к идеальному предотвращению больше не является реалистичным.

Организации должны признать, что сбои — это константа, а устойчивость, определяемая как способность поглощать инциденты, адаптироваться и быстро восстанавливаться после них, имеет первостепенное значение — реальность имеет серьезные последствия.

Наряду с расширением поверхности атак усиливается контроль со стороны регулирующих органов, а соблюдение требований управления ИИ становится необходимостью аудита. Кроме того, глобальная геополитическая напряженность и сложные цепочки поставок усиливают уязвимость организаций.

Однако те же технологии искусственного интеллекта, которые расширяют возможности злоумышленников, предлагают защитникам мощные инструменты для повышения уровня безопасности, позволяя организациям перейти от реактивной защиты к прогнозирующим и упреждающим стратегиям.

Чтобы ориентироваться в быстро меняющемся ландшафте кибербезопасности, поэтапный подход, основанный на горизонте, разбивает процесс трансформации на управляемые шаги, помогая организациям сосредоточить усилия и измерить успех.

Организации, которые только начинают внедрять ИИ, могут получить выгоду от автоматизации проверок соответствия или использования решений по управлению идентификацией на базе ИИ на облачных платформах.

Первым шагом является обеспечение безопасности и модернизация базовой инфраструктуры, поддерживающей ИИ. Безопасность должна быть встроена в каждый уровень стека ИИ, включая данные, модели, приложения и идентификацию.

Организациям необходимо устранять такие риски, как теневой искусственный интеллект, защищать системы от таких угроз, как быстрая инъекция и отравление данныхи создать структуры управления, соответствующие новым правилам.

В то же время устаревшие платформы следует модернизировать или заменить решениями, предлагающими аналитику на основе искусственного интеллекта, прогнозное моделирование угроз и автоматическое устранение последствий.

В отчете Accenture «Состояние киберустойчивости» говорится, что 77% организаций отсутствуют базовые данные и методы обеспечения безопасности ИИ, в результате чего критически важные модели и облачная инфраструктура остаются незащищенными.

Одним из примеров успешной модернизации, отмеченным в отчете, является транснациональная нефтегазовая компания, которая перенесла свои инструменты мониторинга безопасности из локальных систем в облако. Это позволило увеличить емкость данных, улучшить масштабируемость и использовать инструменты, готовые к использованию искусственного интеллекта, которые поддерживают автоматизацию в центре операций по обеспечению безопасности.

Даже небольшие организации могут начать этот путь с идентификации своих агентов ИИ и определения их разрешений, закладывая основу для будущей трансформации и долгосрочной устойчивости.

Ключевые приоритеты на этом этапе включают в себя:

Прочная основа позволяет организациям быстрее внедрять расширенные возможности искусственного интеллекта, помогая автоматизировать обнаружение угроз, уменьшить количество ложных срабатываний и оптимизировать операции по обеспечению безопасности.

Например, крупная сельскохозяйственная и химическая компания обновила свои операции по обеспечению безопасности, а также управление идентификацией и доступом, добившись более быстрого разрешения инцидентов с помощью интерфейса чата с искусственным интеллектом, реагирования на инциденты в режиме реального времени, улучшенного управления заявками и анализа данных на основе данных для поддержки более эффективного принятия решений и постоянного улучшения.

Однако технологии должны сочетаться со структурированным управлением изменениями, включая обучение адаптации к новым рабочим процессам и максимизации возможностей ИИ.

К высокоэффективным вариантам использования, которые стоит рассмотреть руководителям предприятий, относятся:

Организации с меньшими бюджетами все равно могут двигаться вперед, четко определяя границы автономных действий ИИ, держа людей в курсе и обеспечивая регистрацию автоматизированных действий.

Последний горизонт меняет структуру операций по обеспечению безопасности, чтобы интегрировать агентов ИИ в качестве активных защитников. Эти автономные системы дополняют человеческие команды, автоматизируют повторяющиеся задачи и обеспечивают превентивное управление угрозами в больших масштабах.

Например, национальная коммунальная компания создала центр передового опыта в области искусственного интеллекта, чтобы ускорить внедрение своего агентного искусственного интеллекта в сфере финансов, операций и безопасности.

Ключевые рабочие процессы, которые следует учитывать при операциях с участием агента, включают:

Этот сдвиг уводит кибербезопасность от реактивного упреждающего ожидания угроз, нейтрализуя их до того, как они материализуются.

Автономные агенты меняют правила кибербезопасности, и бездействие несет в себе реальный риск. Однако эти же самые технологии могут усилить защиту, если организации начнут действовать прямо сейчас.

Независимо от размера, организации могут начать с целенаправленных инвестиций в базовые инструменты безопасности ИИ и обучение персонала, чтобы добиться значительного прогресса.

Сможет ли ваша организация повысить устойчивость, чтобы опережать завтрашние угрозы, или позволит будущему опередить ее? Пришло время принять решение.