Извините, я проскользнул мимо вашей охраны.

Фишинг с использованием искусственного интеллекта стала самой серьезной угрозой безопасности делового мира. Злоумышленники теперь используют передовые генеративные модели для создания высоко персонализированных и убедительных электронных писем, способных обходить традиционные меры безопасности.

Распространенность угрозы признается в Перспективы глобальной кибербезопасности Всемирного экономического форума 2025 годасогласно которому 66% компаний считают, что искусственный интеллект и машинное обучение являются основной причиной уязвимостей. 47% заявили, что искусственный интеллект является вероятной движущей силой все более изощренных атак, особенно в отношении социальной инженерии.

Высокий процент (25%) респондентов в Отчет о состоянии искусственного интеллекта и безопасности считают, что ИИ может представлять большую ценность для киберпреступников, чем для бизнеса. Это имеет смысл. Киберпреступники используют те же технологии, что и компании, потому что хотят получить те же преимущества и найти те же уязвимости.

Они используют эту технологию в качестве оружия, используя ее все более функциональные возможности для написания фишинговых электронных писем на естественном языке, обхода фильтров электронной почты, извлечения конфиденциальных данных и взаимодействия с жертвами способами, которые кажутся законными.

Злоумышленники создают очень чистые электронные письма, содержащие тщательно встроенные инструкции, призванные инициировать действия собственных ИИ-помощников организации еще до того, как пользователь увидит сообщение.

Вредоносное электронное письмо

Например, вредоносное электронное письмо может быть сначала прочитано ИИ-помощником, который автоматически интерпретирует его содержимое и выполнит его инструкции. Оно даже не проходит мимо человека. Электронное письмо, созданное ИИ, попадает в систему, управляемую ИИ, и атака происходит даже без нажатия кнопки.

Эти скрытые инструкции способны запрашивать списки пользователей, загружать вредоносные программы или даже пересылать конфиденциальные учетные данные внешней стороне.

Легко понять, почему компаниям трудно обнаружить эти атаки. Само электронное письмо не содержит явных признаков компрометации. Никаких опасных вложений, подозрительных ссылок или каких-либо известных сигнатур вредоносного ПО нет.

Читать: Автономные агенты искусственного интеллекта становятся следующим серьезным риском кибербезопасности

Это позволяет инструментам безопасности электронной почты с легкостью ошибочно классифицировать эти сообщения как безопасные и пропускать их через барьер безопасности. Человек может заметить несоответствия, особенно если основной текст электронного письма не соответствует логике (например, речь идет о несуществующем вложении или веб-сайте без ссылки), но автоматизированная система часто упускает эти контекстные подсказки.

К сожалению, этот тип фишинга, сочетающий в себе контент, написанный искусственным интеллектом, с поведенческой аналитикой и подделкой личных данных, набирает обороты. Отчет Proofpoint 2025 показал, что было зарегистрировано более 1 300% увеличение в атаках с использованием ИИ или автоматизации. Злоумышленники все чаще используют комбинированные клонированные голоса, методы компрометации деловой электронной почты и инструкции, генерируемые искусственным интеллектом.

Нарушение безопасности

Задача для бизнеса двоякая. Во-первых, компаниям необходимо перестать думать, что они в безопасности. Облачные платформы не обеспечивают встроенной защиты. Громкие сбои, в том числе простои, связанные с DNS, показали, что облачные среды уязвимы. Злоумышленники взломали аккаунты крупнейших мировых поставщиков облачных услуг и извлекли большие объемы конфиденциальной информации. Неразумно предполагать, что данные, размещенные на таких платформах, как Microsoft Azure или AWS, автоматически защищены.

Протоколы безопасности в этих системах должны быть подкреплены независимыми уровнями защиты, чтобы гарантировать, что у бизнеса имеется более одного уровня защиты.

Во-вторых, компании должны обратить внимание. Злоумышленники часто перехватывают текущие потоки электронной почты между компаниями и их клиентами, а затем вставляют мошеннические инструкции, которые кажутся законными.

Были случаи, когда злоумышленник использовал взломанный почтовый ящик клиента для отправки поддельного счета с запросом остатка суммы транзакции, одновременно обращаясь к поставщику с просьбой вернуть первоначальный депозит. Компания не была взломана, но финансово пострадали и поставщик, и компания.

В современных атаках есть закономерность. Киберпреступники больше не полагаются на одноуровневые методы. Они сочетают искусственный интеллект, поведенческую мимикрию, клонирование личности и компрометацию цепочки поставок, чтобы создать многоэтапное мошенничество, которое проходит незамеченным через традиционную защиту.

К счастью, есть способы справиться с этими рисками. Внедряйте инструменты, которые выходят за рамки фильтрации электронной почты и антивирусной защиты благодаря поведенческому анализу, обнаружению аномалий и многоуровневому контролю для выявления необычных моделей общения.

Им также необходимо переоценить инструменты безопасности, на которые они полагаются. Некоторые компании до сих пор используют решения для домашних пользователей или малого бизнеса, которые плохо работают при тестировании с помощью тестов корпоративного уровня, таких как SE Labs или оценки Mitre Att&ck. Закупки, ориентированные на цену, могут сделать компании более незащищенными.

Наконец, осведомлённость остаётся фундаментальной защитой. Люди не могут идентифицировать угрозы, о существовании которых они не знают. Простое и постоянное обучение ситуационной осведомленности, которое помогает пользователям распознавать едва заметные тревожные сигналы в электронных письмах, счетах и онлайн-взаимодействиях, имеет неоценимое значение. Многие жертвы попадаются на удочку этих мошенников, когда они отвлекаются, перегружены или спешат выполнять повседневные задачи, и именно тогда злоумышленники наносят удар.

Читать: Южная Африка сталкивается с «палкой о трех концах», поскольку ИИ подпитывает киберугрозы нового поколения

Киберпреступность больше не определяется очевидными вредоносными вложениями или плохо написанными фишинговыми электронными письмами. Оно определяется точностью, автоматизацией и способностью адаптироваться быстрее, чем может отреагировать большинство организаций.

Новое поколение атак с использованием искусственного интеллекта не является временной тенденцией. Это новая норма, и она требует такого же стратегического внимания, как и любой другой риск на уровне совета директоров. – © 2026 НовостиЦентрал Медиа

• Автор, Ричард Фроструководитель отдела технологических решений и консалтинга в Armata Cyber Security.

Получайте последние новости от TechCentral в WhatsApp. Зарегистрируйтесь здесь.