Разоблачение мошенничества с удаленными ИТ-работниками с помощью искусственного интеллекта, угрожающего предприятиям по всему миру

Генеративный искусственный интеллект (ИИ) меняет ландшафт кибербезопасности, предоставляя расширенные возможности в руки субъектов угроз.

Благодаря инструментам на базе искусственного интеллекта один злоумышленник теперь может выполнять работу нескольких. Например, в Anthropic недавний анализ В рамках кампании кибершпионажа, организованной искусственным интеллектом, исследователи наблюдали, как злоумышленник использует искусственный интеллект для выполнения 80-90% атак лишь при спорадическом вмешательстве человека.

Многие люди уже ощутили на себе эффект усовершенствованной тактики социальной инженерии, которая предполагает, что человек разглашает компрометирующую информацию, такую как пароль, банковские реквизиты или другую личную информацию (PII). Также были замечены злоумышленники использование ИИ для подделки страниц входа в систему в сети с намерением получить учетные данные пользователей.

Более того, ИИ позволил новому классу киберпреступников обратить внимание на прибыльные возможности, открывающиеся при прямом проникновении в бизнес.

В частности, развитие генеративного искусственного интеллекта позволило мошенникам использовать процесс найма на востребованные удаленные технические должности. Использование инструментов искусственного интеллекта для создания фиктивных резюме, изображающих их как идеальных кандидатов, и использование технологии дипфейков для прохождения отборов и проведения собеседований. были замечены мошенники успешно найти работу удаленного ИТ-персонала.

Появление мошенничества с работниками с использованием искусственного интеллекта вновь выявило некоторые основные проблемы безопасности личности в эпоху искусственного интеллекта. Поскольку инструменты ИИ продолжают совершенствоваться, а киберпреступники встраивают агентурные потоки в свои операции, организации должны понимать, как поверхность атаки распространилась на набор и адаптацию, а также какую роль эффективное управление идентификацией играет в укреплении их защиты.

В последние годы технологический сектор был образцом возможностей удаленной работы. Благодаря высокой концентрации инженеров-разработчиков программного обеспечения и связанных с ними технических должностей — ролей, которые можно было выполнять практически где угодно — технологические компании могли позволить себе роскошь привлекать таланты со всего мира. Таким образом, технологическая индустрия стал первоначальной целью этих мошенничеств с удаленными работниками.

На сегодняшний день поддерживаемые государством субъекты организовали самые яркие примеры этой уловки. Стремясь в первую очередь помочь собрать средства для своего штата, нацеливание на удаленные рабочие места дает этим злоумышленникам возможность получить зарплату за счет ничего не подозревающих предприятий.

Но быстрые темпы цифровых инноваций привели к растущее число удаленных технических должностей в отраслях, не связанных с технологиями. Например, организации здравоохранения увеличили набор сотрудников для разработки мобильных приложений и платформ электронного учета. В сфере финансовых услуг открылись новые должности в отделах обработки бэк-офиса, таких как расчет заработной платы и бухгалтерский учет.

последние исследования показывают около половины компаний, подвергшихся этим атакам, не занимались технологиями, и около четверти всех целей находились за пределами Соединенных Штатов.

Чтобы облегчить эти атаки, злоумышленники практически на каждом этапе используют инструменты генеративного искусственного интеллекта. Основываясь на активности, наблюдаемой Okta Threat Intelligence, вот как может выглядеть типичный путь мошенника к мошенническому трудоустройству.

Злоумышленник начинает с создания фейкового объявления о вакансии на платформе подбора персонала, оснащенной искусственным интеллектом. Оно похоже или даже идентично сообщению одной из целевых организаций. По мере того как законные кандидаты подают заявки на этот сфабрикованный список, злоумышленник изучает, как выглядят реальные заявки, и обучает ИИ на основе этих заявок разрабатывать свои собственные заявки на фактическую вакансию.

После уточнения резюме мошенник проверяет созданную личность на соответствие программному обеспечению для отслеживания кандидатов, повышая их шансы выйти за рамки автоматизированных проверок, используемых многими рекрутинговыми платформами.

После того как заявка одобрена и назначено собеседование, злоумышленник обращается к службе проверки интервью с веб-камеры на базе искусственного интеллекта. Проведя имитационные интервью через один из этих сервисов, они могут проверить эффективность дипфейковых наложений и то, как большие языковые модели (LLM) отвечают на сложные технические вопросы, что помогает им составлять сценарии ответов на интервью.

Неясно, какая именно доля собеседований превращается в предложение о работе, но если мошенник получит работу, он в значительной степени полагается на чат-ботов на базе искусственного интеллекта для выполнения повседневных обязанностей.

Гибкий график работы стал новой нормой для многих отраслей. По данным Бюро статистики труда США (BLS), количество американцев, работающих удаленно, поднялся до 23% в прошлом году, что составляет более 35 миллионов рабочих.

Реальность такова, что сегодняшние организации должны усилить свою защиту, чтобы обеспечить целостность своей практики найма. Предприятия могут предпринять следующие шаги для улучшения своих процессов:

1. Ужесточить отбор и набор персонала: Человеческие ресурсы и команды по подбору персонала должны быть обучены выявлять тонкие красные флажки, связанные с мошенническими кандидатами. Некоторые из распространенных сообщений включают в себя замену кандидатов между раундами собеседований, отказ включать камеры или использование крайне плохого подключения к Интернету.

Внедрение структурированного процесса технической и поведенческой проверки, например, требование демонстрации навыков в реальном времени под непосредственным наблюдением, может помочь командам выявить потенциальных мошенников. Кроме того, рекрутеры должны исследовать цифровые следы своих кандидатов и легитимность предоставленной ими истории работы, чтобы гарантировать, что образцы или проекты не клонируются из существующих профилей.

2. Тщательно проверяйте личности: Организациям необходимы поддающиеся проверке государственные удостоверения личности на нескольких этапах набора персонала и приема на работу. Сторонние сервисы могут помочь в проверке подлинности документов, удостоверяющих личность, и академических полномочий. Чтобы предотвратить подделку местоположения, организациям следует сопоставлять заявленные местоположения своих кандидатов с техническими данными, такими как IP-адрес, поведение в часовом поясе и информация о заработной плате.

Процесс проверки личности не должен исчезнуть после того, как сотрудник приступит к работе. Организациям следует применять ролевой и раздельный контроль доступа, по умолчанию предоставляя новым временным работникам наименьшие привилегии и доступ до тех пор, пока не будут завершены испытательные и проверочные проверки.

3. Мониторинг внутренних угроз: Организациям необходимо внедрить специальную функцию по управлению внутренними рисками для упреждающего управления потенциальными угрозами. Это часто принимает форму рабочей группы, включающей членов команды из отдела кадров, юристов, безопасности и ИТ. Эта функция отслеживает аномальные модели доступа, такие как получение больших объемов данных, входы в систему в нерабочее время из нестандартных географических регионов или VPN, а также обмен учетными данными — все это может быть индикатором необычной инсайдерской активности.

Организации также должны обучать и наделять своих сотрудников полномочиями наблюдать и сигнализировать о подозрительной деятельности.

Поскольку генеративный ИИ продолжает менять правила игры в кибербезопасности, процесс найма все чаще становится значимым вектором атаки.

Поскольку эти мошенничества распространились на все больше отраслей, ни одна организация не может безопасно полагаться на устаревшие процессы проверки. Укрепление защиты требует многоуровневого подхода к безопасности личных данных, уделяя особое внимание строгой проверке и постоянному мониторингу, чтобы не допустить, чтобы мошеннические наймы стали критическими внутренними угрозами.