Tenable открывает игровую площадку для генеративных киберинструментов ИИ

Сообществу специалистов по безопасности предлагается изучить потенциал генеративный искусственный интеллект (ИИ) в качестве полезного инструмента в своих исследованиях, выпустив ряд инструментов-прототипов, разработанных Tenable, которые в настоящее время доступен для проверки на Github.

В сопроводительном отчете под названием Как генеративный ИИ меняет исследования в области безопасностиисследовательская группа фирмы рассказывает, как она экспериментировала с генеративными приложениями ИИ для повышения эффективности обратного проектирования, отладки кода, безопасности веб-приложений и прозрачности облачных инструментов.

Tenable, которая описывает себя как компанию, занимающуюся «управлением рисками», заявила, что такие инструменты, как основанные на Последняя генеративная предварительно обученная модель трансформатора OpenAI, ГПТ-4потенциально теперь обладают способностями наравне с «исследователем безопасности среднего уровня».

Но, как объяснил в предисловии к отчету директор Tenable по реагированию на проблемы безопасности и исследованиям нулевого дня Рэй Карни, даже OpenAI признает, что GPT-4 имеет те же ограничения, что и более ранние модели GPT, особенно в отношении надежности и предубеждений, возникающих в результате опыта модели. как она была обучена, неполные и несовершенные данные обучения, а также когнитивные предубеждения среди разработчиков модели.

Вдобавок к этому, по его словам, необходимо учитывать когнитивные предубеждения людей, задающих вопросы модели — задавание правильных вопросов становится «наиболее важным фактором» в том, насколько вероятно, что человек получит правильный ответ.

Это, по словам Карни, относится к исследователям в области безопасности, поскольку роль таких людей заключается в предоставлении своевременных и точных данных лицам, принимающим решения.

«Для достижения этой цели аналитик должен обрабатывать и интерпретировать наборы неполных и неоднозначных данных, чтобы выносить обоснованные аналитические суждения», — писал он. «В течение многих лет и многих неудач аналитическое сообщество разработало набор инструментов, обычно называемых «методами структурированного анализа», которые помогают смягчить и свести к минимуму риск ошибиться и избежать принятия неосведомленных решений.

“Предупреждения, изложенные OpenAI в объявлении о GPT-4 приведите веские аргументы в пользу применения этих методов», — продолжил Карни. «На самом деле, только благодаря применению этих методов мы в конечном итоге создадим хорошо точный набор данных для обучения будущих моделей в области кибербезопасности.

«Эти типы методов также помогут исследователям убедиться, что они настраивают свои подсказки для этих моделей — что они задают правильные вопросы», — сказал он. «Тем временем исследователи безопасности могут продолжать исследовать, как мы используем возможности генеративного ИИ для более приземленных задач, чтобы высвободить время для исследователей и аналитиков, чтобы они могли посвятить свое время более сложным вопросам, которые требуют их экспертных знаний в предметной области для выявления критических вопросов. контекст».

Первый инструмент, который они придумали, называется G-3PO. Этот инструмент основан на разработанном АНБ Гид обратный инжиниринг framework, который стал многолетним фаворитом среди исследователей с тех пор, как он был рассекречен и стал широко доступен в 2010-х годах. Он выполняет ряд важных функций, включая двоичную дизассемблирование в листинги на языке ассемблера, реконструкцию графов потока управления и декомпиляцию листингов на ассемблере во что-то, что по крайней мере напоминает код.

Однако, чтобы использовать Ghidraпо-прежнему необходимо иметь возможность тщательно анализировать декомпилированный код, сравнивая его с исходным листингом сборки, добавляя комментарии и присваивая описательные имена переменным и функциям.

Здесь эстафетную палочку принимает G-3PO, запуская декомпилированный код через большую языковую модель (LLM), чтобы получить объяснение того, что делает функция, а также предложения описательных имен переменных.

В Tenable заявили, что эта функциональность позволит инженеру «быстро и на высоком уровне понять функциональность кода без необходимости сначала расшифровывать каждую строку». Затем они могут сосредоточиться на наиболее важных областях кода для более глубокого анализа.

Два других инструмента, ИИ для Pwndbg и ИИ для GEF, представляют собой программный код. отладка помощники, которые действуют как плагины для двух популярных Отладчик GNU (GDB) платформы расширения, Pwndbg и GEF. Эти интерактивные инструменты получают различные точки данных, такие как регистры, значения стека, обратная трассировка, сборка и декомпилированный код, которые могут помочь исследователю изучить контекст отладки. Все, что нужно сделать исследователю, — это задать ему вопросы, например: «Что здесь происходит?» или «эта функция выглядит уязвимой?»

Tenable заявила, что эти инструменты помогут решить проблему навигации по крутой кривой обучения, связанной с отладкой, превратив GDB в более диалоговый интерфейс, где исследователи могут обсуждать происходящее без необходимости расшифровывать необработанные данные отладки. Инструмент ни в коем случае не безупречен, но он показал многообещающие результаты в снижении сложности и времени, и Tenable надеется, что его также можно будет использовать в качестве образовательного ресурса.

Доступны и другие инструменты, включая BurpGPT, Люкс «Отрыжка» расширение, которое позволяет исследователям использовать GPT для анализа HTTP-запросов и ответов, а также EscalateGPT, инструмент на основе ИИ, который проверяет наличие неправильных конфигураций в политиках управления идентификацией и доступом (IAM). для облачных средодна из наиболее распространенных и упускаемых из виду проблем среди предприятий, и использует GPT для определения возможных возможностей эскалации и смягчения последствий.

Положительная сторона

Тенейбл сказал, что, хотя следовало ожидать, что субъекты угроз сами воспользуются преимуществами генеративного ИИ, и, вероятно, реализация угрозы надежного вредоносного ПО, написанного с помощью ИИ, была лишь вопросом времени. по-прежнему остается «достаточной возможностью» для защитников использовать генеративный ИИ.

В самом деле, в некоторых аспектах, таких как анализ журналов, обнаружение аномалий, сортировка и реагирование на инциденты, они могут даже одержать верх.

Read more:  Все новые игры Quest и PSVR 2 анонсированы на Future Games Show

«Хотя мы только в начале нашего пути по внедрению ИИ в инструменты для исследований в области безопасности, очевидно, что уникальные возможности, которые предоставляют эти LLM, будут продолжать оказывать глубокое влияние как на злоумышленников, так и на защитников», — пишет исследовательская группа.