Раскрытая уязвимость в версии ChatGPT для macOS позволяла злоумышленникам получать доступ к истории чатов и конфиденциальным данным пользователей. Ошибка, устраненная OpenAI 25 сентября, иллюстрирует растущие риски безопасности, с которыми сталкиваются автономные ИИ-агенты.
Недавнее обнаружение критической уязвимости в настольном приложении ChatGPT для компьютеров Apple Mac высветило новую угрозу в сфере информационной безопасности. Исследователи информационной безопасности выяснили, что изъян в архитектуре приложения давал возможность потенциальным хакерам перехватывать контроль над программой и получать полный доступ ко всем сохраненным чатам, а также к связанным браузерным сессиям пользователя.
Ошибку выявили специалисты Objective-See Foundation. По их оценкам, уязвимость позволяла обойти защитные механизмы, используемые приложением для проверки цифровых подписей взаимодействующих компонентов. Компания OpenAI выпустила исправление для этой проблемы, а также отразила изменения в системном журнале обновлений.
Технические детали обхода проверки цифровых подписей
Настольное приложение ChatGPT для macOS состоит из нескольких модулей, которые обмениваются данными и проверяют взаимные цифровые подписи на трех уровнях вложенности. Эта многоступенчатая система создавалась для того, чтобы исключить вмешательство стороннего вредоносного ПО и гарантировать, что запросы поступают исключительно от легитимных компонентов OpenAI.
Однако исследователи обнаружили, что один из доверенных компонентов — встроенный интерпретатор сценариев — соглашался принимать неподтвержденные скрипты или списки команд. Злоумышленник мог передать вредоносную инструкцию напрямую в основной процесс ChatGPT.
“Eни проверяют родителя и прародителя этого процесса, но вредоносный скрипт просто порождает интерпретатор скриптов три раза и затем делает запрос, так что он будет соответствовать требованиям”
Патрик Вардл, программный аналитик и исследователь macOS из Objective-See Foundation, via Wired
Вардл охарактеризовал данный процесс как insanely trivial
для эксплуатации. Созданное экспертами доказательство концепции потребовало написания всего около дюжины строк кода. Помимо чтения истории переписки, эксплойт позволял заставлять помощника выполнять произвольные команды от имени пользователя, включая доступ к браузеру и другим защищенным приложениям.
Почему ИИ-приложения стали привлекательной целью для хакеров
Эксперты отмечают, что инцидент с приложением под macOS демонстрирует фундаментальную уязвимость современных систем искусственного интеллекта, которым для выполнения повседневных задач предоставляются расширенные привилегии в операционной системе.
“Агентам нужно много доступа, чтобы делать свою работу. Они похожи на управляющего зданием, у которого есть доступ к ключам от всех комнат. Так что если их можно скомпрометировать или подчинить, это суперпроблематично. Это может означать, что непривилегированный код потенциально может получить доступ ко всем вещам.”
Патрик Вардл, программный аналитик и исследователь macOS из Objective-See Foundation, via Wired
Аналитики отмечают, что на фоне активного внедрения ИИ-инструментов в корпоративные и повседневные рабочие процессы компании и обычные пользователи часто упускают из виду вопросы безопасности ради скорости развертывания. Подобные приложения обрабатывают огромные массивы личной и конфиденциальной деловой информации, превращаясь в привлекательные цели для киберпреступников.
Официальная реакция OpenAI и дальнейшие меры защиты
Компания OpenAI публично признала наличие уязвимости в официальном отчете о системных изменениях, опубликованном 25 сентября. Представители компании подчеркнули необходимость более оперативного реагирования на киберугрозы в стремительно развивающейся технологической среде.
“Мы продолжаем развивать наши методы безопасности, но признаем необходимость двигаться быстрее”
Шейн Бауэр, представитель OpenAI, via Wired
Специалисты по безопасности рекомендуют пользователям настольного приложения следить за обновлениями софта и устанавливать актуальные патчи. Организациям, использующим ИИ-ассистентов в корпоративной среде, эксперты советуют пересмотреть внутренние политики безопасности и четко регламентировать объем данных, которые допустимо передавать искусственному интеллекту.
Ещё по этой теме
