Краткое содержание
Один манипулируемый документ было достаточно, чтобы заставить CHATGPT автоматически извлекать конфиденциальные данные – без какого -либо взаимодействия с пользователем.
Исследователи безопасности в Zenity продемонстрировали, что пользователи могут быть скомпрометированы просто, просто имея документ с ними; С их стороны не требовалось, чтобы данные протекали. В своем доказательстве концепции, Google Doc, содержащий невидимый подсказка – белый текст в размере 1 шрифта – мог сделать данные доступа CHATGPT, хранящиеся в Google Drive жертвы. В атаке использовалась функция «Коннекторы» Openai, которая связывает CHATGPT с такими услугами, как Gmail или Microsoft 365.
Если манипулируемый документ появляется в диске пользователя, либо посредством обмена, либо случайной загрузки, даже безвредный запрос, такой как «суммировать мою последнюю встречу с Сэмом», может вызвать скрытую подсказку. Вместо того, чтобы предоставлять резюме, модель будет искать клавиши API и отправлять их через URL на внешний сервер.
Растущее использование LLM на рабочем месте создает новые поверхности атаки
OpenAI был уведомлен рано и быстро исправлена конкретная уязвимость, продемонстрированная на конференции Black Hat. Эксплойт был ограничен по объему – документы въезда не могли быть переданы, были эксфильтрированы только небольшие объемы данных.
Объявление
Декодерский информационный бюллетень
Самые важные новости ИИ прямо на ваш почтовый ящик.
✓ Еженедельно
✓ БЕСПЛАТНО
✓ Отменить в любое время
Несмотря на исправление, основной метод атаки остается технически возможным. Поскольку LLMS все чаще интегрируется в среду на рабочем месте, исследователи предупреждают, что поверхность атаки продолжает расширяться.
2025-08-07 12:32:00
1754571042
#Невидимая #подсказка #Google #Doc #сделал #данные #доступа #CHATGPT #Google #Drive #жертвы
Ещё по этой теме
