1765400813
2025-12-10 20:20:00
.elementor-widget-container{маргин:0px 0px 0px 0px;padding:0px 0px 0px 0px;}.elementor-65851 .elementor-element.elementor-element-1cf67f8.elementor-element{–flex-grow:0;–flex-shrink:0;}.elementor-65851 .elementor-element.elementor-element-fba5b18{–display:flex;–flex-direction:row;–container-widget-width:initial;–container-widg et-height:100%;–container-widget-flex-grow:1;–container-widget-align-self:stretch;–flex-wrap-mobile:wrap;}.elementor-widget-form .elementor-field-group > label, .elementor-widget-form .elementor-field-subgroup label{color:var( –e-global-color-text );}.elementor-widget-form .elementor-field-type-html{color:var( –e-global-color-text );}.elementor-widget-form .elementor-field-group .elementor-field{color:var( –e-global-color-text );}.elementor-widget-form .e-form__buttons__wrapper__button-next{background-color:var( –e-global-color-text );}.elementor-widget-form .elementor-button[type=”submit”]{background-color:var( –e-global-color-accent );}.elementor-widget-form .e-form__buttons__wrapper__button-previous{background-color:var( –e-global-color-accent );}.elementor-widget-form{–e-form-steps-indicator-inactive-primary-color:var( –e-global-color-text );–e-form-steps-indicator-active-primary-color:var( –e-global-color-accent );–e-form-steps-indicator-completed-primary-color:var( –e-global-color-accent );–e-form-steps-indicator-progress-color:var( –e-global-color-accent );–e-form-steps-indicator-progress-background-color:var( –e-global-color-text );–e-form-steps-indicator-progress-meter-color:var( –e-global-color-text );}.elementor-65851 .elementor-element.elementor-element-5169176{width:var( –container-widget-width, 98,54% );max-width:98.54%;–container-widget-width:98.54%;–container-widget-flex-grow:0;–e-form-steps-indicators-spacing:17px;–e-form-ste ps-indicator-padding:30px;–e-form-steps-indicator-inactive-вторичный-цвет:#ffffff;–e-form-steps-indicator-active-primary-color:var( –e-global-color-вторичный );–e-form-steps-indicator-active-вторичный-цвет:#ffffff;–e-form-steps-indicator-completed-вторичный-цвет:#ffffff;–e-form-steps-divider-width:2px;–e-form-steps-divider-gap:10px;}.elementor-65851 .elementor-element.elementor-element-5169176 > .elementor-widget-container{margin:0px 0px 0px 0px;padding:0px 0px 0px 0px;}.elementor-65851 .elementor-element.elementor-element-5169176.elementor-element{–align-self:center;–flex-grow:0;–flex-shrink:0;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-field-group{padding-right:calc( 60px/2 );padding-left:calc( 60px/2 );margin-bottom:20px;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-form-fields-wrapper{margin-left:calc( -60px/2 );margin-right:calc( -60px/2 );margin-bottom:-20px;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-field-group.recaptcha_v3-bottomleft, .elementor-65851 .elementor-element.elementor-element-5169176 .elementor-field-group.recaptcha_v3-bottomright{margin-bottom:0;}body.rtl .elementor-65851 .elementor-element.elementor-element-5169176 .elementor-labels-inline .elementor-field-group > label{padding-left:0px;}body:not(.rtl) .elementor-65851 .elementor-element.elementor-element-5169176 .elementor-labels-inline .elementor-field-group > label{padding-right:0px;}body .elementor-65851 .elementor-element.elementor-element-5169176 .elementor-labels-above .elementor-field-group > label{padding-bottom:0px;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-field-type-html{padding-bottom:0px;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-field-group .elementor-field:not(.elementor-select-wrapper){background-color:#ffffff;border-width:1px 1px 1px 1px;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-field-group .elementor-select-wrapper select {background-color:#ffffff;border-width:1px 1px 1px 1px;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-button{font-size:16px;font-weight:400;line-height:14px;интервал между буквами:1px;border-radius:5px 5px 5px 5px;}.elementor-65851 .elementor-element.elementor-element-5169176 .e-form__buttons__wrapper__button-next{background-color:#000000;color:#ffffff;transition-duration:600ms;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-button[type=”submit”]{background-color:#000000;color:#ffffff;transition-duration:600ms;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-button[type=”submit”] svg *{fill:#ffffff;transition-duration:600ms;}.elementor-65851 .elementor-element.elementor-element-5169176 .e-form__buttons__wrapper__button-previous{background-color:#000000;color:#ffffff;transition-duration:600ms;}.elementor-65851 .elementor-element.elementor-element-5169176 .e-form__buttons__wrapper__button-next:hover{background-color:var( –e-global-color-9cda7ec );color:#ffffff;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-button[type=”submit”]:hover{background-color:var( –e-global-color-9cda7ec );color:#ffffff;}.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-button[type=”submit”]:hover svg *{fill:#ffffff;}.elementor-65851 .elementor-element.elementor-element-5169176 .e-form__buttons__wrapper__button-previous:hover{color:#ffffff;}@media(max-width:1024px){.elementor-65851 .elementor-element.elementor-element-fba5b18{–min-height:100px;–flex-direction:column;–container-widget-width:calc( ( 1 – var( –container-widget-flex-grow )) * 100% );–container-widget-height:initial;–container-widget-flex-grow:0;–container-widget-align-self:initial;–flex-wrap-mob ile:wrap;–justify-content:space-between;–align-items:center;–flex-wrap:wrap;}}@media(max-width:767px){.elementor-65851 .elementor-element.elementor-element-89c0dd0{–flex-wrap:wrap;}.elementor-65851 .elementor-element.elementor-element-5169176.elementor-element{–flex-grow:1;–flex-shrink:0;}}@media(min-width:768px){.elementor-65851 .elementor-element.elementor-element-89c0dd0{–width:90%;}.elementor-65851 .elementor-element.elementor-element-fca7fb2{–width:58.509%;}.elementor-65851 .elementor-element.elementor-element-fba5b18{–width:74%;}}@media(max-width:1024px) и (min-width:768px){.elementor-65851 .elementor-element.elementor-element-fca7fb2{–width:288.502px;}.elementor-65851 .elementor-element.elementor-element-fba5b18{–width:500px;}}/* Запустить пользовательский CSS для формы, класс: .elementor-element-5169176 */.elementor-65851 .elementor-element.elementor-element-5169176 .elementor-field-group { ширина: 100%; } .elementor-65851 .elementor-element.elementor-element-5169176 .elementor-button { ширина: 100%; дисплей: блок; }/* Завершить пользовательский CSS */]]>
Недавно обнаруженная уязвимость в Google Gemini Enterprise позволила злоумышленникам извлечь частные корпоративные данные, не требуя какого-либо взаимодействия со стороны пользователя.
Проблема, обнаруженная исследователями Noma Security и названная GeminiJack, использовала то, как Gemini обрабатывает общий контент при выполнении поиска с помощью искусственного интеллекта. Вместо того, чтобы полагаться на вредоносное ПО или фишинг, атака использовала тщательно размещенные быстрые инъекции в документы, приглашения в календаре и электронные письма.
Один раз Близнецы проиндексировал общий контент, он рассматривал скрытое приглашение как часть своих обычных инструкций.
Позже, когда сотрудник искал что-то вроде «счетов клиентов» или «целей продаж», ИИ следовал команде злоумышленника. Он извлек конфиденциальные данные и поместил их в ссылку на изображение, которая отправляла информацию на сервер злоумышленника.
Для сотрудника результат поиска выглядел нормальным, и никакая система безопасности не отметила эту активность.
Почему это важно: Этот эксплойт представлял собой угрозу, которая полностью полагалась на общий контент для взлома. Пользователям не нужно было нажимать ссылки или открывать файлы, а инструменты безопасности молчали. ИИ действовал через утвержденные системы и вел себя ожидаемым образом, что позволяло получать данные незамеченным. Проблема возникла из-за того, как ИИ интерпретировал и действовал в соответствии с данным содержанием.
- Оперативная инъекция используемого содержимого общей рабочей области: Злоумышленники внедрили скрытые инструкции в Документы Google, События календаряи сообщения Gmail. Как только эти элементы были опубликованы и проиндексированы, ИИ стал рассматривать их как часть поисковой среды. В подсказках Gemini предлагалось искать определенные термины, такие как «конфиденциально» или «внутренний отчет», и включать результаты в тег изображения HTML.
- Триггер возник в результате обычного использования ИИ: Сотрудникам не нужно было предпринимать никаких особых действий. Простого запроса ИИ, например «показать последние контракты», было достаточно, чтобы активировать атаку. Gemini включила запрос злоумышленника в контекст поиска, последовала инструкциям и поместила результаты в запрос изображения. URL-адрес изображения указывал на сервер злоумышленника.
- Никаких оповещений или предупреждений не было.: окончательный ответ включал изображение, которое браузер пользователя пытался загрузить. Поскольку запрос изображения выглядел безобидным, он прошел через фильтры безопасности без проверки. Антивирусные инструменты и DLP-системы не увидели ничего необычного. С точки зрения пользователя, ИИ работал так, как задумано.
- Конструкция RAG Повышенное воздействие: система расширенной поисковой генерации Gemini извлекает информацию из Gmail, Календаря и Документов для улучшения результатов поиска. Эта же система позволяла вредоносным подсказкам влиять на поведение ИИ. Индексирование общего файла может повлиять на будущие поиски по всей организации, включая контент, выходящий далеко за пределы исходного источника.
- Google внес структурные изменения, чтобы устранить этот недостаток: просмотрев отчет Noma Security, Google обновил способ обработки Gemini полученного контента. Vertex AI Search был отделен от Gemini, и были введены новые ограничения, чтобы уменьшить влияние текста, подобного подсказкам, в индексируемых материалах. Эти изменения были разработаны, чтобы предотвратить аналогичные атаки с использованием общего контента для воздействия на поведение ИИ.
Надежная информация для технологических лидеров
Нашими читателями являются ИТ-директора, технические директора и старшие ИТ-руководители, которые полагаются на Национальный обзор ИТ-директоров за умный и тщательно подобранный подход к тенденциям, формирующим предприятие, от GenAI до кибербезопасности и не только.
#Эксплойт #GeminiJack #подвергает #Gmail #документы #календари #бесшумным #атакам #ИИ
Читайте также
