Недавно компания Google опубликовала отчет о безопасности, в котором говорится, что ее флагманский чат-бот Gemini с искусственным интеллектом сталкивается с крупномасштабными атаками со стороны коммерчески мотивированных злоумышленников со всего мира. Эти злоумышленники не пытаются нарушить работу служб, а используют «подсказки» в качестве оружия, пытаясь воспроизвести возможности Gemini посредством повторяющихся и интенсивных запросов.
Джон Халтквист, старший аналитик Google Threat Intelligence Group, рассказал NBC, что масштаб атаки на Gemini показывает, что этот тип техники, вероятно, стал или скоро станет обычным шаблоном атак на самостоятельно созданные инструменты искусственного интеллекта для малых и средних предприятий.
Отправка более 100 000 команд запроса одновременно: что такое атака дистилляции?
В ходе конкретной атаки, обнаруженной Google, злоумышленник отправил более 100 000 различных команд запроса за короткий период времени, намереваясь использовать эти ответы для обратного проектирования и восстановления рабочей логики модели и режима рассуждения. В сфере информационной безопасности этот метод атаки называется «Извлечение модели» или «Атака дистилляции».
В Google отметили, что эти злоумышленники в основном представляют собой частные компании или исследователи, стремящиеся получить конкурентное преимущество. Отправляя Близнецам тщательно продуманные вопросы, они пытались побудить модель раскрыть свои внутренние мыслительные процессы. Как только эти высококачественные данные будут получены, злоумышленники смогут обучать свои собственные модели с аналогичной производительностью при очень низких затратах и времени.
Этот тип атаки обычно не влияет на конфиденциальность или доступность данных для обычных пользователей, но представляет значительный риск интеллектуальной собственности для разработчиков моделей и поставщиков услуг. Google отметил, что это метод кражи интеллектуальной собственности, нарушающий условия обслуживания Google.
Получите высокую производительность при низких затратах: споры вокруг DeepSeek подчеркивают конкуренцию в отрасли
Атаки дистилляции процветают, потому что они позволяют опоздавшим использовать кратчайший путь. Этот тип технологии, по сути, позволяет меньшей «модели ученика» изучить результаты большой «модели учителя» для получения аналогичных возможностей, но не требует такого же уровня вычислительной мощности и затрат на исследования и разработки. Это не единичный инцидент. OpenAI ранее обвиняла китайского конкурента DeepSeek в использовании технологии дистилляции для обучения своей модели R1 путем извлечения данных из модели OpenAI, тем самым «бесплатно» для повышения ее технической прочности.
Отчет Google также подтверждает, что такое «кровососущее» поведение станет обычным явлением в отрасли. Злоумышленникам больше не нужно вторгаться на сервер, чтобы украсть программный код. Они могут по частям собрать воедино полную картину лучшей модели ИИ, как мозаику, через законные каналы запросов. Отчеты Google показывают, что компания успешно снизила риски с помощью механизмов защиты в реальном времени, предотвращающих утечку внутренней информации.
Канарейка в угольной шахте: следующей целью могут стать корпоративные модели
«Мы всего лишь канарейка в угольной шахте», — использовал Хультквист, чтобы описать текущую ситуацию Google, подразумевая, что они просто первые, кто обнаруживает опасность и что приближается еще больший шторм.
Хультквист отметил, что по мере того, как все больше компаний обучают свои собственные индивидуальные LLM, особенно модели, содержащие конфиденциальные бизнес-данные, их собственные знания также могут быть очищены. Например, по его словам, если LLM компании обучается на основе данных о принятии транзакционных решений за 100 лет, теоретически можно извлечь некоторые возможности.
＊Статья открыта для перепечатки партнерами, источник данных:«Эн-Би-Си»、«Блумберг»、Google Облакоисточник первой картинки:Unsplash
2026-02-13 08:10:00
1770998424
#Ваша #модель #искусственного #интеллекта #истощается #Gemini #подверглась #нападкам #со #стороны #дистилляции #предупреждая #компании #том #что #их #следующей #целью #должна #стать #собственная #LLM
Продолжение темы
