1770880329
2026-02-12 07:00:00
Google заявляет, что ее флагманский чат-бот с искусственным интеллектом Gemini был наводнен «коммерчески мотивированными» субъектами, которые пытаются клонировать его, неоднократно задавая ему запросы, иногда с тысячами различных запросов, включая одну кампанию, которая задавала Gemini более 100 000 раз.
В отчете, опубликованном в четверг, компания Google заявила, что она все чаще подвергается «атакам дистилляции» или повторяющимся вопросам, призванным заставить чат-бота раскрыть свою внутреннюю работу. Google описал эту деятельность как «извлечение модели», при котором потенциальные подражатели исследуют систему на предмет закономерностей и логики, которые заставляют ее работать. Злоумышленники, похоже, хотят использовать эту информацию для создания или поддержки своего собственного ИИ, говорится в сообщении.
Компания считает, что виновниками в основном являются частные компании или исследователи, стремящиеся получить конкурентное преимущество. Представитель компании сообщил NBC News, что Google считает, что атаки происходили со всего мира, но отказался сообщить дополнительную информацию о том, что было известно о подозреваемых.
Масштаб атак на Gemini указывает на то, что они, скорее всего, распространены или вскоре будут распространены и против специальных инструментов искусственного интеллекта небольших компаний, сказал Джон Халтквист, главный аналитик группы Google Threat Intelligence Group.
«Мы будем канарейкой в угольной шахте в случае гораздо большего количества инцидентов», — сказал Халтквист. Он отказался назвать имена подозреваемых.
Компания считает дистилляцию кражей интеллектуальной собственности, говорится в сообщении.
Технологические компании потратили миллиарды долларов на разработку своих чат-ботов с искусственным интеллектом или больших языковых моделей и считают внутреннюю работу своих лучших моделей чрезвычайно ценной частной информацией.
Несмотря на то, что у них есть механизмы, позволяющие выявлять атаки методом дистилляции и блокировать стоящих за ними людей, крупные LLM по своей сути уязвимы для дистилляции, поскольку они открыты для всех в Интернете.
OpenAI, компания, стоящая за ChatGPT, в прошлом году обвинила своего китайского конкурента DeepSeek в проведении дистилляционных атак с целью улучшения своих моделей.
По словам Google, многие атаки были организованы с целью выявить алгоритмы, которые помогают Gemini «рассуждать» или решать, как обрабатывать информацию.
Хультквист отметил, что по мере того, как все больше компаний разрабатывают свои собственные LLM, обученные работе с потенциально конфиденциальными данными, они становятся уязвимыми для подобных атак.
“Допустим, ваш магистр права обучался 100 годам тайного мышления о том, как вы торгуете. Теоретически вы могли бы извлечь из этого кое-что”, – сказал он.
#Gemini #набрали #более #подсказок #при #попытке #клонирования
По теме
