Злоумышленники более 100 000 раз подсказывали Gemini, пытаясь клонировать его, сообщает Google

В четверг Google объявлено что «коммерчески мотивированные» субъекты попытались клонировать знания из своего чат-бота Gemini AI, просто подсказывая ему. Сообщается, что в ходе одного состязательного сеанса модель была использована более 100 000 раз на разных языках, кроме английского, в ходе сбора ответов якобы для обучения более дешевого подражателя.

Google опубликовала результаты ежеквартальной самооценки угроз своим собственным продуктам, в которой компания представлена как жертва и герой, что не является чем-то необычным в этих самостоятельных оценках. Google называет незаконную деятельность «извлечением модели» и считает это кражей интеллектуальной собственности, что является несколько напряжённой позицией. данный что LLM Google был создан из материалов, взятых из Интернета без разрешения.

Google также не новичок в практике подражания. В 2023 году Информация сообщил что команду Google Bard обвинили в использовании результатов ChatGPT с ShareGPT, общедоступного сайта, на котором пользователи делятся разговорами с чат-ботами, для обучения своего собственного чат-бота. Старший исследователь искусственного интеллекта Google Джейкоб Девлин, создатель влиятельной языковой модели BERT, предупредил руководство заявило, что это нарушает условия обслуживания OpenAI, затем подал в отставку и присоединился к OpenAI. Google опроверг это утверждение, но, как сообщается, прекратил использовать данные.

Несмотря на это, условия обслуживания Google запрещают людям извлекать данные из моделей ИИ таким образом, и отчет представляет собой окно в мир несколько теневой тактики клонирования моделей ИИ. Компания считает, что виновниками являются в основном частные компании и исследователи, ищущие конкурентного преимущества, и заявляет, что атаки происходят со всего мира. Google отказался назвать имена подозреваемых.

Сделка с дистилляцией

Обычно в отрасли эту практику обучения новой модели на результатах предыдущей модели называют «дистилляция», и это работает следующим образом: если вы хотите создать свою собственную большую языковую модель (LLM), но вам не хватает миллиардов долларов и лет работы, которые Google потратил на обучение Gemini, вы можете использовать ранее обученную LLM в качестве ярлыка.