Google представляет TurboQuant, который сохраняет производительность, сокращая при этом память ИИ на одну шестую
«Развитие искусственного интеллекта = взрыв памяти» Официальное потрясение рынка полупроводников
С появлением TurboQuant цены на акции «упали»… Промышленность: «Возможность продвинуть эру искусственного интеллекта на устройствах»
[서울=뉴시스]Репортер Чонмин Юн = Мировой рынок полупроводников трясется, поскольку Google представляет новую технологию, которая значительно сокращает использование памяти искусственного интеллекта (ИИ).
Это связано с растущими опасениями, что существующая кассовая формула «развитие ИИ = рост спроса на полупроводники» может быть нарушена. 26-го числа из-за этого эффекта резко упали цены на акции крупнейших компаний-производителей полупроводниковой памяти, таких как Samsung Electronics, SK Hynix и Micron Technology в США.
«Временная память» сжата в 6 раз… Google-версия «Deep Seek Moment»
24-го числа (по местному времени) компания Google Research представила технологию TurboQuant, которая максимизирует эффективность использования памяти моделями искусственного интеллекта.
Эта технология характеризуется сжатием «KV-кэша», базовой структуры модели большого языка (LLM), что позволяет сократить использование памяти почти на одну шестую при сохранении производительности.
KV Cache — это тип «временной памяти», которую ИИ использует для запоминания предыдущих разговоров и использования их для следующих ответов. По мере того как разговор становится длиннее, использование памяти быстро увеличивается, но с применением турбоквантового режима сложные и длинные контексты можно обрабатывать с гораздо меньшими ресурсами.
Фактически, в тесте на поиск конкретной информации в длинном документе было обнаружено, что он сохраняет ту же производительность, что и существующая прецизионная модель, даже после ее сжатия более чем в 4 раза. Индустрия оценивает это как «Google-версию Deep Seek Moment», которая потрясла рынок за счет максимизации эффективности.
Google Research опубликовала этот отчет в «Архиве» в апреле прошлого года.
Цены на акции падают, поскольку формула спроса на память дает сбой
Существующая индустрия искусственного интеллекта выросла за счет расширения аппаратного обеспечения, такого как графический процессор (GPU) Nvidia и память с высокой пропускной способностью (HBM) от Samsung и SK. По мере роста модели требуется больше памяти, и соответственно увеличивается спрос на полупроводники.
Однако существует мнение, что если технология, которая компенсирует потребность в памяти в программном обеспечении, такая как TurboQuant, будет коммерциализирована, «суперцикл» в полупроводниковой промышленности может замедлиться. Это означает, что формула «Рост технологий искусственного интеллекта означает увеличение спроса на память» может быть ослаблена.
Эти опасения немедленно отразились на цене акций. На фондовом рынке 26-го числа (по цене закрытия) цена акций Samsung Electronics упала на 4,7%, а SK Hynix – на 6,2% по сравнению с предыдущим днем. Мировые производители памяти, такие как Micron и SanDisk, также не смогли избежать спада.
Генеральный директор Cloudflare Мэтью Принс заявил 25-го числа.
«Катализатор популяризации ИИ» против «Оправдания получения прибыли»
С другой стороны, существует значительный оптимизм в отношении того, что раскрытие этой технологии действительно увеличит «пирог» на рынке памяти. Это связано с тем, что если снизить нагрузку на использование памяти, можно ускорить распространение «ИИ на устройстве» не только в центрах обработки данных, но также в смартфонах и ноутбуках.
Представитель отрасли заявил: «TurboQuant — это не технология, которая использует меньше памяти, а технология, которая обеспечивает ту же производительность с меньшими затратами», и добавил: «Весьма вероятно, что она будет работать в направлении расширения сферы использования ИИ».
Если нагрузка на память будет уменьшена, высокопроизводительный искусственный интеллект, который раньше был возможен только в центрах обработки данных, может распространиться на среды на устройствах, таких как смартфоны и ноутбуки. В этом случае анализ показывает, что установка высокопроизводительной памяти может расширяться вместе с увеличением общего спроса на устройства. Фактически было обнаружено, что TurboQuant способен максимизировать эффективность оборудования за счет повышения скорости вычислений до 8 раз при применении 4 бит на графическом процессоре NVIDIA H100.
Другой представитель отрасли прокомментировал: «Для компаний, занимающихся искусственным интеллектом, снижение затрат заставляет их пробовать более крупные модели и больше услуг. Технология сжатия может быть фактором, стимулирующим увеличение инвестиций в серверы».
Фондовый рынок рассматривает это падение фондового рынка как психологический фактор.
Джиюнг Хан, исследователь Kiwoom Securities, сказал: «Поскольку для фактической коммерциализации требуется время, весьма вероятно, что это послужило оправданием для фиксации прибыли после роста цен на акции в начале года, а не технических проблем».
◎ Сочувствующие СМИ Новости [email protected]
#Версия #Deep #Seek #от #Google.. #Какая #новая #технология #Google #потрясла #цены #на #акции #Samjeon #Nix
Продолжение темы
