Сверхсжатые и более эффективные модели искусственного интеллекта для промышленности

ИИ быстро превратился в важную стратегическую основу. Это уже не просто шумиха, а уже вошедшая в операционный бизнес во многих секторах. Однако наряду с этим энтузиазмом скрывается техническая и экономическая реальность: модели искусственного интеллекта, особенно самые мощные модели больших языков (LLM), становятся больше, чрезвычайно энергоемкими и дорогостоящими для эффективного масштабирования.

Растущий размер этих LLM стимулирует постоянно растущий спрос на вычислительные ресурсы, высокопроизводительные графические процессоры и обширную облачную инфраструктуру. Для многих компаний общие эксплуатационные расходы непомерно высоки.

Квантовые тензорные сети предлагают более экономичные подходы

В ответ появляется новый подход, который делает ИИ более доступным, эффективным и адаптируемым к местным условиям: квантовые тензорные сети. Эти сети предлагают несколько преимуществ по сравнению с традиционными методами сжатия. Вместо создания все более крупных моделей акцент смещается на сжатие существующих моделей путем тензоризации. Это процесс идентификации слоев в нейронной сети, которые подходят для сокращения и разбиения больших матриц внутри этих слоев на более мелкие, взаимосвязанные матрицы и квантования, снижения числовой точности. Это может уменьшить размеры моделей до 95 процентов, сохранив при этом производительность и значительно повысив эффективность.

По своей сути технология реструктурирует представление нейронных сетей, чтобы исключить ненужные параметры, сохраняя при этом полную функциональность сети. Этот метод работает путем выявления и сохранения только наиболее значимых корреляций между точками данных.

В результате получается модель ИИ, достаточно компактная, чтобы работать на устройствах, ранее исключенных из развертывания ИИ. Упрощая внутреннюю архитектуру, сжатые модели также быстрее обрабатывают запросы (измеряется в токенах в секунду), что приводит к более быстрому взаимодействию с пользователем, ответам системы и получению результатов. Энергоэффективность также повышается: поскольку для каждого вывода требуется меньше операций, спрос на энергию может упасть до 50 процентов, что снижает эксплуатационные расходы. Наконец, есть решающее преимущество аппаратной независимости. Эти сверхсжатые модели можно развертывать на широком спектре платформ, от больших серверов до периферийных устройств, избегая зависимости от редких или дорогих кластеров графических процессоров и подключения к Интернету.

Хотя теоретические основы тензорных сетей заложены в квантовой механике, их применение в искусственном интеллекте полностью совместимо с традиционной цифровой инфраструктурой. Таким образом, идеи квантовой науки напрямую приносят пользу традиционным вычислительным средам.

В результате получается гораздо меньшая модель ИИ, которая работает так же хорошо, а в некоторых случаях даже лучше, чем исходная LLM.

От облака до периферии: локализованные модели ИИ

До сих пор в секторе искусственного интеллекта доминировала облачная архитектура. Но сверхсжатые модели ИИ фундаментально меняют эту парадигму. Будучи намного меньшими, более эффективными и более дружелюбными к процессорам, они позволяют перейти к моделям локального развертывания на так называемой периферии. Этот подход не только более практичен, но и открывает множество новых возможностей применения.

Примеры можно найти во многих отраслях. Например, в транспортных средствах системы искусственного интеллекта для навигации и безопасности могут работать непосредственно на борту, независимо от облачных сервисов, которые могут выйти из строя в туннелях или отдаленных районах. Бытовая электроника и устройства «умного дома» теперь могут предлагать функции искусственного интеллекта в автономном режиме, что значительно повышает конфиденциальность и удобство использования. В промышленной автоматизации периферийный ИИ может контролировать машины и оптимизировать рабочие процессы без отправки конфиденциальных данных извне, что является особым преимуществом для регулируемых секторов, таких как медико-биологические науки, или для мест без стабильного подключения к Интернету.

В здравоохранении конфиденциальность является основным этическим требованием, поскольку записи пациентов относятся к наиболее конфиденциальным наборам данных. Сжатые модели искусственного интеллекта позволяют запускать сложные модели на локальных устройствах или в безопасных частных облаках, сохраняя данные пациентов за брандмауэром организации.

Оборона также получает выгоду от сжатых моделей искусственного интеллекта. Современные военные операции все больше полагаются на анализ данных в реальном времени с дронов, систем наблюдения и средств принятия тактических решений. Поскольку эти системы часто развертываются в удаленных или враждебных районах без стабильного облака или подключения к Интернету, локальные решения искусственного интеллекта имеют важное значение.

Сжатые модели искусственного интеллекта для более устойчивых промышленных процессов

Одна из наиболее убедительных проверок сжатых моделей искусственного интеллекта прошла на заводе-изготовителе в Европе. Цель заключалась в том, чтобы уменьшить размер существующей модели искусственного интеллекта производителя, используемой при производстве автомобильных компонентов, без ущерба для производительности.

Благодаря использованию передовых методов сжатия на основе тензорных сетей размер модели был значительно уменьшен. В результате модель искусственного интеллекта обеспечила примерно вдвое большую скорость реагирования и улучшила интеграцию с существующими системами предприятия, сократив потребление энергии для работы модели примерно на 50 процентов. Сжатая модель искусственного интеллекта позволила локализовать принятие решений в режиме реального времени — в области робототехники, контроля качества или обслуживания — без отправки данных на удаленные серверы или использования нестабильного доступа в Интернет.

Для производственных компаний, приверженных принципам бережливого производства и экологической ответственности, такая экономия означает не только измеримое снижение затрат, но и более быстрый путь к более разумному и эффективному производству.

Сжатый ИИ открывает новые возможности для промышленности

От производства до операционной — сжатые модели позволяют быстрее получать аналитические данные, повышать энергоэффективность и обеспечивать большую конфиденциальность данных для организаций без ущерба для точности.

ИИ больше не определяется размером, а изобретательностью. Сжатый ИИ представляет собой решающую эволюцию в том, как мы разрабатываем, развертываем и используем модели машинного обучения. Это не означает меньшую производительность – скорее, это означает, что отрасль готова как к настоящему, так и к будущему.

Роман Орус — сооснователь и главный научный сотрудник компании Мультивселенные вычисления

Читать далее

Почему знания являются величайшим оружием в век информации – Узнайте, как построить подход к искусственному интеллекту, основанный на человеческих знаниях, чтобы ваша организация могла работать на основе максимально возможной информации.

Сокращайте, используйте повторно, экономьте на искусственном интеллекте и данных – Кирсти Биддискомб из NetApp объясняет преимущества экономного обращения с данными и то, как это поможет вашей организации работать более эффективно.