Nvidia становится крупным производителем моделей с Nemotron 3

NVIDIA сделала состояние, поставляя чипы компаниям, работающим над искусственный интеллектно сегодня производитель микросхем сделал шаг к тому, чтобы стать более серьезным производителем моделей, выпустив серию передовых открытых моделей, а также данные и инструменты, которые помогут инженерам их использовать.

Этот шаг, который происходит в тот момент, когда такие компании, занимающиеся искусственным интеллектом, как OpenAI, Google и Anthropic, разрабатывают собственные все более мощные чипы, может стать защитой от того, чтобы эти компании со временем отклонились от технологий Nvidia.

Открытые модели уже являются важной частью экосистемы искусственного интеллекта, и многие исследователи и стартапы используют их для экспериментов, прототипирования и создания. Хотя OpenAI и Google предлагают небольшие открытые модели, они не обновляют их так часто, как их конкуренты в Китае. По этой и другим причинам открытые модели китайских компаний в настоящее время пользуются гораздо большей популярностью, отмечают эксперты. данные «Обнимающего лица»хостинг-платформа для проектов с открытым исходным кодом.

Согласно результатам тестов, предоставленным компанией перед выпуском, новые модели Nemotron 3 от Nvidia являются одними из лучших, которые можно загрузить, модифицировать и запустить на собственном оборудовании.

«Открытые инновации — это основа прогресса искусственного интеллекта», — заявил генеральный директор Дженсен Хуанг в своем заявлении перед новостью. «С помощью Nemotron мы превращаем передовой искусственный интеллект в открытую платформу, которая дает разработчикам прозрачность и эффективность, необходимые для создания агентных систем в большом масштабе».

Nvidia применяет более прозрачный подход, чем многие ее американские конкуренты, публикуя данные, используемые для обучения Nemotron — факт, который должен помочь инженерам легче модифицировать модели. Компания также выпускает инструменты, помогающие в настройке и тонкой настройке. Это включает в себя новую гибридную скрытую архитектуру модели смешанных экспертов, которая, по словам Nvidia, особенно хороша для создания агентов искусственного интеллекта, которые могут выполнять действия на компьютерах или в Интернете. Компания также запускает библиотеки, которые позволяют пользователям обучать агентов выполнять действия с использованием обучение с подкреплениемкоторый предполагает предоставление моделям смоделированных наград и наказаний.

Модели Nemotron 3 выпускаются в трех размерах: Nano, имеющий 30 миллиардов параметров; Супер, у которого 100 миллиардов; и Ultra, у которой 500 миллиардов. Параметры модели примерно соответствуют ее возможностям и громоздкости в эксплуатации. Самые большие модели настолько громоздки, что их приходится использовать на стойках с дорогим оборудованием.

Модельные основы

Кари Энн Бриски, вице-президент по генеративному программному обеспечению искусственного интеллекта для предприятий в Nvidia, сказала, что открытые модели важны для разработчиков ИИ по трем причинам: разработчикам все чаще приходится настраивать модели для конкретных задач; часто помогает передавать запросы разным моделям; и после обучения из этих моделей легче получить более разумные ответы, заставив их выполнить своего рода симуляцию рассуждений. «Мы считаем, что открытый исходный код является основой для инноваций в области искусственного интеллекта, продолжая ускорять мировую экономику», — сказал Бриски.

Гигант социальных сетей Meta выпустил первые продвинутые открытые модели под названием Лама в феврале 2023 года. Однако, поскольку конкуренция ужесточилась, Meta дала понять, что ее будущие выпуски могут не иметь открытого исходного кода.

Этот шаг является частью более широкой тенденции в индустрии искусственного интеллекта. За последний год американские фирмы отошли от открытости, стали более скрытными в своих исследованиях и с большей неохотой информируют своих конкурентов об их последних инженерных уловках.