Австралия только что получила обновление вывода искусственного интеллекта благодаря новому центру обработки данных Groq в Сиднее

Компания Groq является лидером в области вывода ИИ и сегодня объявила о своей первой инфраструктуре ИИ в Азиатско-Тихоокеанском регионе, выбрав дата-центр Equinix в Сиднее, Австралия, в качестве предпочтительного места. Эта разработка является частью продолжающегося расширения глобальной сети центров обработки данных после запуска в США и Европе.

Инвестиции Groq делают быстрый, недорогой и масштабируемый вывод ИИ ближе к организациям и государственному сектору по всей Австралии.

В рамках этого партнерства Groq и Equinix создадут одну из крупнейших в стране высокоскоростных инфраструктурных площадок вывода искусственного интеллекта с объектом Groq мощностью 4,5 МВт в Сиднее, предлагающим до 5 раз более быструю и дешевую вычислительную мощность, чем традиционные графические процессоры и гиперскейлерные облака.

Используя Equinix Fabric, программно-определяемую службу межсетевого взаимодействия, организации в Азиатско-Тихоокеанском регионе получат выгоду от безопасного высокоскоростного межсетевого соединения с малой задержкой, обеспечивающего беспрепятственный доступ к GroqCloud для производственных рабочих нагрузок искусственного интеллекта, гарантируя полный контроль, соответствие требованиям и суверенитет данных.

Если вы когда-либо использовали LLM и видели «мышление», это может быть результатом ограниченности ресурсов вывода. Расширяя возможности вывода в этом регионе, пользователи, скорее всего, будут получать ответы быстрее, что приведет к улучшению качества обслуживания и увеличению вероятности того, что они вернутся.

– Реклама –

Groq уже работает с клиентами по всей Австралии, включая Canva, над предоставлением решений для вывода, адаптированных к потребностям их бизнеса, от улучшения качества обслуживания клиентов до повышения производительности сотрудников. Этот импульс отражает растущий спрос на системы LPU Groq в Азиатско-Тихоокеанском регионе, где проживает половина из двух миллионов пользователей GroqCloud.

“В мире недостаточно вычислительных ресурсов для создания искусственного интеллекта. Именно поэтому Groq и Equinix расширяют доступ, начиная с Австралии”.

Джонатан Росс, генеральный директор и основатель Groq

В мире искусственного интеллекта в каждом разговоре доминирует одна компания: NVIDIA. Их мощные графические процессоры (GPU) были бесспорными королями обучение массивные модели искусственного интеллекта, которые мы все используем, такие как ChatGPT, Claude и Llama.

Но обучение модели и с использованием модель – это две совершенно разные вещи.

Обучение — это разовая, чудовищно сложная задача, занимающая месяцы и миллиарды долларов. Использование модели, или «вывода», происходит миллионы раз каждую секунду, каждый раз, когда вы задаете вопрос.

Грок решил не конкурировать с NVIDIA в обучении. Вместо этого они с нуля создали новый тип чипа, предназначенный для одной и только одной цели: делать ИИ-выводы ошеломляюще быстрыми.

Они называют его LPU или блок языковой обработки.

Подумайте об этом так: графический процессор подобен огромному заводу общего назначения, который может построить целый автомобиль, от двигателя до покраски. LPU — это сверхспециализированная, молниеносная сборочная линия, которая просто ставит колеса, но может делать это в тысячу раз быстрее, чем завод общего назначения.

В результате появился ИИ, который не «думает». Это просто отвечает. Демо-версии Groq показывают модели, выдающие сотни токенов (слов) в секунду, что на порядок быстрее, чем то, к чему привыкло большинство из нас.

“Groq является пионером в области вывода ИИ, и мы рады, что они быстро масштабируют свою высокопроизводительную инфраструктуру по всему миру с помощью Equinix. Наши уникальные экосистемы и широкое глобальное присутствие продолжают служить шлюзом подключения для их клиентов и обеспечивают эффективные корпоративные рабочие процессы ИИ в масштабе”.

Сайрус Адаггра, президент Азиатско-Тихоокеанского региона, Equinix

Ожидается, что этот новый узел Groq Cloud будет введен в эксплуатацию в ближайшие месяцы. Учитывая, что в Азиатско-Тихоокеанский регион входят такие страны, как Китай, Сингапур и другие, это является огромным вотумом доверия австралийскому рынку технологий.

“Мы вступаем в новую эру, когда технологии имеют потенциал для значительного ускорения человеческого творчества. Учитывая растущую мощь Австралии в области искусственного интеллекта и вычислительной инфраструктуры, мы с нетерпением ждем возможности продолжать предоставлять более 260 миллионам человек возможность воплощать свои идеи в жизнь совершенно новыми способами”.

Клифф Обрехт, соучредитель и главный операционный директор Canva

Теперь поговорим о задержке.

Прямо сейчас, когда вы используете самые передовые модели искусственного интеллекта, ваш запрос передается от вашего компьютера под океаном по кабелям в огромный центр обработки данных в Соединенных Штатах, обрабатывается, а затем возвращается обратно. Это время туда и обратно значительно увеличивает задержку процесса. Когда это текст, это не является серьезной проблемой, но по мере того, как мы переходим к мультимедийным приложениям, работающим в режиме реального времени, задержка может быть значительной.

Физическое расположение оборудования Groq в Сиднее устраняет задержку в сети. Для разработчиков, создающих приложения искусственного интеллекта в Австралии, это меняет правила игры.

Это может открыть новую волну приложения искусственного интеллекта в реальном времени раньше это просто было невозможно. Подумайте об агентах службы поддержки клиентов на базе искусственного интеллекта, которые могут прерывать работу и реагировать естественным образом, о языковом переводе в реальном времени без неловких пауз или об инструментах разработчика, которые мгновенно предлагают код.

Суверенное преимущество ИИ

Вторая часть головоломки — это слово «суверен».

Предприятиям, которые используют конфиденциальные данные, например, в финансовом, здравоохранительном и оборонном секторах, этим организациям часто запрещается отправлять данные за пределы Австралии. Это означало, что им запретили использовать многие из лучших в мире инструментов искусственного интеллекта, которые размещены в США.

Размещая это высокопроизводительное оборудование искусственного интеллекта на австралийской земле, Groq дает этим критически важным отраслям возможность подключиться к искусственному интеллекту следующего поколения без ущерба для безопасности данных или суверенитета.

Для получения дополнительной информации перейдите по адресу https://groq.com/