Столкнувшись с устройствами DGX от Nvidia, Apple демонстрирует компьютеры Mac с Thunderbolt 5, совместно запускающие модели искусственного интеллекта с триллионом параметров

1763847833
2025-11-22 21:00:00

Apple не заинтересована в том, чтобы позволить таким конкурентам, как Nvidia, получить преимущество в гонке ИИ. Чтобы оставаться конкурентоспособными, компания позволила своим существующим компьютерам Mac с поддержкой Thunderbolt 5 объединяться в более совершенные «кластеры искусственного интеллекта» для тандемной обработки моделей искусственного интеллекта, аналогично недавно выпущенным продуктам Nvidia DGX.

Ответ Apple Nvidia DGX? Мак, конечно

Это не неизведанная территория для Apple, но Thunderbolt 5 используется впервые. Эта возможность появится в macOS 26.2, которая в настоящее время находится в стадии бета-тестирования, и будет использовать платформу массивов искусственного интеллекта Apple с открытым исходным кодом, известную как MLX. По сути, это интерфейс прикладного программирования (API), который позволяет разработчикам создавать или тестировать новые модели ИИ и дорабатывать их с новыми функциями и возможностями.

Apple добилась этого не в одиночку; он сотрудничал с разработчиком Exo Labs для создания возможности тандемной обработки искусственного интеллекта с использованием API MLX. Инструмент известен как EXO 1.0, и он может обеспечить работу до четырех настольных компьютеров Mac Studio с Thunderbolt 5 или двух ноутбуков MacBook Pro, работающих на одних и тех же моделях искусственного интеллекта, которые могут быть намного больше, чем они могут обрабатывать в одиночку: до 1 триллиона параметров. Соединения Thunderbolt 5 позволяют системам работать как единое целое, объединяя свою унифицированную память в единый ресурс, к которому могут подключиться модели искусственного интеллекта.

(Фото: Брайан Вестовер/PCMag)

В ходе недавней веб-демонстрации члены команды разработчиков Apple показали нам четыре настольных компьютера Mac Studio с оборудованием M3 Ultra, объединяющих свои ресурсы для запуска модели с 1 триллионом параметров, известной как Kimi-K2-Thinking, потребляющей менее 500 Вт (Вт) энергии между ними, что намного меньше, чем потребляет один традиционный графический процессор в кластере искусственного интеллекта: до 700 Вт.

Read more:  Venmo запускает программу кэшбэка для дебетовых карт

Для тех, кто ведет счет, блоки Nvidia DGX Spark рассчитаны на потребление до 240 Вт при максимальной нагрузке, но такие известные разработчики, как Джон Кармак, возмущаются, подозревая снижение производительности перед выпуском. Подключение того же количества систем DGX Spark, что и демо-версия Mac Studio от Apple, теоретически может потреблять до 960 Вт, но это маловероятно. В любом случае, решение Apple может иметь здесь преимущество, особенно для разработчиков, заинтересованных в запуске нескольких кластеров. Что касается пропускной способности, то пока рано делать такие выводы.

Apple предоставляет свой первый чип M5 для доступа к MLX

Тем не менее, Apple была рада кричать с цифровых крыш о возможностях искусственного интеллекта своего чипа M5. недавняя запись в блоге. MacOS 26.2 позволяет разработчикам получать доступ к новым нейронным ускорителям M5 через MLX, а также повышает эффективность использования памяти в рабочих нагрузках искусственного интеллекта. Это делает показатель времени появления первого токена (TTFT) — насколько быстро модель генерирует свою первую порцию информации после запроса — более важным, поскольку он привязан к вычислениям, а вычислительная мощность Apple M5 велика.

Самым значительным обновлением процессоров Apple поколения M5 является нейронный ускоритель в каждом ядре графического процессора, который существенно повышает производительность искусственного интеллекта, как мы обнаружили в нашем обзоре M5 MacBook Pro 14.

Иконка информационного бюллетеня

Получите наши лучшие истории!

Любите все, что связано с Apple?

Изображение еженедельного краткого информационного бюллетеня Apple

Спасибо за регистрацию!

Ваша подписка подтверждена. Следите за своим почтовым ящиком!

MacBook Pro 14 дюймов (2025 г., M5)

(Фото: Брайан Вестовер/PCMag)

«Чип M5 обеспечивает специальные операции умножения матриц, которые имеют решающее значение для многих рабочих нагрузок машинного обучения», — говорится в сообщении в блоге Apple. «MLX использует структуру Tensor Operations (TensorOps) и Metal Performance Primitives, представленную в Metal 4, для поддержки функций нейронных ускорителей».

Эти достижения в вычислительной мощности M5 AI означают, что TTFT для большинства больших языковых моделей (LLM) резко сокращается. Оценивая свое оборудование M5 на модели Qwen, LLM, разработанной Alibaba Cloud, Apple обнаружила, что рейтинг TTFT M5 (в секундах) был до четырех раз выше, чем у его аналогов M4.

Рекомендовано нашими редакторами

График Apple TTFT для разных моделей, M4 и M5.

(Фото: Apple)

Как поясняется в сообщении, первый токен требует высокой вычислительной мощности, в то время как производительность рабочей нагрузки для всех последующих токенов в большей степени зависит от памяти. Это означает, что четырехкратный прирост производительности не может быть перенесен на всю подсказку, но Apple все же увидела общее улучшение производительности LLM на 19–27% для различных моделей с M5 по сравнению с аппаратным обеспечением M4 благодаря большей пропускной способности памяти.

Это потрясающая новость для всех, кто пользуется преимуществами функций Apple Intelligence в macOS, а также для тех, кто хочет разрабатывать искусственный интеллект на Mac. Однако, если вы действительно хотите ускорить такие рабочие нагрузки на MacBook, использование внешней видеокарты RTX может дать наилучшие результаты. То есть, по крайней мере, до тех пор, пока мы не увидим, как два ноутбука M5 MacBook Pro могут работать вместе.

О наших экспертах

Джо Осборн

Джо Осборн

Заместитель главного редактора по оборудованию

Опыт

Начав свою карьеру в PCMag в качестве стажера более десяти лет назад, я вернулся в качестве одного из редакторов, сосредоточившись на управлении ноутбуками, настольными компьютерами и компонентами. Имея 15-летний опыт работы, я работал в штате и публиковался в изданиях, посвященных обзору технологий, включая PCMag (конечно!), Laptop Magazine, Tom’s Guide, TechRadar и -. Попутно я тестировал и проверял сотни ноутбуков и помогал разрабатывать протоколы тестирования. У меня есть опыт тестирования всех видов ноутбуков и настольных компьютеров с использованием новейших инструментов. Я также хорошо разбираюсь в аппаратном и программном обеспечении видеоигр.

Прочитать полную биографию

Джон Мартиндейл

Джон Мартиндейл

Автор

Опыт

Джон Мартиндейл — технический журналист из Великобритании с 20-летним опытом освещения всевозможных компонентов ПК и связанных с ними гаджетов. Он пишет для ряда изданий, включая ExtremeTech, Digital Trends, Forbes, US News & World Report, Lifewire и других. Когда он не пишет, он заядлый игрок в настольные игры и читатель с особой привычкой быстро читать длинные манга-саги.

Джон рассказывает о новейших компонентах ПК, а также дает практические руководства по всем вопросам: от того, как сделать снимок экрана до настройки криптовалютного кошелька. Ему особенно нравятся сражения между ведущими технологическими гигантами в области процессоров и графических процессоров, и он изо всех сил старается не принимать чью-либо сторону.

Игровой ПК Джона построен на базе культового процессора 7950X3D, а его резервом является процессор 7900XTX. Это вся мощность, которая ему нужна, чтобы играть в легкие инди- и казуальные игры, а также в более требовательные симуляторы, такие как Kerbal Space Program. Он использует пару наушников Jabra Active 8 и беспроводную гарнитуру SteelSeries Arctis Pro и целый день печатает на механической клавиатуре Logitech G915.

Прочитать полную биографию
#Столкнувшись #устройствами #DGX #от #Nvidia #Apple #демонстрирует #компьютеры #Mac #Thunderbolt #совместно #запускающие #модели #искусственного #интеллекта #триллионом #параметров

Ещё по этой теме

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.