1774179926
2026-03-22 11:11:00
Функция ЦЕРН не имеет ничего общего с сегодняшними агентами-жокеями искусственного интеллекта, которые в основном полагаются на заранее установленные веса и общие TPU и графические процессоры для создания своих помоев. ЦЕРН внедряет специальный искусственный интеллект с наносекундной скоростью в сам кремний только для того, чтобы удалить лишние данные.
Подобно питчеру высшей лиги, который приходит на детский праздник, посвященный отведению родителей в школу, ЦЕРН Тея Аррестад провел презентацию на виртуальном Саммит чешуи монстра ранее в этом месяце о выполнении ряда сверхстрогих требований, с которыми могут когда-либо столкнуться лишь немногие из ее сверстников.
По оценкам Ааррестада, каждый год БАК производит 40 000 ЭБ нефильтрованных данных датчиков, или примерно четверть размера всего Интернета. ЦЕРН не может хранить все эти данные. В результате «нам приходится в режиме реального времени сокращать эти данные до того уровня, который мы можем себе позволить сохранить».
Под «реальным временем» она подразумевает экстремально реальное время. Детекторные системы БАКа обрабатывают данные со скоростью до сотен терабайт в секунду, что намного больше, чем у Google или Netflix, чьи требования к задержке также гораздо легче удовлетворить.
Алгоритмы, обрабатывающие эти данные, должны быть чрезвычайно быстрыми», — сказал Ааррестад. — Настолько быстрыми, что решения приходится записывать в саму конструкцию чипа.
Разбить гамбургеры
В любой момент времени вокруг кольца с почти скоростью света носятся около 2800 сгустков протонов, разделенных интервалами в 25 наносекунд. Незадолго до того, как они достигнут одного из четырех подземных детекторов, специальные магниты сжимают эти сгустки вместе, чтобы увеличить вероятность взаимодействия. Тем не менее, прямое столкновение происходит невероятно редко: из миллиардов протонов в каждом сгустке во время пересечения действительно сталкиваются только около 60 пар.
Каждое столкновение создает несколько мегабайт данных, а в секунду происходит примерно миллиард коллизий, в результате чего получается около петабайта данных (приблизительно размер всей библиотеки Netflix).
Вместо того, чтобы пытаться перенести все эти данные на уровень земли, ЦЕРН счел более целесообразным создать гигантскую систему периферийных вычислений, чтобы вместо этого сортировать интересные биты на уровне детектора.
Гигантские периферийные вычисления
«Если бы у нас были бесконечные вычислительные ресурсы, мы могли бы рассмотреть все это», — сказал Аррестад. Но на самом деле сохраняется и анализируется менее 0,02% этих данных. Детекторы сами должны выделить сцены действия.
Детекторы, построенные на ASIC, буферизуют захваченные данные на срок до 4 микросекунд, после чего данные «падают со скалы», навсегда теряясь для истории, если они не сохраняются.
Принятием этого решения является «Триггер первого уровня», совокупность примерно 1000 FPGA, которые восстанавливают в цифровом виде информацию о событии из набора сокращенной информации о событиях, предоставляемой детектором по оптоволоконной линии со скоростью около 10 ТБ/сек. Триггер выдает одно значение: либо «принять» (1), либо «отклонить» («0»).
Принятие решения о сохранении или прекращении столкновения является задачей алгоритма обнаружения аномалий. Он должен быть невероятно избирательным, полностью отвергая более 99,7 процентов входных данных. Алго, ласково названный AXOL1TLобучается на «фоне» — тех областях Стандартной модели, которые уже в значительной степени изучены. Он знает типичную топологию стандартного столкновения, что позволяет мгновенно отмечать события, выходящие за эти границы. Как выразился Ааррестад, он ищет «редкую физику».
Алгоритм должен принять решение в течение 50 наносекунд. Только около 0,02% всех данных о столкновениях, или около 110 000 событий в секунду, обрабатываются, а затем сохраняются и передаются на уровень земли. Даже такое снижение пропускной способности приводит к тому, что на наземные серверы передаются терабайты в секунду.
Оказавшись на поверхности, данные проходят второй этап фильтрации, называемый «Триггер высокого уровня», который снова отбрасывает подавляющее большинство зафиксированных столкновений, выявляя только около 1000 интересных столкновений из 100 000 событий в секунду, проходящих через канал. Эта система имеет 25 600 процессоров и 400 графических процессоров для воспроизведения исходного столкновения и анализа результатов и производит около петабайта в день.
«Это данные, которые мы на самом деле проанализируем», — сказал Аррестад.
Оттуда данные реплицируются на 170 сайтах в 42 странах, где они могут быть проанализированы исследователями со всего мира с совокупной мощностью 1,4 миллиона компьютерных ядер.
Тепличная среда для ИИ
Детекторы БАКа представляют собой тепличную среду, с которой ИИ редко сталкивается. Настолько, что инженерам ЦЕРН пришлось создать свой собственный набор инструментов.
Конечно, уже существует множество библиотек реального времени для потребительских приложений, таких как наушники с шумоподавлением, такие как MLPerfMobile и MLPerfTiny. Но они даже близко не подходят к поддержке скорости потоковой передачи данных и сверхнизких задержек, которые требуются CERN.
Поэтому ЦЕРН научил модели машинного обучения «с самого начала быть небольшими», сказала она. Они были квантованы, сокращены, распараллелены и очищены только до основных знаний. Каждая операция на FPGA квантована. Для каждого параметра была определена уникальная разрядность, и они были сделаны дифференциальными, чтобы их можно было оптимизировать с помощью градиентного спуска.
Команда инженеров разработала транспилятор, HLS4MLкоторый будет писать модель в коде C++, предназначенном для конкретных платформ, чтобы ее можно было запускать на ускорителе или системе на кристалле, специальной FPGA или даже использовать ее для «печати кремния» на ASIC.
Архитектура детектора отличается от традиционной модели фон Неймана «память-процессор-ввод-вывод». Ничто не управляется последовательно. Скорее, это основано на «наличии данных», сказала она. «Как только эти данные станут доступны, начнется следующий процесс».
Самое главное, решения должны приниматься на кристалле — ничего нельзя передать даже в очень быструю память. Каждый элемент оборудования предназначен для конкретной модели. Решения принимаются во время разработки. Каждый уровень FPGA представляет собой отдельный вычислительный блок.
Значительная часть встроенного кремния занята предварительными вычислениями, чтобы сэкономить время на повторной обработке каждого калькулятора. Вывод каждого возможного ввода указан в справочной таблице.
Естественно, на эти кусочки кремния не поставишь огромные модели. Здесь нет места для масштабных трансформаций моделей глубокого обучения. Именно здесь ЦЕРН обнаружил, что древовидные модели очень мощные, по сравнению с методами глубокого обучения.
По опыту ЦЕРН, древовидные модели предлагают ту же производительность, но за небольшую цену, чем модели глубокого обучения. Это неудивительно, учитывая, что Стандартную модель можно рассматривать как набор табличных данных. Для каждого столкновения БАК выдает структурированный набор дискретных измерений.
Больше данных, пожалуйста
Ведётся поиск новых процессов, которые происходят менее чем в одном столкновении на триллион.
У него будут более мощные магниты, которые будут фокусировать лучи на очень маленьких точках. Размер сгустков протонов увеличится вдвое («поэтому увеличивается вероятность того, что эти протоны будут разговаривать друг с другом»).
Это означает гораздо больше коллизий и 10-кратное увеличение объема данных, что приводит к гораздо более плотной «сложности событий». Размер события увеличивается с 2 МБ до 8 МБ, но результирующая скорость данных увеличивается с 4 ТБ/сек до 63 ТБ/сек.
В то время как передовые лаборатории искусственного интеллекта создают все более крупные модели, ЦЕРН во многом движется в противоположном направлении, применяя агрессивное обнаружение аномалий, гетерогенно-квантованные преобразователи и другие приемы, чтобы сделать ИИ меньше и быстрее, чем когда-либо. При построении нашего понимания Вселенной иногда лучше знать, какую информацию следует выбросить. ®
#Яйцеголовые #ЦЕРН #сжигают #ИИ #кремнии #чтобы #остановить #поток #данных #Register
Ещё по этой теме
