Как и многие компании в условиях бума генеративного искусственного интеллекта, SPI Logistics стремилась добавить автоматизацию на основе искусственного интеллекта в свои бизнес-процессы. Сначала ей требовалась платформа автоматизации ИТ, которую было бы легко использовать как разработчикам, так и небольшой команде ИТ-операторов.
Компания по управлению логистикой и грузовым перевозкам в Суррее, Британская Колумбия, начала модернизировать свою архитектуру с монолиты в микросервисы более двух лет назад. Микросервисынабор слабосвязанных компонентов, которые работают независимо, стали популярными за последние пять лет для управления сложными облачными распределенными приложениями, где каждая команда DevOps может взять на себя ответственность за единую логическую часть общего рабочего процесса микросервисов.
Тем не менее, организации, внедряющие микросервисы, также должны корректировать свои рабочие процессы, чтобы связать бизнес-процессы с базовой платформой распределенных приложений. Первоначально оперативная группа SPI из четырех человек использовала комбинацию Шаговые функции AWS бессерверная среда приложений, управляемых событиями, и открытый исходный код Апач воздушный поток для управления рабочим процессом.
Но когда в 2021 году количество микросервисов SPI увеличилось, и компания начала рассматривать возможность добавления в свой ассортимент приложений искусственного интеллекта, ее ИТ-персонал понял, что ей нужна более формально упакованная альтернатива.
«Мы не компания-разработчик программного обеспечения, хотя программное обеспечение является неотъемлемой частью [of the business]«Поэтому нам нужно было принять решения о том, как ускорить разработку без ущерба для безопасности и сосредоточиться на создании продуктов».
SPI сравнивает оркестровку микросервисов с хореографией
В 2022 году команда Перальты оценила альтернативы своему внутреннему подходу к рабочему процессу микросервисов и наткнулась на инструменты оркестровки микросервисов — одну из двух основных категорий управления микросервисами, другую — хореографию микросервисов.
«У нас были некоторые последовательности сервисов синхронизации данных, которые были очень совместимы с оркестрацией, и мы выполняли оркестровку данных с помощью Airflow, и это было здорово. Но это больше для загрузки нашего хранилища данных, чем мы и занимаемся до сих пор», — сказал Перальта. «Но мы начали заниматься чем-то, для чего Airflow не был предназначен: большим количеством транзакционных операций. И мы решили изучить что-то, что более совместимо с этим».
Инструменты оркестрации микросервисов используйте централизованную плоскость управления для управления последовательно упорядоченными шагами рабочего процесса, которые распределены между вычислительными узлами, называемыми рабочими. Хореография микросервисов распределяет рабочие процессы с использованием более слабосвязанной системы, управляемой событиями. Оркестровка микросервисов позволяет лучше контролировать рабочие процессы, но оркестраторы микросервисов могут представлять собой единую точку отказа, если ими плохо управлять.
AWS Step Functions можно использовать в любой тип рабочего процесса. Хореографией микросервисов также можно управлять с помощью архитектур, управляемых событиями, таких как Апач Кафка и Amazon EventBridge. Инструменты оркестрации микросервисов включают Temporal; Камунда; и Conductor с открытым исходным кодом, созданный в Netflix и выпущен в открытый исходный код в 2016 году.
SPI рассмотрела коммерческие инструменты оркестрации микросервисов от Camunda, самостоятельно реализовав оркестрацию микросервисов с помощью AWS Step Functions и инструментов, отличных от Airflow, для управления данными, а также самоуправляемого Netflix Conductor.
По словам Перальты, модель ценообразования AWS Step Functions взимает плату за переход состояния или каждый раз при выполнении шага рабочего процесса и быстро станет дорогой в рамках транзакционных рабочих процессов SPI. Между тем, Conductor выделялся своим подходом к планированию вычислительных узлов или рабочих процессов.
«Проводник — это система очередей. Мы настраиваем очередь задач, и работники вызывают ее на работу», — сказал он. «Разница может показаться небольшой, но тогда вы можете получить очень общие рабочие процессы, а оркестратор будет управлять ограничением скорости… Вы масштабируете свою систему, не затрагивая оркестратор. Я думаю, это делает ее более надежной».
По мнению Перальты, предоставление учетных данных безопасности только тем работникам, которые в них нуждаются, также более безопасно, чем использование системы оркестрации, которая передает рабочие нагрузки ожидающему набору уполномоченных работников через подключение к Интернету.
Дирижер бежит по Кластер Кубернетес, который при необходимости может автоматически перезапускать контейнеризованные рабочие нагрузки в оркестраторе, чтобы повысить устойчивость этой потенциальной единой точки отказа. Но, учитывая сложность управления Kubernetes помимо управления микросервисами, SPI потребуется помощь поставщика, чтобы поддерживать его работу.
В конце концов Перальта столкнулся с Orkes, поставщиком облачных управляемых услуг, основанным создателями Conductor для запуска инфраструктуры оркестрации микросервисов для предприятий. Год назад SPI запустила Orkes Cloud в производство.
«В проводнике имеется множество конфигураций движущихся частей, позволяющих оптимизировать его для уменьшения задержки и производительности, которые нам нужны. [And] вам необходимо иметь несколько работающих баз данных», — сказал Перальта. «Ценность [of Orkes] для нас огромен. Благодаря имеющейся у нас поддержке мы получаем множество функций, которые ранее вошли в версию с открытым исходным кодом».
Инструменты оркестрации микросервисов используют централизованную плоскость управления для упорядоченного управления рабочими процессами. Хореография микросервисов не имеет централизованной точки управления и использует систему, управляемую событиями.
В SPI новая эффективная платформа ждет приложения искусственного интеллекта
В этом месяце Оркс добавил набор готовых рабочих процессов для оркестрации микросервисов ИИ. Перальта сказал, что хочет попробовать их, поскольку компания надеется добавить генеративный ИИ и приложения на основе машинного обучения, которые заменят автоматизацию на основе правил в процессах обнаружения мошенничества и торгов на спотовом рынке грузовых перевозок.
Функция AI Orchestration от Orkes, которая поддерживает большие языковые модели, включая модели Microsoft. Второй пилотOpenAI ГПТ-4Google Вертексный ИИи векторные базы данных из Сосновая шишка и Плетениетакже позволяют включать в эти рабочие процессы задачи, управляемые человеком.
По словам Перальты, наличие оркестрации микросервисов, поскольку компания внедряет генеративный искусственный интеллект для анализа изображений и документов для классификации или обобщения доступных контрактов в процессе торгов, поможет SPI работать более эффективно.
“[Orkes Cloud] позволяет нам больше распараллеливать нашу работу, потому что у вас могут быть, например, бизнес-специалисты, разрабатывающие рабочие процессы, в то время как серверные разработчики работают над всеми частями развертывания, а операции обрабатывают доступ к API и доступ к базе данных», — сказал он. «На самом деле вы можете иметь весь рабочий процесс разработан с использованием задач-заполнителей [as it’s implemented].”
Нам нужно было принять решения о том, как ускорить разработку без ущерба для безопасности, и сосредоточиться на создании продуктов.
Эсекьель ПеральтаВице-президент по технологиям, SPI Logistics
Предприятия сталкиваются с ошеломляющим разнообразием вариантов рабочих процессов ИИ
По мере того как первоначальный ажиотаж вокруг генеративного искусственного интеллекта утихает и предприятия ищут способы его использования, соответствующие существующим рабочим процессам и практикам управления, поставщики практически со всех уголков ИТ-рынка соперничают за их внимание. К ним относятся поставщики хореографии и оркестрации микросервисов, а также платформы разработки на базе Kubernetes, такие как Красная шляпа OpenShift Наука о данных и новые Конвейеры MLSecOps от JFrog и других. Поставщики средств управления бизнес-процессами и интеграционная платформа как услуга Поставщики представляют собой совершенно отдельный набор инструментов, которые предприятия могут рассмотреть.
«Границы между всем этим размываются, потому что современные приложения по своей сути распределены», — сказал Мэтт Брейзер, аналитик Gartner. «Люди также осознают, что один большой [AI] модель — не лучший способ решения проблем. Часто бизнес-задачи представляют собой смесь классификации и создания контента, поэтому вам нужно соединить некоторые вещи воедино».
Решение о том, какие инструменты автоматизации ИТ использовать, будет зависеть от характера распределенных приложений, которые нужны бизнесу. По словам Брайзера, это, а также навыки, имеющиеся у ИТ-команд по управлению различными инструментами автоматизации, являются факторами, которые следует учитывать при выборе подхода к хореографии или оркестровке.
«Обычно я советую клиентам начинать с навыков человека, выполняющего оркестровку, который будет создавать и управлять этим рабочим процессом», — сказал он. «Эти вещи, как и любая интеграция, сломаются; выйдет новая версия, которая нарушит всю вашу оркестровку. Поэтому навыки человека, который создает и управляет этой оркестровкой, будут ключевыми».
Бет Паризо, старший обозреватель новостей TechTarget, является отмеченным наградами ветераном ИТ-журналистики. С ней можно связаться по адресу [email protected] или в Твиттере @PariseauTT.
