Представлено Gravitee
Растет разрыв между амбициями в области ИИ и операционной готовностью, поскольку компании стремятся доказать ценность ИИ раньше своих конкурентов. Во многих организациях все большее число агентов искусственного интеллекта развертывается и работает без каких-либо ограничений, и рано или поздно это будет иметь серьезные последствия, говорит Рори Бланделл, генеральный директор Gravitee.
«Организации спешат внедрять агенты ИИ, не имея необходимых инфраструктур безопасности или структурированных процессов адаптации», — объясняет Бланделл. “В результате мы считаем, что существует высокая вероятность того, что в течение следующих нескольких лет произойдет серьезная утечка данных, вызванная действиями агента за пределами своих предполагаемых полномочий, будь то по незнанию или из-за надзора со стороны людей-операторов. Это риск, который предприятия должны опередить сейчас, пока не стало слишком поздно”.
Согласно недавнему исследованию State of Agentic AI, проведенному Gravitee, 72% организаций уже используют агентные системы искусственного интеллекта.. Кроме того, 75% респондентов называют управление своей главной проблемой. Однако многие лидеры мирового бизнеса до сих пор не до конца осознают широту рисков, присущих их агентным экспериментам, особенно с учетом того, что количество агентов, которые они используют, увеличивается.
Риски ускоренного разрастания агентов
Проблемы, связанные с разрастанием агентов, сегодня напоминают те первые дни API: отдельные команды запускают своих собственных агентов для решения конкретных задач, от чат-ботов до автоматизации рабочих процессов, но без централизованного плана. Вскоре агенты начнут взаимодействовать с LLM, запускать действия или использовать конфиденциальные инструменты и данные, и все это без общего контроля или видимости производительности, состояния безопасности или затрат, и последствия могут быть далеко идущими.
«Вы столкнетесь с точно такой же проблемой, с которой столкнулись с услугами и микросервисами 10 или 15 лет назад», — говорит Бланделл. «Поскольку создается все больше агентов без централизованного контроля, становится практически невозможно отслеживать их поведение, гарантировать, что они работают эффективно или поддерживать критическую безопасность во всех взаимодействиях, происходящих постоянно между инструментами, LLM и агентами. Тогда у вас есть плохо контролируемые агенты с конфликтующими протоколами и неконтролируемым поведением, которое замедляет скорость внедрения инноваций, портит системы и фактически приводит к неэффективности, а не к их решению».
Скорость против инноваций
У давно существующих предприятий, в которых уже десятилетиями применялись меры безопасности, управления и контроля, предшествовавшие появлению ИИ, стоит еще одна задача: сбалансировать строгие протоколы безопасности для агентов и быть обогнанными конкурентами, которые быстрее и ловчее, или бросать агентов в стену и смотреть, что приживется. Те компании, которые бросаются в бой, возможно, подвергают себя серьезному риску, но, что интересно, они также продвигаются гораздо быстрее, говорит Бланделл.
«Если у вас еще нет необходимых мер безопасности или правильно структурированного способа внедрения большего количества агентов, вы начнете заниматься самоцензурой, и скорость снизится», — говорит Бланделл. «Поэтому вы рискуете, что бизнес не сможет достичь того, чего он должен достичь, и рискуете общим процветанием вашей компании. Другие предприятия, у которых нет этого багажа, смогут ускориться быстрее вас, и мы стремимся помочь предприятиям предотвратить это».
Роль централизованного управления и контроля
Теперь можно решить все эти проблемы одновременно с помощью централизованного уровня управления, который обеспечивает видимость всей агентной системы через унифицированный интерфейс. Внедрение такого решения, как Gravitee’s Agent Mesh, может значительно ускорить инновации практически сразу, особенно после того, как организация решит проблемы с производительностью, вызванные перегруженными и неэффективными агентами, монополизирующими ресурсы.
В основе сети лежит безопасный протокол связи, поскольку полезность агентов зависит от их способности координировать и безопасно обмениваться данными. Он использует открытый протокол Google Agent-to-Agent (A2A): проект с открытым исходным кодом, разработанный Google Cloud в партнерстве с более чем 50 другими компаниями, включая Gravitee. Протокол A2A управляет безопасным обменом информацией и координирует действия между автономными агентами ИИ, независимо от того, совпадают ли их базовые технологии или структуры, позволяя им обнаруживать, проверять подлинность безопасности и сотрудничать, обеспечивая защиту организаций.
Протокол A2A и другие инструменты управления агентами, такие как Gravitee’s Agent Mesh, предназначены для уменьшения дублирования, а также для обеспечения соблюдения политики. И это добавляет наблюдаемости и порядка, которые гарантируют, что многоагентные экосистемы управляемы, эффективны и соответствуют внутренней политике.
Когда в игру вступает управление
Учитывая нынешние темпы энтузиазма и экспериментов в области ИИ, большинство организаций не начинают свой путь к созданию агентного ИИ с управления — и им не следует этого делать, особенно на ранних стадиях, — говорит Бланделл. Однако четырехэтапная модель готовности ИИ может помочь в развитии бизнеса:
-
Первый этап: Проверка концепции и эксперименты.
-
Второй этап: Включение инструментов и LLM, а также использование одного агента.
-
Этап третий: Мультиагентное развертывание
-
Четвертый этап: Полностью управляемые, наблюдаемые и безопасные многоагентные экосистемы.
Хотя инструменты искусственного интеллекта и LLM становятся все более распространенными, настоящие многоагентные архитектуры остаются редкостью. Большинство организаций сегодня находятся где-то между первым и вторым этапами, говорит Бланделл, — и именно на этом им и следует находиться, продолжая тестировать, учиться и экспериментировать, прежде чем накладывать уровни управления.
«Откладывание управления на более поздний этап может показаться противоречивым, но на самом деле это не будет иметь смысла, если вы сначала не начнете понимать, что ИИ значит для вашей организации», — объясняет он. «Мы рекомендуем пройти все начальные этапы готовности ИИ и раннюю проверку концепций агентов, выяснив, где агенты подходят и как, прежде чем рассматривать стратегию управления. Вы не хотите быть заперты в структуре, которая не работает для многоагентной архитектуры, которая подходит для вашего бизнеса».
Организация, столкнувшаяся с беспорядочной, неуправляемой, многоагентной архитектурой, может подключить существующие API-интерфейсы агентов непосредственно к Gravitee Agent Mesh, без какого-либо риска для функционирования этой архитектуры.
«Для обновления до Agent Mesh требуется очень короткий период времени, чтобы направить все в нужные места и централизовать ваших агентов, начать отслеживать производительность и применять лучшие практики», — говорит он. «И тогда вы откроете возможность ускориться до полной зрелости ИИ».
Копните глубже: чтобы узнать больше о роли управления и контроля в стимулировании инноваций в области ИИ, и почему наблюдаемость имеет решающее значение для агентской стратегии, которая обеспечивает быстрый и эффективный результат. зайди сюда.
Кроме того, 6 ноября 2025 года Gravitee проведет в Нью-Йорке саммит A2A для лидеров, занимающихся вопросами агентного искусственного интеллекта, в партнерстве с The Linux Foundation. На мероприятии будет рассмотрено будущее межагентной оркестрации (A2A) и автономных корпоративных систем, где соберутся технологические лидеры из Google, Microsoft, Gartner и других, чтобы предоставить действенную информацию, которая поможет организациям справиться с разрастанием агентов и раскрыть весь потенциал принятия решений на основе искусственного интеллекта. Узнайте больше здесь.
Спонсорские статьи — это контент, созданный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко обозначены. Для получения дополнительной информации свяжитесь [email protected]
2025-08-19 16:10:00
1761948558
#Безопасное #масштабирование #агентного #ИИ #предотвращение #следующего #крупного #нарушения #безопасности
По теме
