Генеральный директор LangChain утверждает, что одни только лучшие модели не помогут запустить ваш ИИ-агент в производство

По мере того, как модели становятся умнее и мощнее, «привязи» вокруг них также должны развиваться. Эта «обвязочная инженерия» является продолжением контекстной инженерии, говорит Лангчейн соучредитель и генеральный директор Харрисон Чейз в новый подкаст VentureBeat Beyond the Pilot эпизод. В то время как традиционные средства ИИ, как правило, не позволяют моделям работать в циклах и вызывать инструменты, средства, специально созданные для агентов ИИ, позволяют им взаимодействовать более независимо и эффективно выполнять долгосрочные задачи.

Чейз также высказал мнение о приобретении OpenAI компании OpenClawутверждая, что его вирусный успех сводился к готовности «позволить ему разорваться» способами, на которые не пошла бы ни одна крупная лаборатория, и задается вопросом, действительно ли это приобретение приближает OpenAI к безопасной корпоративной версии продукта. «Тенденция в использовании средств заключается в том, чтобы фактически предоставить самой большой языковой модели (LLM) больше контроля над контекстной разработкой, позволяя ей решать, что она видит, а что нет», — говорит Чейз. «Теперь идея долговременного и более автономного помощника вполне жизнеспособна».

Отслеживание прогресса и поддержание согласованности

Хотя концепция, позволяющая LLM работать в цикле и вызывать инструменты, кажется относительно простой, ее трудно реализовать надежно, отметил Чейз. Некоторое время модели находились «ниже порога полезности» и просто не могли работать в цикле, поэтому разработчики использовали графики и писали цепочки, чтобы обойти это. Чейз указал на AutoGPT — когда-то самый быстрорастущий проект GitHub за всю историю — как на предостерегающий пример: та же архитектура, что и у лучших сегодняшних агентов, но модели еще не были достаточно хороши, чтобы надежно работать в цикле, поэтому он быстро исчез. Но по мере того, как LLM продолжает совершенствоваться, команды могут создавать среды, в которых модели могут работать в циклах и планировать на более длительные горизонты, и они могут постоянно совершенствовать эти инструменты. Раньше «невозможно было усовершенствовать подвесную систему, потому что вы не могли фактически запустить модель в подвесной системе», — сказал Чейз. Ответ LangChain на эту проблему — Deep Agents, настраиваемый универсальная подвеска. Построенный на основе LangChain и LangGraph, он имеет возможности планирования, виртуальную файловую систему, управление контекстом и токенами, выполнение кода, а также навыки и функции памяти. Кроме того, он может делегировать задачи субагентам; они специализируются на различных инструментах и конфигурациях и могут работать параллельно. Контекст также изолирован, то есть работа субагента не загромождает контекст основного агента, а большой контекст подзадачи сжимается в один результат для повышения эффективности токена. Все эти агенты имеют доступ к файловым системам, объяснил Чейз, и, по сути, могут создавать списки дел, которые они могут выполнять и отслеживать с течением времени. «Когда он переходит к следующему шагу, а именно ко второму, третьему или четвертому шагу из 200-шагового процесса, у него есть способ отслеживать прогресс и сохранять эту последовательность», — сказал Чейз. «По сути, все сводится к тому, чтобы позволить LLM записывать свои мысли по ходу дела». Он подчеркнул, что жгуты должны быть спроектированы так, чтобы модели могли сохранять согласованность при выполнении более длительных задач, и быть «податливыми» моделям, решающим, когда сжимать контекст в точках, которые они считают «выгодными». Кроме того, предоставление агентам доступа к интерпретаторам кода и инструментам BASH повышает гибкость. А предоставление агентам навыков, а не просто заранее загруженных инструментов, позволяет им загружать информацию, когда она им нужна. «Поэтому вместо того, чтобы жестко кодировать все в одну большую системную подсказку, — объяснил Чейз, — вы могли бы использовать системную подсказку меньшего размера: «Это основная основа, но если мне нужно сделать X, позвольте мне прочитать навык для X. Если мне нужно сделать Y, позвольте мне прочитать навык для Y». По сути, контекстная инженерия — это «действительно причудливый» способ сказать: что видит LLM? Потому что это отличается от того, что видят разработчики, отметил он. Когда разработчики-люди могут анализировать следы агентов, они могут проникнуть в «мышление» ИИ и ответить на такие вопросы, как: какое системное приглашение? Как он создается? Он статический или заполненный? Какие инструменты есть у агента? Когда он вызывает инструмент и получает ответ, как это представляется? «Когда агенты ошибаются, они ошибаются, потому что у них нет правильного контекста; когда они добиваются успеха, они добиваются успеха, потому что у них правильный контекст», — сказал Чейз. «Я думаю, что контекстная инженерия — это предоставление LLM нужной информации в правильном формате в нужное время». Слушайте подкаст, чтобы узнать больше о:

• Как LangChain построила свой стек: LangGraph в качестве основной опоры, LangChain в центре, Deep Agents на вершине.

• Почему песочницы кода станут следующим большим событием.

• Как будет развиваться другой тип UX по мере того, как агенты будут работать через более длительные интервалы времени (или непрерывно).

• Почему отслеживание и наблюдаемость являются основой создания действительно работающего агента.

Вы также можете послушать и подписаться на За пределами пилота на Спотифай, Яблоко или где бы вы ни получали свои подкасты.