Междунареют ли крупные языковые модели о агентах искусственного интеллекта?

Во время сна Человеческий мозг обрабатывает разные воспоминания, консолидируя важные, отбрасывая те, которые не имеют значения. Что если ИИ мог бы сделать то же самое?

БилтКомпания, которая предлагает местные торговые и ресторанные сделки с арендаторами, недавно развернула несколько миллионов агентов в надежде сделать именно это.

Bilt использует технологии от стартапа под названием Читать Это позволяет агентам учиться на предыдущих разговорах и делиться воспоминаниями друг с другом. Используя процесс под названием «Sleeptime Compute», агенты решают, какую информацию хранить в своем долгосрочном хранилище памяти и что может потребоваться для более быстрого отзыва.

«Мы можем сделать одно обновление до [memory] Блок и поведение сотни тысяч агентов изменилось,-говорит Эндрю Фитц, инженер из искусственного интеллекта в Bilt. «Это полезно в любом сценарии, где вам нужен мелкозернистый контроль над контекстом агентов»,-добавляет он, ссылаясь на текстовое подсказку, приводящую к модели в время вывода.

Большие языковые модели обычно могут «вспоминать» вещи, если информация включена в контекст окна. яf Вы хотите, чтобы чат -бот запомнил ваш самый последний разговор, вам нужно вставить его в чат.

Большинство систем ИИ могут обрабатывать только ограниченное количество информации в окне контекста, прежде чем их способность использовать данные колеблется, и они галлюцинируют или запутываются. Человеческий мозг, напротив, способен подавать полезную информацию и вспомнить ее позже.

«Ваш мозг постоянно улучшается, добавляя больше информации, например, губку», – говорит Чарльз Пэкер, генеральный директор Letta. «С помощью языковых моделей это похоже на полную противоположность. Вы запускаете эти языковые модели в цикле достаточно долго, и контекст становится отравленным; они сорваются со счетом, и вы просто хотите сбросить».

Пэкер и его соучредитель Сара Вудерс ранее разработал Мемгптпроект с открытым исходным кодом, который направлен на то, чтобы помочь LLMS решить, какую информацию следует хранить в краткосрочной и долгосрочной памяти. С Леттой дуэт расширил свой подход, чтобы агенты учились на заднем плане.

Сотрудничество Bilt с Letta является частью более широкого толчка, чтобы дать AI возможность хранить и отозвать полезную информацию, которая может сделать чат-боты более умными и агенты менее подвержены ошибкам. Память остается недоразвитой в современном ИИ, что подрывает интеллект и надежность инструментов ИИ, по словам экспертов, с которыми я говорил.

Харрисон Чейз, соучредитель и генеральный директор Langchain, другой компании, которая разработала метод улучшения памяти в агентах искусственного интеллекта, говорит, что он видит память как жизненно важную часть контекстной инженерии, где пользователь или инженер решает, какую информацию подает в окно контекста. Langchain предлагает компаниям несколько различных видов памяти для агентов, от долгосрочных фактов об пользователях до воспоминаний о недавнем опыте. «Я бы сказал, память – это форма контекста», – говорит Чейз. «Большая часть работы инженера ИИ – это в основном получить модель правильного контекста [information].

Потребительские инструменты ИИ также постепенно становятся менее забывчивыми. В феврале, Openai объявлено Этот CHATGPT будет хранить соответствующую информацию, чтобы предоставить более персонализированный опыт для пользователей, хотя компания не раскрывает, как это работает.

Letta и Langchain делают процесс воспоминания более прозрачным для инженеров, создающих системы ИИ.

«Я думаю, что это очень важно не только для того, чтобы модели были открыты, но и для того, чтобы системы памяти были открыты», – говорит Клем ДеЛангю, генеральный директор платформы AI Hosting, обнимающего лицо, и инвестор в Letta.

Интересно, что генеральный директор Letta’s Packer намекает, что для моделей ИИ также может быть важно узнать, что забыть. «Если пользователь говорит:« Тот один проект, над которым мы работали, вытрите его из своей памяти », то агент должен быть в состоянии вернуться и задним числом переписать каждую память».

Понятие искусственных воспоминаний и мечтаний заставляет меня думать о Сон с мечтой об электрических овцах? Филипп К. Дик, умоляющий роман, который вдохновил стильный дистопический фильм Blade RunnerПолем Большие языковые модели еще не такие впечатляющие, как мятежные репликанты из истории, но их воспоминания, кажется, может быть таким же хрупкимПолем

Это издание Будет рыцарь Ай -лабораторный информационный бюллетеньПолем Прочитайте предыдущие информационные бюллетени здесь.