OpenAI дает ChatGPT память

OpenAI сообщает, что память ChatGPT включена по умолчанию, а это означает, что пользователь должен активно ее отключать. Память можно очистить в любой момент, либо в настройках, либо просто приказав боту стереть ее. Как только настройка «Память» будет очищена, эта информация не будет использоваться для обучения модели ИИ. Неясно, какая именно часть этих личных данных используется для обучения ИИ. пока кто-то общается с чат-ботом. И отключение памяти не означает, что вы полностью отказались от обучения ваших чатов модели OpenAI; это отдельный отказ.

Компания также утверждает, что не будет хранить определенную конфиденциальную информацию в памяти. Если вы сообщите ChatGPT свой пароль (не делайте этого) или номер социального страхования (или это), Память приложения, к счастью, забудет. Чан также говорит, что OpenAI по-прежнему запрашивает отзывы о том, является ли другая личная информация, например этническая принадлежность пользователя, слишком чувствительной для автоматического сбора компанией.

«Мы думаем, что для этого примера есть много полезных случаев, но на данный момент мы научили модель избегать упреждающего запоминания этой информации», — говорит Джанг.

Легко увидеть, как функция памяти ChatGPT может пойти наперекосяк — случаи, когда пользователь мог забыть, что однажды спросил чат-бота о извращении, о клинике для абортов или о ненасильственном способе справиться со свекровью, только для того, чтобы напомнить об этом или позволить другим увидеть это в будущем чате. Как память ChatGPT обрабатывает данные о состоянии здоровья, также остается открытым вопросом. «Мы не позволяем ChatGPT запоминать определенные детали здоровья, но эта работа все еще продолжается», — говорит представитель OpenAI Нико Феликс. Таким образом, ChatGPT — это та же самая песня, только в новую эпоху, о постоянстве Интернета: посмотрите на эту замечательную новую функцию «Память», пока она не станет ошибкой.

OpenAI также не первая организация, которая экспериментирует с памятью в генеративном ИИ. Google сделал упор на «многооборотную» технологию в Gemini 1.0, собственный LLM. Это означает, что вы можете взаимодействовать с Gemini Pro, используя одноразовую подсказку — поочередно между пользователем и чат-ботом — или вести многоходовой непрерывный разговор, в котором бот «запоминает» контекст из предыдущих сообщений.

Компания LangChain, занимающаяся инфраструктурой искусственного интеллекта, разрабатывает модуль памяти, который помогает большим языковым моделям вспоминать предыдущие взаимодействия между конечным пользователем и моделью. Предоставление LLM долговременной памяти «может оказаться очень полезным для создания уникального опыта LLM — чат-бот может начать адаптировать свои ответы к вам как личности, основываясь на том, что он знает о вас», — говорит Харрисон Чейз, соучредитель и генеральный директор LangChain. «Отсутствие долговременной памяти также может стать причиной неприятных ощущений. Никто не хочет снова и снова говорить чат-боту, рекомендующему рестораны, что он вегетарианец».

Эту технологию иногда называют «сохранением контекста» или «постоянным контекстом», а не «памятью», но конечная цель одна и та же: сделать взаимодействие человека и компьютера настолько плавным, настолько естественным, что пользователь может легко забыть что чат-бот может запомнить. Это также потенциальное благо для компаний, развертывающих этих чат-ботов, которые могут захотеть поддерживать постоянные отношения с клиентом на другом конце.

«Вы можете думать об этом как о наборе токенов, которые добавляются к вашим разговорам», — говорит Лиам Федус, научный сотрудник OpenAI. «Бот обладает некоторым интеллектом, и за кулисами он смотрит на воспоминания и говорит: «Похоже, они связаны; позвольте мне объединить их». И это затем идет на ваш бюджет токенов».

Федус и Джанг говорят, что память ChatGPT далеко не соответствует возможностям человеческого мозга. И тем не менее, почти на одном дыхании Федус объясняет, что с памятью ChatGPT вы ограничены «несколькими тысячами токенов». Если только.

Является ли это сверхбдительным виртуальным помощником, которого потребителям технологий обещали на протяжении последнего десятилетия, или просто еще одной схемой сбора данных, которая использует ваши симпатии, предпочтения и личные данные, чтобы лучше обслуживать технологическую компанию, чем ее пользователей? Возможно и то и другое, хотя OpenAI может так не сказать. «Я думаю, что помощникам прошлого просто не хватало интеллекта, — сказал Федус, — и теперь мы приближаемся к этому».

Уилл Найт внес свой вклад в эту историю.