Обогащение генеративного ИИ данными компании

RAG — это важная аббревиатура для всех, кто хочет создать ценность с помощью генеративного ИИ для данных своей организации. Взгляд назад на эту ключевую концепцию и лучшие подходы в бизнесе, позволяющие изменить ситуацию, в режиме собеседования 😉

Что означает RAG и как он используется?

Мик Леви: RAG — это английская аббревиатура, означающая «поколение с расширенным поиском». Это наиболее прагматичный способ оптимизировать результаты генеративного искусственного интеллекта на основе данных конкретной компании.

Кроме того, генеративный ИИ, в частности большие языковые модели (LLM), предназначены для того, чтобы дать правдоподобный ответ на любой заданный им вопрос во всех областях, но не обязательно правдивый ответ. Это называется галлюцинациями, и они представляют собой проблему номер 1 при распространении ИИ в организациях.

Действительно, поскольку мы желаем использовать генеративный ИИ В общественной организации или компании важно, чтобы модель могла достоверно отвечать на вопросы, особенно полезные для этой организации. Для этого эти очень широкие модели необходимо сузить до конкретных потребностей и данных организации. И это то, что RAG позволяет вам сделать.

Как ? Прикрепив к LLM один или несколько справочных документов и попросив его сосредоточить свои ответы в первую очередь на этой базе знаний. Таким образом, мы придаем больший вес организационным данным, чем всем другим общим данным, полученным LLM.

Почему RAG является наиболее интересным подходом к оптимизации результатов, предоставляемых генеративным ИИ?

Мик Леви: RAG действительно не единственный метод персонализации ответов LLM. На самом деле их четыре:

1. Ле быстрый инжиниринг, совершенствуя нашу манеру общения с LLM и предоставляя им примеры ожидаемых ответов, чтобы они могли черпать из них вдохновение. Затем мы говорим об одном выстреле или нескольких выстрелах.
2. RAG-подход, когда LLM предоставляют документы и просят сформулировать ответы, основываясь в первую очередь на информации, содержащейся в этих документах.
3. Точная настройказаключающийся в более глубоком изучении функционирования LLM для рассмотрения, в частности, взвешивания различных параметров, которые определяют его функционирование.
4. Создайте свою собственную модель ИИ порождающий : решение, доступное лишь немногим игрокам в мире, недоступное и бесполезное для большинства организаций.

Для компаний, которые хотят получить максимальную отдачу от своих информационных ресурсов и создать особую ценность, подход RAG, безусловно, является лучшим.

Для компаний, которые хотят получить максимальную отдачу от своих информационных ресурсов и создать особую ценность, подход RAG, безусловно, является лучшим. В то же время он самый эффективный, самый быстрый и самый надежный: в каком-то смысле самый КОРОЛЕВСКИЙ.

Примеры применения RAG?

Мик Леви: Примеры очень многочисленны. Мы должны искать везде, где есть деятельность, требующая использования баз знаний или документов. Например, для службы поддержки, в которой консультантам необходим упрощенный доступ к информации базы знаний и всем ранее решенным заявкам в службу поддержки.

В маркетинге, где мы можем помочь в написании нового контента на основе всего предыдущего контента. В продуктовых отделах мы можем помочь в написании описаний продуктов на основе уже написанных. Использование безгранично!

Почему RAG так важно выделиться в своей области?

Мик Леви: Это вопрос, который следует задать прежде всего. Почему я хочу оптимизировать модель, которую использую, для какой цели и чего достичь? Генеративные iAs, дополненные RAG, являются замечательным инструментом для создания ценности с того момента, как мы четко определили способы использования и причины, которые сделали возможным их выбор.

Налить получите конкурентное преимущество с помощью генеративного искусственного интеллекта, мы должны перейти к вариантам использования, специфичным для организации, которые учитывают ее методы работы, ее процессы, ее потребности, ее клиентов, ее миссии. Это станет возможным только за счет использования данных организации, и RAG является первым шагом на пути к тому, чтобы это стало возможным.

Какие проблемы необходимо преодолеть, чтобы получить оптимальный подход RAG?

Мик Леви: Прежде всего, необходимо решить вопросы ИТ-архитектуры, чтобы обеспечить хорошую связь между LLM и документальными базами. Решения существуют как в облаке, так и локально.

Если технологическая проблема далека от непреодолимой, то реальная проблема касается данных и документов, предоставленных КГР. Они должны быть контролируемыми и качественными. Это значит, что информация доказанная, проверенная, своевременная, свежая и по возможности непротиворечивая…

Это реальная задача, которая требует установления особого управления этими неструктурированными данными. Трудность связана с тем, что все компании и организации десятилетиями работали над своими структурированными данными (в основном числами, организованными в строки и столбцы в базах данных компаний).

Несмотря на приобретенный опыт, с этими структурированными данными по-прежнему существует множество проблем с качеством данных. Однако когда мы используем LLM, мы также должны добавлять неструктурированные данные, которые, согласно исследованию IDC, представляют 90% доступных данных. Поэтому задача колоссальная. Однако существует и потенциальное создание стоимости, и RAG — это первый шаг к тому, чтобы воспользоваться этим преимуществом.

👉 Все наши новости можно найти в режиме реального времени, подписавшись на нас. LinkedIn 👈

✍️Интервью проведено с Фредерик Эскюдье – Издательство Лес Эхос.