Консалтинговый гигант McKinsey представляет собственный генеративный инструмент искусственного интеллекта для сотрудников: Lilli

McKinsey and Company, фирма с почти столетней историей, одна из крупнейшие консалтинговые агентства мирапопала в заголовки в начале этого года благодаря быстрому внедрению инструментов генеративного ИИ, заявив в июне, что почти половина из 30 000 сотрудников пользовались технологией.

Теперь компания представляет собственный инструмент искусственного интеллекта поколения: Лиллиновое чат-приложение для сотрудников, разработанное McKinsey’s «КлиенТехКоманда под руководством технического директора Джеки Райта. Инструмент предоставляет информацию, идеи, данные, планы и даже рекомендует наиболее подходящих внутренних экспертов для консалтинговых проектов, и все это на основе более чем 100 000 документов и стенограмм интервью.

«Если бы вы могли задать вопрос всей совокупности знаний McKinsey и [an AI] мог бы ответить, что это даст компании? Это именно то, чем является Lilli», — сказал старший партнер McKinsey Эрик Рот, руководивший разработкой продукта, в видеоинтервью с VentureBeat.

Назван в честь Лилиан Домбровски, первая женщина, нанятая McKinsey для роли профессиональных услуг еще в 1945 году, Lilli находится в стадии бета-тестирования с июня 2023 года и будет развернут в McKinsey этой осенью.

Рот и его сотрудники в McKinsey рассказали VentureBeat, что примерно 7000 сотрудников уже используют Lilli в качестве «минимально жизнеспособного продукта» (MVP) в качестве «минимально жизнеспособного продукта» и уже сократили время, затрачиваемое на исследования и планирование, с недель до часов, а в в других случаях от часов до минут.

«Только за последние две недели Лилли ответила на 50 000 вопросов, — сказал Рот. «Шестьдесят шесть процентов пользователей возвращаются к нему несколько раз в неделю».

Как работает ИИ Лилли от McKinsey

Рот предоставил VentureBeat эксклюзивную демонстрацию Lilli, показывающую интерфейс и несколько примеров ответов, которые он генерирует.

Интерфейс покажется знакомым тем, кто использовал другие общедоступные инструменты искусственного интеллекта на основе преобразования текста в текст, такие как ChatGPT от OpenAI и Claude 2 от Anthropic. в нижней части своего основного окна и генерирует свои ответы выше в хронологическом чате, показывая подсказки пользователя и последующие ответы Лилли.

Тем не менее, есть несколько функций, которые сразу же выделяются с точки зрения дополнительной полезности: Lilli также содержит расширяемую левую боковую панель с сохраненными подсказками, которые пользователь может копировать, вставлять и изменять по своему вкусу. Рот сказал, что категории для этих подсказок также скоро появятся на платформе.

Чат Gen AI и функции клиентских возможностей

Интерфейс включает в себя две вкладки, между которыми пользователь может переключаться: одна, «Чат GenAI», которая получает данные из бэкэнда более обобщенной большой языковой модели (LLM), и другая, «Возможности клиента», которая получает ответы от корпуса McKinsey из более чем 100 000 документов, стенограмм и презентаций.

«Мы намеренно создали оба опыта, чтобы узнать и сравнить то, что у нас есть внутри, с тем, что общедоступно», — сказал Рот VentureBeat по электронной почте.

Еще одно отличие заключается в источниках: хотя многие LLM специально не цитируют и не ссылаются на источники, на которые они опираются в своих ответах — заметным исключением является чат Microsoft Bing Chat на базе OpenAI — Lilli предоставляет целый отдельный раздел «Источники» под каждым отдельным ответом, вместе со ссылками и даже номерами страниц на конкретные страницы, с которых модель получила свой ответ.

«Мы идем на полную атрибуцию», — сказал Рот. «Клиенты, с которыми я разговаривал, очень взволнованы этим».

Для чего можно использовать Lilli от McKinsey

Имея так много доступной информации, для решения каких задач новый ИИ Лилли от McKinsey лучше всего подходит?

Рот сказал, что он предполагал, что консультанты McKinsey будут использовать Lilli почти на каждом этапе своей работы с клиентом, от сбора первоначальных исследований сектора клиента и конкурентов или сопоставимых фирм до составления планов того, как клиент может реализовать конкретные проекты.

Демонстрация Lilli, представленная VentureBeat, продемонстрировала такую ​​универсальность: Lilli смогла предоставить список внутренних экспертов McKinsey, имеющих право говорить о крупном ритейлере электронной коммерции, а также перспективы чистой энергии в США в течение следующего десятилетия и план. на строительство новой электростанции в течение 10 недель.

На протяжении всего этого ИИ четко цитировал свои источники внизу.

Хотя ответы иногда были на несколько секунд медленнее, чем у ведущих коммерческих LLM, Рот сказал, что McKinsey постоянно обновляет скорость, а также ставит качество информации выше скорости.

Кроме того, Рот сказал, что компания экспериментирует с возможностью загрузки клиентской информации и документации для безопасного частного анализа на серверах McKinsey, но сказал, что эта функция все еще находится в разработке и не будет развернута, пока не будет усовершенствована.

«У Лилли есть возможность загружать данные клиентов очень безопасным и надежным способом», — пояснил Рот. «Мы можем подумать о вариантах использования в будущем, когда мы будем объединять наши данные с данными наших клиентов или просто использовать данные наших клиентов на той же платформе для большего синтеза и исследования… все, что мы загружаем в Lilli, проходит обширную обработку. оценка комплаенс-рисков, включая наши собственные данные».

Технология под капотом

Лилли использует доступные в настоящее время LLM, в том числе разработанные Партнер McKinsey Cohere а также OpenAI на платформе Microsoft Azure, чтобы информировать о возможностях GenAI Chat и обработки естественного языка (NLP).

Однако приложение было создано McKinsey и действует как защитный слой, который проходит между пользователем и базовыми данными.

«Мы думаем о Lilli как о собственном стеке, — сказал Рот. «Таким образом, его собственный слой находится между корпусом и LLM. У него есть возможности глубокого обучения, у него есть обучаемые модули, но это комбинация технологий, которые объединяются для создания стека».

Рот подчеркнул, что McKinsey «независима от LLM» и постоянно изучает новые LLM и модели ИИ, чтобы увидеть, какие из них предлагают наибольшую полезность, включая старые версии, которые все еще поддерживаются.

В то время как компания надеется расширить свое использование на всех сотрудников, Рот также сказал, что McKinsey не исключает использования Lilli с белой маркировкой или превращения ее во внешний продукт для использования клиентами McKinsey или другими фирмами.

«На данный момент все обсуждения в игре», — сказал Рот. «Лично я считаю, что каждой организации нужна версия Лилли».