Стартап, связанный с Яном Лекуном, прокладывает новый путь к AGI

Если вы спросите Ян ЛеКунВ Кремниевой долине существует проблема группового мышления. Покинув Мету в ноябре, исследователь и светило искусственного интеллекта прицелился согласно ортодоксальному мнению, что большие языковые модели (LLM) приведут нас к общему искусственному интеллекту (AGI), порогу, на котором компьютеры соответствуют человеческому интеллекту или превосходят его. Все, заявил он в недавнее интервьюполучил «таблетку LLM».

21 января стартап Logical Intelligence из Сан-Франциско назначил ЛеКуна в свой совет директоров. Опираясь на теорию по задумке Лекуна Два десятилетия назад стартап утверждает, что разработал другую форму ИИ, лучше приспособленную к обучению, рассуждению и самокоррекции.

Компания Logical Intelligence разработала так называемую модель мышления, основанную на энергии (EBM). В то время как LLM эффективно предсказывает наиболее вероятное следующее слово в последовательности, EBM поглощает набор параметров — скажем, правила судоку — и выполняет задачу в этих пределах. Предполагается, что этот метод исключает ошибки и требует гораздо меньше вычислений, поскольку здесь меньше проб и ошибок.

Дебютная модель стартапа, Kona 1.0, может решать головоломки судоку во много раз быстрее, чем ведущие мировые LLM, несмотря на то, что она работает только на одном графическом процессоре Nvidia H100, по словам основателя и генерального директора Евы Боднии в интервью WIRED. (В этом тесте LLM не могут использовать возможности кодирования, которые позволили бы им «перебрать» головоломку.)

Logical Intelligence утверждает, что является первой компанией, создавшей работающую EBM, что до сих пор было всего лишь полетом академической фантазии. Идея заключается в том, чтобы Kona могла решать сложные проблемы, такие как оптимизация энергетических сетей или автоматизация сложных производственных процессов, в условиях, когда ошибки недопустимы. “Ни одна из этих задач не связана с языком. Это что угодно, только не язык”, – говорит Бодния.

Бодния ожидает, что Logical Intelligence будет тесно сотрудничать с AMI Labs, парижским стартапом, недавно запущенным Лекуном, который разрабатывает еще одну форму ИИ — так называемую модель мира, предназначенную для распознавания физических измерений, демонстрации постоянной памяти и прогнозирования результатов своих действий. Дорога к AGI, утверждает Бодния, начинается с наложения этих различных типов ИИ: LLM будут взаимодействовать с людьми на естественном языке, EBM будут решать задачи рассуждения, а модели мира помогут роботам действовать в трехмерном пространстве.

На этой неделе Бодния поговорила с WIRED по видеоконференции из своего офиса в Сан-Франциско. Следующее интервью было отредактировано для ясности и длины.

WIRED: Мне следует спросить о Янне. Расскажите мне о том, как вы познакомились, о его роли в руководстве исследованиями в Logical Intelligence и о том, какова будет его роль в совете директоров.

Бодния: У Янна большой академический опыт в качестве профессора Нью-Йоркского университета, но он уже много лет знакомится с реальной индустрией благодаря Мете и другим сотрудникам. Он видел оба мира.

Для нас он единственный эксперт по энергетическим моделям и различным типам связанных с ними архитектур. Когда мы начали работать над этим EBM, он был единственным человеком, с которым я мог поговорить. Он помогает нашей технической команде ориентироваться в определенных направлениях. Он был очень, очень практичен. Без Янна я не могу себе представить, чтобы мы так быстро расширялись.

Янн откровенно говорит о потенциальных ограничениях LLM и о том, какие модели архитектуры, скорее всего, будут способствовать продвижению исследований в области ИИ. Где вы стоите?

LLM — это большая игра в угадайку. Вот почему вам нужно много вычислений. Вы берете нейронную сеть, кормите ее почти всем мусором из Интернета и пытаетесь научить ее тому, как люди общаются друг с другом.

Когда ты говоришь, твой язык мне понятен, но не из-за языка. Язык — это проявление всего, что находится в вашем мозгу. Мои рассуждения происходят в каком-то абстрактном пространстве, которое я декодирую в язык. Я чувствую, что люди пытаются перепроектировать интеллект, имитируя интеллект.