Жетоны становятся дороже

ПРИМЕЧАНИЕ: я немного устал от метафоры «рычаг бета».

Представьте, что вы начинаете компанию, зная, что потребители не будут платить более 20 долларов в месяц. Вы думаете, классический капитальный альбом VC – Зарядка по стоимости, прибыль жертвы за рост. Вы сделали математику на CAC, LTV, все это. Но вот где это становится интересным: вы видели Диаграмма A16Z, показывающая расходы LLM, снижая 10 раз каждый годПолем

Итак, вы думаете: я сломаюсь даже сегодня по 20 долларов в месяц, и когда модели станут 10 раз дешевле в следующем году, бум – 90% поля. Потери временные. прибыль неизбежна.

Это так просто, что партнер VC может понять это:

Это понятная стратегия: «Стоимость вывода LLM упала на 3 каждые 6 месяцев, у нас все будет в порядке»

Но через 18 месяцев маржа примерно такими же негативными, как и когда -либо … Виндсурф был продан за детали, и Клод Код пришлось откатить свой первоначальный неограниченный уровень 200 долларов/месяц на этой неделе.

Компании по -прежнему кровоточат. Модели стали дешевле – GPT -3.5 стоит в 10 раз меньше, чем раньше. Но каким -то образом края стала хуже, не лучше.

Что -то не складывается?

GPT-3.5 в 10 раз дешевле, чем был. Это также так же желательно, как флип -телефон при запуске iPhone.

Когда новая модель выпускается в качестве SOTA, 99% от спроса сразу переходит к ней. Потребители ожидают этого от своей продукции.

Теперь посмотрите на фактическую историю ценообразования пограничных моделей, которые требуют 99% спроса в любой момент времени:

Заметьте что -нибудь?

• Когда GPT-4 запустил 60 долларов, все использовали его, несмотря на то, что GPT-3.5 (предыдущий SOTA) на 26 раз дешевле.

• Когда Claude 3 Opus запустил 60 долларов, люди переключились, несмотря на то, что GPT-4 получил снижение цен.

Снижение затрат на 10 раз реально, но только для моделей, которые могут также работать на Commodore 64.

Так что это первый неисправный столб стратегии «затраты на отказ»: спрос существует для «Лучшей языковой модели». И лучшая модель всегда стоит примерно одинаково, потому что это то, что стоит сегодня.

Сказать: «Эта машина сейчас намного дешевле!» Направляясь на Honda Civic 1995 года, упускает смысл. Конечно, этот конкретный автомобиль дешевле. Но 2025 Toyota Camry MSRP за 30 тысяч долларов.

Когда вы проводите время с ИИ – будь то кодирование, написание или мышление – вы всегда максимально выпускаете качество. Никто не открывает Клода и не думает: «Знаешь, что? Позвольте мне использовать дерьмовую версию, чтобы спасти моего босса немного денег». Мы когтивно жадные существа. Мы хотим лучшего мозга, который мы можем получить, особенно если мы уравновешиваем другую сторону с нашим временем.

«Хорошо, но это все еще управляемо, верно? Мы просто остаемся на безубыточности навсегда?»

О, милый летний ребенок.

Хотя это правда, каждое поколение пограничной модели не стало дороже за токен, произошло что -то еще. что -то хуже. Количество токенов, которые они потребляли, стало абсолютно ядерным.

Catgpt отвечал на вопрос с одним предложением с ответом на один предложение. Теперь глубокие исследования потратят 3 минуты планирования и на 20 минут на чтение, и еще 5 минут переписали отчет для вас, в то время как O3 просто будет работать на 20 минут, чтобы ответить «Привет».

Взрыв RL и вычислительного времени испытаний привел к тому, что никто не видел: продолжительность задачи, которую ИИ может выполнить, удваивается каждые шесть месяцев. То, что использовалось, чтобы вернуть 1000 токенов, теперь возвращается 100 000.

Математика становится действительно безумной, когда вы экстраполируете:

Сегодня 20-минутное «глубокое исследование» стоит около 1 доллара. К 2027 году у нас будут агенты, которые могут работать 24 часа подряд, не теряя сюжет … объединить его со статической ценой границы? Это пробег за 4320 долларов. в день. за пользователя. с способностью запускать несколько асинхронно.

Как только мы сможем развернуть агенты для запуска рабочей нагрузки в течение 24 часов асинхронно, мы не будем давать им одну инструкцию и ждать обратной связи. Мы планируем их партиями. Целые парки работников ИИ, атакующие проблемы параллельно, горящие токены, как это 1999 год.

Очевидно, – и я не могу подчеркнуть это достаточно – подписка на 20 долларов в месяц не может даже поддержать пользователя, делающего один пробег в глубине 1 доллар в день. Но это именно то, к чему мы участвуем. Каждое улучшение в возможностях модели – это улучшение в том, сколько вычислений они могут значительно потреблять одновременно

Это похоже на создание более экономичного двигателя, а затем с использованием повышения эффективности для построения грузовика Monster. Конечно, вы получаете больше миль за галлон. Вы также используете в 50 раз больше галлонов.

Это короткое сжатие, которое заставило Виндсурф получить маржу под названием [insert thing] – и любая «подписка на фиксированную ставку + полезную токен интенсивную» бизнес -модели смотрит на ствол.

Эксперимент Claude Code с максимальным невзгодами был самой сложной попыткой выверить этот шторм, который мы видели. Они пробовали каждый трюк в книге и все еще были уничтожены.

Их пьеса была действительно умной:

1. Зарядка в 10 раз по цене

$ 200/месяц, когда курсор взимает 20 долларов. Начните с большего количества буфера до начала кровотечения.

2. Автоматические модели на основе нагрузки

Переключитесь с Opus ($ 75/M токены) на сонет (15 долларов США/м), когда все становится тяжелым. Оптимизируйте с Хайку для чтения. Как AWS Autoscaling, но для мозга.

Они почти наверняка построили это поведение непосредственно в веса модели, который является сдвигом парадигмы, мы, вероятно, увидим гораздо больше

3. Разработка разгрузки на пользовательские машины

Зачем раскручивать свои собственные песочницы, когда у пользователей есть отличный процессор, сидящий на холостом ходу?

И, несмотря на весь этот инженерный блеск, потребление токенов все еще прошло сверхновой.

десять. миллиард. токены. Это 12 500 экземпляров войны и мира. через месяц.

как? Даже при 10-минутных пробегах, как кто-то управляет токенами 10B?

Оказывается, 10-20 минут непрерывных пробежек достаточно длинные, чтобы люди могли открыть для себя петлю. Как только вы отделяете потребление токенов от человеческого времени в приложении, физика вступает во владение. Установите Клода на задание. Попросите его проверить свою работу. рефактор. оптимизировать. Повторите до банкротства.

Пользователи стали оркестраторами API, работая 24/7 двигателями преобразования кода на Dime’s Antropic. Эволюция от чата к агенту произошла в одночасье. Увеличение потребления в 1000 раз. Фазовый переход, а не постепенное изменение.

Таким образом, антропический отказ отказался без ограничений. Они могли бы попробовать 2000 долларов в месяц, но урок не в том, что они не взимали достаточно, а в том, что в этом новом мире невозможно предложить неограниченное использование в этом новом мире.

Это так В этом новом мире нет фиксированной подписки.

Математика в корне сломалась.

Это оставляет всех остальных в невозможном положении.

Каждая компания ИИ знает, что ценообразование на основе использования спасет их. Они также знают, что это убьет их. В то время как вы несете ответственность за токены $ 0,01/1K, ваш конкурент, финансируемый VC, предлагает неограниченное количество за 20 долларов в месяц.

Угадай, куда идут пользователи?

Классическая дилемма заключенного:

• Каждый взимает на основе использования → устойчивая промышленность

• Каждый взимает с плоской ставки → гонка на дно

• Вы заряжаете использование, другие заряжают плоские → вы умираете в одиночку

• Вы заряжаете квартиру, другие заряжают использование → Вы выигрываете (затем умирайте позже)

Так что все недостатки. Каждый субсидирует энергетических пользователей. Все публикуют диаграммы роста хоккейной палки. Все в конечном итоге публикуют «важные обновления цен».

Курсор, милый, применимый – все они знают математику. Они выбрали рост сегодня, прибыль завтра, банкротство в конечном итоге, но это проблема следующего генерального директора.

честно? Наверное, правильно. В захвате земли доля рынка превосходит маржу. Пока венчурные капиталисты продолжают писать чеки на бумагу над экономикой единицы …

Спросите Джаспера, что происходит, когда музыка останавливается.

Можно ли вообще избегать короткого сжатия токена?

По слухам, познание в последнее время собирается в 15 миллиардов долларов, а внешне они даже не сообщали о 100 млн долларов. [i’d guess it’s closer to $50m]Полем Это контрастирует с оценкой в 10 миллиардов долларов, которую курсор поднял на 500 миллионов долларов с гораздо более крутой кривой. Более чем восемь раз превышает доход, две трети оценки. Что VCS знает о познании, чего нет? Они оба агента ИИ, которые пишут код. Познание выяснило выход из спирали смерти? [more on this next time I guess]

Есть три пути:

1. Цена на основе использования с первого дня

Нет субсидий. Нет “приобретите сейчас, монетизируйте позже”. Просто честная экономика. Звучит великолепно в теории.

За исключением того, что покажите мне, основанную на использовании потребителей компании искусственного интеллекта, которая взрывается. Потребители ненавидят дозируемые счета. Они скорее переплачивают за неограниченное количество, чем удивлены законопроектом. Каждая успешная подписка потребителей – Netflix, Spotify, Catgpt – это фиксированная ставка. В тот момент, когда вы добавляете метр, рост умирает.

2. Безумные затраты на переключение ⇒ высокая маржа

Это то, что Девинс все. Недавно они объявили о своих Citi и Goldman Sachs Parterships, развернув Девина для 40 000 инженеров программного обеспечения в каждой компании. За 20 долларов в месяц это проект за 10 миллионов долларов, но вот вопрос: вы бы предпочли 10 миллионов долларов от ARR от Goldman Sachs или 500 млн долларов от Prosumer Devleopers?

Ответ очевиден: шестимесячные реализации, обзоры соответствия, аудиты безопасности, закупки, ада означают, что доход Goldman Sachs трудно выиграть-но как только вы его выиграете, это невозможный чтобы створить. Вы получаете только эти контракты только в том случае, если лиц, принимающий лиц в банке, только ставит на вас свою репутацию – и каждый сделает все возможное, чтобы он работал.

Именно поэтому крупнейшими компаниями-разработчиками программного обеспечения за пределами гиперсчетов являются все компании, которые продают точные персонажи [CRM / ERP / EHRs]Полем Все они также делают 80-90% маржи, потому что чем труднее взломать, тем меньше цена чувствительна ваш покупатель.

К тому времени, когда появится конкурент, вы настолько глубоко в бюрократии, что переключение потребует еще одного шестимесячного цикла продаж. Дело не в том, что ты не можешь уйти. Дело в том, что ваш финансовый директор предпочел бы умереть, чем пройти через другую оценку поставщика.

3. Вертикальная интеграция ⇒ зарабатывать деньги на инфра

Это игра retrit: объединить агента по кодированию вашим приложением хостингом, управлением базами данных, мониторингом развертывания, ведением журнала и т. Д.

Используйте AI в качестве лидера потерь, чтобы повысить потребление услуг AWS. Вы не продаете вывод. Вы продаете все остальное, а вывод – это просто маркетинговые расходы.

Гениальность заключается в том, что генерация кода естественным образом создает спрос на хостинг. Каждому приложению нужно где -то запустить. Каждая база данных нуждается в управлении. Каждое развертывание требует мониторинга. Пусть Openai и антропная раса вывод к нулю, пока у вас есть все остальное.

Компании, которые все еще играют в плавном росте по всей цене? мертвые компании ходят. У них просто очень дорогие похороны, запланированные на 4 квартала.

Я продолжаю видеть, как основатели указывают на то, что «модели будут в 10 раз дешевле в следующем году!» Как будто это плот жизни. конечно. И ваши пользователи будут ожидать от них 20x больше. Врат -пост выходит от вас.

Помните Виндсурф? Они не смогли найти способ, чтобы нанести BC о давлении, которое курсор оказывал на их P & L. Даже антропный с наиболее вертикально интегрированным приложением на планете не может создать плоскую подписку с неограниченной работой.

В то время как резюме от «Leared Beta – это все, что вам нужно»: это то, что ранние ритмы являются умными, все еще верно, то, будучи ранним планом, также означает, что вы попадаете на кладбище. Там нет записи Google 2,4 млрд. Долл. США для предприятий негативной маржи. Там нет «мы выясним это позже», когда позже ваш счет AWS больше, чем ваш доход.

Итак, как вы создаете бизнес в этом мире? Краткий ответ – это неокультура, что является названием моей следующей вещи.

Но, по крайней мере, модели будут в 10 раз дешевле в следующем году.

Спасибо Марку Хэю, Бен Мейнс, Никундж Котари, Брайана Бишоф, Энди Цзян, Ведика Джайн и Амана Кишора за чтение черновиков этого