Пузырящие вопросы об ограничениях ИИ: –

Скотт Детроу, хозяин:

Я только что попросил Chatgpt написать введение в радио -сегмент об искусственном интеллекте. Моя подсказка – напишите 30 -секундное представление о сегменте радио новостей. Тема сегмента – Как после многих лет обещания и высоких ожиданий в небо, внезапно возникают сомнения в том, будет ли технология достигнет потолка. Вот часть того, что мы получили.

(Чтение) В течение многих лет он был провозглашен будущим – изменение игры, предназначенное для изменений в отрасли, переопределить повседневную жизнь и разорвать границы, которые мы даже не представляли. Но теперь некогда ограниченное обещание этой прорывной технологии сталкивается с новым анализом. Эксперты спрашивают, попали ли мы в потолке?

Так что это был ЧАТГПТ. Передающая колесо обратно людям – MIT выпустила отчет на прошлой неделе, бросая холодную воду на ценность ИИ на рабочем месте. Потребители были разочарованы новейшей версией CHATGPT, выпущенной ранее в этом месяце. Генеральный директор Openai Сэм Альтман выпустил идею пузыря ИИ, и технологические акции опустились.

Мы собираемся поговорить обо всем этом с Кэлом Ньюпортом, писателем для Нью -Йорка и профессором компьютерных наук в Джорджтауне. Добро пожаловать.

Кэл Ньюпорт: Спасибо, что имели меня.

Детроу: Давайте просто начнем с Chatgpt в последней версии. Это действительно так разочаровывает?

Ньюпорт: Это отличная технология, но это была не трансформирующая технология, и это то, что нам было обещано с тех пор, как вышел GPT-4, что следующая крупная модель станет следующим крупным скачком, и GPT-5 не был этим.

Детроу: Одна из вещей, на которые вы указали в своей недавней статье, это то, что были голоса, говорящие, это не дано, что это всегда будут экспоненциальные скачки, и они действительно утонули в последние годы. И своего рода преобладающее мышление было, конечно, это всегда будут прыгать и границы, пока у нас не будет сверхчеловеческого интеллекта.

Ньюпорт: И причина, по которой они были заглушены, заключается в том, что у нас сначала были эти скачки. Так что была реальная кривая. В 2020 году он вышел в газете, которая показала, как быстро эти модели станут лучше, поскольку мы их увеличивают, и GPT-3 и GBT-4 упали прямо на эти кривые. Таким образом, у нас была большая уверенность в индустрии искусственного интеллекта, что, да, если мы продолжим становиться больше, мы будем продолжать двигаться в этой очень крутой кривой. Но через некоторое время после GPT-4 прогресс упал с этой кривой и стал намного более плоским.

Детроу: Чатгпт является лидером. Это самый высокий из всех этих моделей, поэтому, очевидно, это большая точка данных. Но на что вы смотрите, чтобы почувствовать, это всего лишь один всплеск, или какая здесь большая картина?

Ньюпорт: Это проблема во всех крупных языковых моделях. По сути, идея о том, что простое увеличение модели и обучение ее дольше сделает ее намного умнее – перестала работать по всем направлениям. Впервые мы начали замечать это в конце 2023 года, в начале 2024 года. Все основные крупные языковые модели сейчас перешли на другой способ стать лучше. Они сосредотачиваются на том, что я называю улучшениями после тренировки, которые являются более сфокусированными и более постепенными, и все основные модели всех крупных компаний искусственного искусственного искусства сосредоточены на этом более постепенном подходе к улучшению прямо сейчас.

Детроу: Я хочу поговорить об этом через мгновение. Во -первых, я хочу рассмотреть ваши мысли об этом другом большом заголовке с последних дней. Этот отчет MIT – заголовок, который был повсюду, был, 95% генеративных пилотов ИИ в компаниях терпят неудачу – 95%. Вы находите этот номер удивительным?

Ньюпорт: Я вообще не нахожу этот номер удивительным. То, что мы надеялись, произошло с ИИ на рабочем месте, так это агентская революция, которая была идеей, что, возможно, языковые модели станут достаточно хорошими, чтобы мы могли дать им контроль над программным обеспечением, а затем они могли бы начать делать для нас много вещей в бизнес -контексте. Но для этого модели недостаточно хороши. Они галлюцинируют. Они не очень надежны. Они делают ошибки или делают странное поведение. И поэтому эти инструменты, которые мы строили на языковых моделях – как только мы оставляем очень узкие приложения, где языковые модели очень хорошие, эти более общие бизнес -инструменты, они еще не очень надежны.

Детроу: Вы говорите о надеждах, и у многих из этих компаний есть надежды, и у многих инвесторов есть надежды. Но было много людей, которые действительно были взволнованы во всем этом, будь то, что это означает безопасность работы, будь то некоторые из более из тех, что вы знаете, с ИИ с ИИ с ИИ. Считаете ли вы, что замедление – это обязательно хорошая новость для людей, которые обеспокоены, или вы думаете, что это продолжает быть в центре внимания во многих отраслях, и это будет продолжать принимать все больше и больше, и так далее?

Ньюпорт: Я думаю, что это хорошая новость для тех, кто беспокоится, скажем, в следующие пять лет.

Детроу: ок.

Ньюпорт: Я думаю, что эта идея, например, Дарио Амодеей, у нас было до 20% безработицы, что у нас может быть автоматизировано до 50% всех новых рабочих мест белых воротничков в ближайшем будущем – этой технологии нет, и у нас нет пути, чтобы добраться туда в ближайшем будущем. Дальше будущее – это другой вопрос, но я не думаю, что те сценарии гибели, которые мы слышали за последние шесть месяцев или около того – я думаю, что прямо сейчас они кажутся нереальными.

Детроу: Вы упоминали о пост-тренировке раньше. У вас была отличная метафора для этого с участием автомобилей. Вы можете пройти через это?

Ньюпорт: Ну, есть два способа улучшения языковой модели. Первый путь делает его больше, тренировать его дольше. Это то, что называется предварительным тренировком. Это то, что дает вам основные возможности вашей модели. Тогда у вас есть другой способ их улучшения, который мы можем думать как пост-тренировки, что является способом подготовки или улучшения возможностей, которые у них уже есть. Так что, если предварительное обучение дает вам, как автомобиль, пост-тренировочные супы. И что произошло, так это то, что мы обратили наше внимание в отрасли от предварительного обучения и к пост-тренировке, поэтому меньше пытаются создать гораздо лучшую машину и больше сосредоточены на попытках получить больше производительности из машины, которую у нас уже есть.

Детроу: Сколько это приводит к широкомасштабному переосмыслению того, что будет дальше? Или это просто настраивать текущий подход к тому, как эти модели становятся все лучше и лучше?

Ньюпорт: Я думаю, что это почти кризисный момент для компаний искусственного интеллекта, потому что капитальные затраты, необходимые для создания этих огромных моделей, удивительно велики. И чтобы заработать огромную сумму денег от этих технологий, вам нужны чрезвычайно прибыльные приложения. Как мы собираемся получить достаточный доход, чтобы оправдать сотни миллиардов долларов капитальных затрат, которые необходимы для обучения этих моделей?

Детроу: Что это значит в ближайшем сроке для людей, которые уже начали использовать ИИ в своей повседневной жизни на работе, дома? Это продолжается? Как вы думаете, мы попали там в роли пузыря? Мол, что будет дальше в небольшом потребительском масштабе, как вы думаете?

Ньюпорт: Я думаю, что мы получим гораздо больше усилий на рынок продуктов. Таким образом, вместо того, чтобы просто сосредоточиться на том, чтобы сделать модели больше и больше, и, возможно, вы просто получаете доступ к ним через интерфейс чата, теперь нам придется уделять гораздо больше внимания создание индивидуальных инструментов поверх этих моделей фундамента для конкретных вариантов использования. Поэтому я на самом деле думаю, что следование в жизни обычных пользователей станет более полезным, потому что вы можете получить инструмент, который более подходит для вашей конкретной работы.

Есть еще много вещей, о которых можно беспокоиться. Языковые модели, как и у нас сегодня, могут делать всевозможные вещи, которые испытывают боль. Это генерирует шпильку для Интернета. Это значительно облегчает убедительную дезинформацию. Возможности мошенничества взрывные. Все это негативы. Но я, вероятно, просто получу лучшие инструменты в ближайшем будущем как обычный пользователь. Это не обязательно так плохо.

Детроу: Это Кэл Ньюпорт, автор и профессор компьютерных наук в Джорджтаунском университете. Спасибо, что пришли.

Ньюпорт: Спасибо.

(Звуковая музыка музыка)

Copyright © 2025 -. Все права защищены. Посетите наш сайт Условия эксплуатации и разрешения Страницы в www.-.org Для получения дополнительной информации.

Точность и доступность транскриптов – могут варьироваться. Текст стенограммы может быть пересмотрен, чтобы исправить ошибки или соответствовать обновлениям с аудио. Аудио на -.org может быть отредактирована после его первоначальной трансляции или публикации. Авторитетная запись программирования – – это аудиозапись.