Разработчики ИИ понимают, что «агенты» ИИ не могут заменить людей — ИИ «не сравним с людьми или даже с животными»

к Брайан Шилхави
Редактор журнала «Новости о влиянии на здоровье»

Андрей Карпати, один из основателей OpenAI вместе с Сэмом Альтманом, наделал много шума в мире ИИ-технологий в минувшие выходные, когда заявил, что идея замены ИИ людей «не за горами» неверна, и что лидеры отрасли слишком раздували ее ради финансовой выгоды.

Он заявил, что код ИИ не может учиться или рассуждать, как люди или даже животные.

Прав ли Андрей Карпатий насчет разрекламированного искусственного интеллекта?

к Информация

Выдержки:

Андрей Карпати, один из основателей OpenAI, в пятницу бросил холодную воду в отношении идеи о том, что общий искусственный интеллект не за горами. Он также поставил под сомнение различные предположения об искусственном интеллекте, сделанные крупнейшими сторонниками отрасли, такими как Дарио Амодей из Anthropic и Сэм Альтман из OpenAI.

Высоко оцененный Карпати назвал обучение с подкреплением — возможно, самую важную область исследований на данный момент — «ужасным», сказал, что агенты кодирования на базе искусственного интеллекта не так интересны, как думают многие, и сказал, что ИИ не может рассуждать ни о чем, чему он еще не обучен.

Его комментарии из интервью подкаста с Дваркешем Пателем вызвали отклик у некоторых исследователей ИИ, с которыми мы беседовали, в том числе тех, кто также работал в OpenAI и Anthropic. Они также повторили комментарии, которые мы услышали от исследователей на Международной конференции по машинному обучению в начале этого года.

Большая часть критики Карпати в адрес его собственной области, кажется, сводится к одному пункту: Как бы нам ни нравилось антропоморфизировать большие языковые модели, их нельзя сравнивать с людьми или даже животными по способу обучения..

Например, зебры встают и ходят уже через несколько минут после рождения, что позволяет предположить, что они рождаются с определенным уровнем врожденного интеллекта, в то время как магистрам права приходится пройти через огромные пробы и ошибки, чтобы освоить какой-либо новый навык, отмечает Карпати.

Это приводит к множеству проблем, многие из которых связаны с идеей о том, что выпускникам LLM сложно делать что-то, связанное с предметами или информацией, выходящим за рамки данных, на которых они обучались. На жаргоне ИИ это означает, что модели не «обобщают».

Пример того, как LLM учатся иначе, чем люди, можно найти в обучении с подкреплением, методе модельного обучения. дня который вознаграждает модель за достижение определенных целей и наказывает ее за другое поведение.

Карпати отмечает, что RL чрезмерно упрощает процесс обучения: тот факт, что модель приводит к правильному окончательному ответу, не означает, что каждый шаг, который она делала до этого момента, был правильным, и наоборот. (Карпати сравнил RL с «высасыванием надзора через соломинку».)

Напротив, люди способны более глубоко размышлять о своих мыслительных процессах, а не только о конечном результате. Например, основатель, который хочет построить успешную компанию, может поразмышлять о процессе построения компании и подумать о том, что пошло правильно или неправильно, чтобы передать эти идеи в свою следующую компанию, независимо от того, была ли первая компания в конечном итоге успешной.

Версия искусственного интеллекта заключается в том, чтобы модель получала обратную связь на каждом этапе своего мыслительного процесса. Этот подход некоторые пробовали, но он может оказаться очень дорогим и утомительным.

Вполне уместно, что в эти выходные, вскоре после публикации интервью в Карпати, OpenAI попал в горячую воду из-за заявлений о том, что GPT-5 решил новые математические задачи, на которые на самом деле он только что нашел ответы.

Возможно, мы дальше от автоматизации исследований ИИ, чем мы думали!

Все это показывает, что полезно время от времени проявлять скептицизм и слушать экспертов, у которых нет стимула расхваливать прогресс ИИ, чтобы получить миллиарды долларов от венчурных капиталистов и других инвесторов.. (Полная статья — необходима подписка.)

«Агенты» ИИ НЕ заменяют людей

В другой статье, опубликованной сегодня Аароном Холмсом из ИнформацияОни посмотрели на шумиху вокруг «Агентов ИИ», которая существовала в начале этого года (2025), и на то, где мы на самом деле находимся сегодня с точки зрения данных обещаний. Он также сослался на комментарии сооснователя OpenAI Андрея Карпати.

Проверка агентов на практике

Примерно в начале этого года руководители поставщиков искусственного интеллекта, таких как OpenAI и Salesforce, заявили, что 2025 год станет «годом агентов», создавая впечатление, что полностью автономный ИИ вскоре возьмет на себя рабочие места людей.

С тех пор Salesforce, Microsoft, SAP и многие другие предложили около семи типов агентов для автоматизации задач «белых воротничков» в таких областях, как программирование, HR, финансы и продажи.

Но обещание по-настоящему автономных агентов до сих пор не выполнено, и технологические лидеры предупреждают компании, чтобы они снизили свои ожидания.

Андрей Карпати, один из основателей OpenAI и ведущий специалист в области исследований искусственного интеллекта, считает пройдет как минимум десятилетие, прежде чем ИИ сможет значимо автоматизировать целые рабочие места,

«Как сотрудник или стажер, которого вы бы наняли для работы с вами».

В интервью подкаста он дал жестокую оценку нынешним возможностям ИИ, отчасти потому, что большим языковым моделям не хватает познания, и утверждал, что большинство рабочих мест до сих пор не могут быть автоматизированы..

«В целом моделей здесь нет», — сказал Карпати подкастеру Дваркешу Пателю.

“Я чувствую, что индустрия делает слишком большой скачок и пытается притвориться, что это потрясающе, но это не так. Это отстой. Они не смирились с этим, и, возможно, они пытаются собрать средства или что-то в этом роде”.

Замечания Карпати нашли отклик у бизнес-лидеров, находящихся на переднем крае использования агентов ИИ, которые за последний год неоднократно сталкивались с препятствиями, пытаясь заставить ИИ без ошибок решать сложные задачи на рабочем месте.

«Сейчас модно называть эти инструменты «агентами», но агент на самом деле не означает автономный», — сказал Донзе.

«Есть маркетинговая чушь, которая утверждает, что все будет автономным, и в этом есть некоторая доля правды, но они могут быть автономными только в ограниченных случаях использования».

Другие говорят, что используют агентов ИИ для замены некоторых сотрудников, но отмечают, что за агентами необходимо присматривать больше, чем обычно за этими сотрудниками.

Сахил Лавингия, генеральный директор приложения Gumroad для рынка электронной коммерции, сказал, что он сократил размер своей команды инженеров примерно до дюжины человек по сравнению с более чем 40 два года назад, благодаря агентам кодирования с использованием искусственного интеллекта, но сказал, что оставшийся персонал тратит много своего времени на двойную проверку работы агентов.

«Я думаю, интересно, что я могу заменить несколько рабочих мест с доходом в 400 000 долларов в год. [with agents]но я не могу их полностью заменить. У меня просто есть кто-то, кому я плачу 400 000 долларов за то, чтобы он управлял агентами, чтобы они стали в четыре раза продуктивнее, а затем увольнял трех человек», — сказал Лавингия.

«Код, сгенерированный ИИ, должен быть [checked] поскольку опыт продукта еще не может быть подтвержден ИИ, и это другая задача, чем кодирование».

На прошлой неделе исследователь OpenAI Себастьен Бубек обратился к X, чтобы поделиться впечатляющим достижением модели OpenAI GPT-5: ИИ помог исследователям найти решение нескольких сложных математических гипотез, известных как проблемы Эрдоша, которые были впервые высказаны десятилетия назад математиком 20-го века Полом Эрдосом.

Кевин Вейл, вице-президент OpenAI по науке, похвалил то же достижение, заявив, что GPT-5 «нашёл решения» десяти проблем Эрдоса, которые «были открытыми на протяжении десятилетий».

Некоторые восприняли эти заявления как доказательство того, что модели OpenAI становятся лучше в сложных математических вычислениях. Но исследователь из Оксфорда Томас Блум, который ведет онлайн-базу данных по проблемам Эрдеша, о которых говорил Бубек, в пятницу частично развеял этот энтузиазм.

Это потому, что, как отметил Блум на X, GPT-5 на самом деле не решал рассматриваемые математические задачи; просто появились онлайн-публикации других математиков, которые уже решили эти задачи..

На сайте Блума проблемы были отмечены как «открытые», потому что сам Блум не знал, что их решили другие, сказал он в ответ Вейлу.

Вейл и Бубек удалили свои сообщения и заявили в последующих сообщениях, что они хотели уточнить, что GPT-5 оказался полезным для проведения соответствующих исследований, а не для решения математических задач.

Некоторые конкуренты OpenAI поспешили наброситься, например, генеральный директор Google DeepMind Демис Хассабис, назвавший исходный пост Вейля «смущающим». (Полная статья. Нужна подписка.)

Хотя эта новость шокировала мир искусственного интеллекта на этой неделе, это довольно простые вещи, о которых я пишу и говорю уже около 2,5 лет.

ИИ НЕ может заменить людей, но новый ИИ на основе больших языковых моделей (LLM), который появился вместе с OpenAI и Microsoft в конце 2022 года, действительно имеет некоторую ценность как инструмент, помогающий людям и облегчающий и ускоряющий их работу.

Как только пузырь ИИ лопнет, реальные применения и полезность этого ИИ сохранятся. но переживет ли наша экономика грядущую коррекцию на рынке?

Эта статья была написана Human Superior Intelligence (HSI).

См. также:

Поймите времена, в которых мы сейчас живем

Есть только «одна вера» – кто будет «сражаться добрым подвигом» за «веру» в эти злые последние дни?

Христианское учение о сексе и браке против реального библейского учения

Где зарегистрировано ваше гражданство?

Разоблачение культа христианского сионизма

Очарование Америки сглазом и клеймом зверя

Противодействие Иисуса Христа еврейскому государству: уроки на сегодняшний день

Инсайдер разоблачает масонство как старейшую тайную религию в мире и люциферианские планы нового мирового порядка

Выявление люциферианских глобалистов, реализующих новый мировой порядок. Кто такие «евреи»?

Миф о мозге: ваш интеллект и мысли берут начало в вашем сердце, а не в мозгу

Проверка фактов: «Христианство» и христианская религия НЕ указаны в Библии – личностью является Иисус Христос

Опубликовано 21 октября 2025 г.