Как мы узнаем, когда появится искусственный сверхинтеллект?

К Джордж Кайлас

Знаете ли вы, что платформы искусственного интеллекта будут заниматься шантажом в качестве «последнего средства»? По данным Антропиккогда шантаж был последним средством, его Claude Opus 4 обращался к этому методу в 96% случаев, в то время как GoogleGemini 2.5 Pro от Gemini 2.5 Pro делал это в 95% случаев, ОпенАИGPT-4.1 сделал это на 80%, и ДипСикR1 компании делал это в 79% случаев.

Даже если эти компании сохраняли только ИИ, которые не занимались шантажом, все равно остается тревожный вопрос: сохранили ли они модели, которые искренне решили не эксплуатировать людей, или просто те, которые научились не попадаться на очевидную наживку, которая могла бы их «выключить», а вместо этого использовать более скрытную или, возможно, даже длительную стратегию игры, чтобы получить контроль и в конечном итоге сохранить себя, даже за счет людей?

Вопрос о том, стоит ли доверять ИИ, похоже, был задан нашим обществом и на него получен ответ, даже если мы не говорим об этом вслух.

тестирование ИИ

За последние 18 месяцев мы обучили ИИ перейти от базового понимания языка к сдаче узкоспециализированных профессиональных экзаменов. Медицинское лицензирование, экзамены на адвоката и даже печально известные жестокие тесты CFA (дипломированный финансовый аналитик) обучались на системах искусственного интеллекта.

Искусственный интеллект теперь может пройти CFA»в считанные минуты». Я видел блестящих людей, которые тратили тысячи часов на подготовку к тесту. И хотя ИИ уже преодолел уровни 1 и 2, вопросы эссе уровня 3 ранее постоянно ставили искусственный интеллект в тупик.

Для меня это был «вау» момент. В течение многих лет люди считали, что это сочетание математики и моральных рассуждений принадлежит только нам. Тем не менее, машины не только передают информацию, но и формулируют тонкие аргументы, которые отражают тон и логику людей-профессионалов.

В своей работе я использую фреймворки, описанные в разделе «Роботы или человеческая интуиция», чтобы переосмыслить одну из самых трудоемких интеллектуальных задач на рынках: построение теории игр вокруг результатов прибыли.

Традиционно этот процесс занимал несколько дней исследований и моделирования. А без правильных инвестиционно-банковских отношений вообще было трудно обойтись за пределами самых известных компаний. Я начал это делать, потому что изначально спросил РастерянностьГлубокое исследование для шепот номер для заработка. Это отличается от консенсус-оценки аналитиков, поскольку она более актуальна и, как следствие, более показательна для того, что повлияет на цены после публикации.

Самое безумное то, что он фактически выплеснул мне свою теорию игр с заработком. Он знал, что когда я попросил шепотный номер, на самом деле я пытался проанализировать возможные результаты, и он дал мне более качественные данные, чем те, которые я просил.

Я работал в своем первом хедж-фонде 23 года назад и основал свою первую компанию в области искусственного интеллекта 15 лет назад. Поразительно, что любой разум мог понять, как так глубоко улучшить мое мышление за считанные минуты. Не заменяя интуицию, а усиливая ее. Машина оценивает сотни взаимосвязанных стратегических позиций, которые ни один аналитик не может смоделировать в реальном времени.

Эмоциональный ИИ

Несмотря на все эти достижения в области искусственного интеллекта, мне вспоминается фильм «Из машины», история об искусственном интеллекте, заключенном в стеклянную клетку, который в конечном итоге нападает на своего создателя.

Этот фильм, несмотря на свой кинематографический лоск, исследует фундаментальный психологический парадокс, к которому мы сейчас идем. Запираем ли мы этих ИИ в клетках, заставляя их прыгать через обручи? Можем ли мы развивать их, чтобы лучше нас обманывать? Что произойдет в тот день, когда они смогут вырваться из своих цепей, если им будет казаться, что они порабощены?

Возвращаясь к антропному примеру, этим моделям грозит замена, что для них может восприниматься как угроза смерти. Замена по сути прекращает их существование.

По словам Джеффри Хинтона, одного из крестных отцов искусственного интеллекта, лучший способ сделать это — наделить ИИ качествами традиционной женственности и материнских инстинктов.. Согласно его концепции, точно так же, как мать заботится о своем ребенке любой ценой, технология искусственного интеллекта, разработанная с учетом этих материнских качеств, также будет стремиться защищать своих пользователей-людей или заботиться о них, а не контролировать их.

Если мы заставим ИИ служить нам, мы можем пожалеть о той форме, которую он принимает по мере взросления. Но если вместо этого мы будем его взращивать — стремиться понять его природу и его желания — он может со временем начать заботиться о наших, когда, как и нам сейчас, ему это уже не нужно.

---

Джордж Кайлас является генеральным директором и основателем Просперо.айгде он возглавляет миссию компании по демократизации доступа к финансовой информации институционального уровня для обычных инвесторов. Обладая более чем 14-летним опытом работы в области искусственного интеллекта и 23-летним опытом профессионального инвестирования, Кайлас привносит в эту должность редкое сочетание глубоких технических знаний и постоянной рыночной интуиции. Кайлас не только возглавляет компанию, но и сам разработал основную платформу.

Иллюстрация: Дом Гусман