Йошуа Бенгио, «Крестный отец ИИ»: «Существует риск, что только один человек может доминировать в мире»

Йошуа Бенгио не показывает его 61 год. Носите белую рубашку – даже если она предпочитает гавайские, которые подчеркивают сухое и подходящее телосложение. Он приветствует нас с ослепительной улыбкой. Это вообще не кажется ученом, которому искусственный интеллект удалил сон.

Тем не менее, в течение как минимум трех лет – с Чатгпт Он показал, что машины могут подражать человеческому творчеству – его имя все чаще ассоциируется с открытыми буквами и инициативами, которые выпускают тревогу на рисках ИИ. Пионер Нейронные сети и из глубокое обучениевознагражден с Награда Тьюринга В 2018 году и сегодня профессор в Университете Монреаля он считался одним из «крестных родителей искусственного интеллекта».

Мы встретили его в Риме, по случаю Всемирная встреча по братствуСобытие, организованное в Ватикане, чтобы ответить на важный вопрос: «Что делает нас действительно людьми?».

Для хорошо, что мы есть и то, что мы выбираем, представляет собой иглу баланса будущего, которое, вероятно, мы поделимся с машинами. «Это будет человеческая природа, которая спасет нас», – говорит он. Затем он добавляет: «или осудить нас».

От чего будет зависеть?

«Мы понимаем достаточно рисков и знаем достаточно искусственного интеллекта, чтобы иметь возможность ориентироваться в направлении, которое в то же время полезно и безопасно. Если бы у человечества было только один разум, способный принимать коллективные решения, с рациональностью и состраданием, не было бы проблем».

А вместо этого?

«Люди конкурируют друг с другом, как отдельные лица, как компании, как нации».

Как мы добрались до этого момента?

«Есть люди, у которых есть сотни миллионов или миллиардов долларов, чтобы заработать или проиграть, и я думаю, что мы должны быть очень осторожны в том, чтобы воспринимать как должное то, что они говорят. Их действия, с другой стороны, должны восприниматься серьезно: они сильно инвестируют в идею, что мы можем строить более интеллектуальные машины, чем мы».

Они преуспевают?

«За последние пять -десять лет мы продвинулись по четкой траектории роста способности ИИ. Эти системы постепенно предполагают функции, которые ранее были исключительно человеческими: еще не все, но во многих областях они уже выше нас. Конечно, этот прогресс может остановиться из -за некоторых препятствий. Но тренд остается очевидной и является научным фактом».

И наука не возражает.

«Это наше фундаментальное правило: никогда не пишите ничего, что может быть ложным».

Вопреки тому, что делает чат -бот.

«Да, потому что лингвистические модели подражают тому, что мы обычно пишем. И в целом мы, люди, не имеем постоянного торможения, говоря о вещах, которые могут быть ложными. Но одно из направлений исследования, на которых я в настоящее время сосредотачиваюсь [attraverso la non-profit LawZero che ha fondato a giugno 2025, ndr] Это именно так: как построить я, который совершенно честен ».

Честно сколько?

«Если это не уверено, что это правда, он должен знать, как сказать:« Я не уверен. Может быть, даже количественно определяя степень неопределенности ». Есть также “я не знаю”? «Да, но не все время, иначе это было бы бесполезно». Как это так важно, искренний? «Поскольку это не будет предвзятым, у него не будет своих собственных целей или предпочтений относительно того, каким должен быть мир: он будет ограничен нашими вопросами».

Сможете ли вы его построить?

«Я уверен, что это возможно. Это еще не было сделано, но я убежден, что мы добьемся успеха».

Что до сих пор помешало ему?

«Основное препятствие заключается в том, что многие из людей, которые сегодня работают в промышленности, недостаточно мотивированы безопасностью. Вместо этого они оживлены широко распространенной идеей, что те, кто будет первым, кто будет строить сверхтеллеллигент и мир, и, следовательно, они будут доминировать».

Это опасная раса?

«Да, потому что в спешке прийти в первую очередь, этика, общественная скважина -выгодность, процветание и человеческое достоинство. Поскольку при этом нет немедленного экономического возврата. Немногие люди, в основном в Силиконовой долине, принимают решения, которые могут радикально преобразовать наш мир, к лучшему или худшему. И выборы, которые они делают, имеют огромные последствия.

Который?

«Например, они могут позволить террористам создавать новые пандемии или атаковать, способные разрушать критические инфраструктуры. Или генерировать из -под контроля, способный один день восстать против человечества. Или даже допустить беспрецедентную концентрацию власти в истории».

В какой степени?

«Если текущие тенденции будут продолжаться, мы прибудем к точке, когда технически для одного человека будет доминировать, на самом деле, мир».

И все же IA не кажется подходящей. По словам некоторых, GPT-5 [l’ultimo modello sviluppato da OpenAI] Это шаг назад.

«Нет, они ошибаются. Что касается научных фактов, если вы используете строгие метрики для измерения интеллекта с десятков углов – понимания, рассуждения, планирования, решения проблем – данные явно показывают постоянный прогресс. GPT -5 именно там, где вы ожидаете, если вы будете следовать траектории улучшения. Это лучше, чем его предшественники».

Так почему же многие пользователи жаловались?

«Некоторые были раздражены, потому что GPT-4 стал менее« самодовольным », менее желая сказать, что пользователь хотел сказать. Тогда есть те, у кого были нереалистичные ожидания, часто подпитываемые чрезмерно оптимистичными объявлениями, такими как Сэм Альтман, и когда реальность оказалась только последующим шагом на кривой, они были разочарованы, но, очевидно, мы не должны были достигнуты, что-то не должно было этого не поехать, и никого не ожидали, что-то не должно было этого, и еще не ожидали, что не должно было этого.

Но тогда вы верите, что Agi, искусственный интеллект с когнитивными способностями, идентичных способностями людей?

«Технически это возможно, да, но этот термин вводит в заблуждение. IAS уже выше нас во многих областях: расчет, память, доступ к информации, лингвистическое поколение. И в то же время они даже более глупы, чем люди в других аспектах, такие как здравый смысл, социальная контекст или моральная интуиция. Настолько представленный точный день, в котором я достигаю человеческого уровня не является научной чувственной.

Его коллега Джеффри Хинтон, Он сказал Financial Times Что IA сделает «несколько богатых людей, много беднее». Сэм Альтман, генеральный директор OpenAI, утверждает, что будущее процветание повлияет на всех. Кто прав?

«Хинтон. В стране, где разрабатывается IA и прибыль, полученная в результате автоматизации, облагается налогом, можно представить себе доброжелательное правительство, которое перераспределяет это богатство, чтобы помочь людям, которые теряют свою работу. И да, многие люди потеряют его, во всей вероятности: это только вопрос времени. Но в других странах? Услуги, чтобы уволить часть персонала, возможно, становятся более продуктивными, но большой кусок экономической выгоды будет экспортироваться в компании и страны, где был разработан IA.

Тезис Альтмана больше не будет удержаться.

«Если мы посмотрим на глобальную картину, производительность увеличится: в среднем мы все будем богаче. Но нет, это не будет распределенным богатством в равной степени. Если инновации и доходы сосредоточены в нескольких странах и в небольшой элите компаний и отдельных лиц, то то, что мы увидим, будет взрывом экономического неравенства, даже более экстремальным, чем то, что уже существует сегодня».

В этом антиутопическом будущем Европа останется раздавленной между США и Китаем?

«В Европе достаточно капитала и настоящего таланта, а также в других либеральных демократиях, чтобы избежать полностью или в заключении или вооруженно доминировали сверхспособности ИИ».

Является ли Европа позади из -за строгих правил акта?

«Это чушь. Запросы акта, в большинстве случаев, являются вещами, которые ведущие компании в Европе уже убегают. Поэтому заявление о том, что акты предотвращают развитие границы ИИ, является слабой темой, почти оправдание. Мы можем абсолютно развивать, уважая действия. Так в чем же настоящая проблема?

«Это не нормативно, но структурно. Это вопрос культуры: культура инвестиций в Европу часто является слишком консервативной, слишком неблагоприятной для риска. Не только на предпринимательском уровне, но и, возможно, и, прежде всего, на политическом и институциональном уровне. должен проснуться.