«ИИ может создать смертельный вирус, чтобы убить нас»

В течение многих лет этот инженер и бывший сотрудник таких технологических компаний, как Google или Microsoft, был одним из тех, кто громче всех предупреждал о рисках, связанных с разработкой ИИ. Технология, которая, по его мнению, может в конечном итоге привести к истреблению людей, если продолжит развиваться. «Я не знаю, сколько времени нам осталось. Может быть, у нас есть еще десять лет, а может быть, всего несколько месяцев, потому что очень сложно предсказать скорость, с которой будут развиваться технологии», — объясняет он в разговоре с ABC.

Инженер является президентом Научно-исследовательского института машинного интеллекта (MIRI) с 2023 года. Это некоммерческая организация, занимающаяся изучением того, как обеспечить безопасность передового искусственного интеллекта и его соответствие интересам человека. Недавно он опубликовал «Если кто-нибудь в это поверит, мы все умрем» («Дестино»); книга, которую он подписал вместе с исследователем Элиэзером Юдковским и в которой пытается предупредить об опасности, которую таит в себе концепция сверхинтеллект. Тот ИИ будущего, который предположительно будет умнее самого мудрого человека. В настоящее время такие компании, как OpenAI, Meta, Google или антропный В его развитие они инвестируют сотни миллиардов евро. Некоторые предполагают, что это произойдет до конца десятилетия. Другие, возможно, никогда этого не сделают.

После нескольких лет предупреждений об опасности Соарес настаивает на том, что его позиция не является маргинальной в области ИИ. «Я просто говорю то, во что верю, и я не единственный, кто так думает. Тех ученых, которые говорят, что экзистенциального риска нет, становится все меньше. «Это не иррациональная идея», — говорит он. В качестве примера он приводит таких фигур, как Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года, или Йошуа Бенджио, лауреат премии Тьюринга и один из пионеров глубокого обучения, которые действительно уже проявили обеспокоенность по поводу создания сверхинтеллекта.

Однако не все эксперты разделяют этот диагноз. Другие ключевые учёные, занимающиеся разработкой этой технологии, такие как бывший руководитель отдела искусственного интеллекта в Meta Янн ЛеКун или исследователь Майкл И. Джордангораздо более скептически относятся к сценариям экзистенциальный риск. Оба утверждают, что нынешние системы очень далеки от того, чтобы стать общим интеллектом, и отвергают гипотезы, согласно которым ИИ может преследовать свои собственные цели и в конечном итоге угрожать человечеству. Эту позицию разделяет большинство ученых и экспертов, с которыми ABC общалась в последние годы.

Как бы то ни было, почему, по мнению Соареса, искусственный интеллект, более продвинутый, чем человеческий, в конечном итоге может стать угрозой? «Самый простой способ для него решить, что мы вымрем, — это прийти к выводу, что ресурсами планеты можно было бы лучше управлять без людей. В будущем, если вам понадобится рабочая сила, вы сможете использовать роботов. Оно также могло бы построить свою собственную цивилизацию и собственную экономику и монополизировать всю энергию на планете для покрытия своих нужд», — объясняет инженер.

Это также дает понять, что Он не верит, что машина действовала из ненависти. или негодование, потому что «ИИ вообще не заботится о нас»: «Мы не ненавидели вымерших животных, таких как птица додо; «Мы просто начали копить ресурсы, и в некоторых случаях это привело к их исчезновению».

Что касается процедуры, которой будет следовать система для уничтожения человечества, Соарес отбрасывает наиболее типичные сценарии научно-фантастического кино восьмидесятых годов: «Я не думаю, что будущее будет похоже на «Терминатора» с кучей роботов, стреляющих в нас. «Я вижу более вероятным, что он создаст смертельный вирус и все люди умрут». Что касается мотивов, инженер также не исключает, что в данный момент ИИ может рассматривать человечество как угрозу своему выживанию.

Сумасшедшие люди без морали

Соарес считает, что человечество еще не достигло «точки невозврата». Чтобы избежать этого, он считает, что крайне важно, чтобы правительства приняли меры, чтобы остановить эскалацию. «Единственное, что будет потеряно, — это несколько сотен миллиардов долларов и базы данных, которые потребляют больше энергии, чем целый город», — говорит он. Он также ясно дает понять, что технологические компании, участвующие в гонке, не собираются останавливаться, если их не принудить: «Я думаю, что то, что они делают, Это безумие и аморально. Есть ученые, которые считали этот путь неэтичным и поэтому не создавали компании, занимающиеся искусственным интеллектом. Те, кто их создал, убедили себя в этом и пошли на риск уничтожить мир собственными руками.

Президент MIRI также подчеркивает, что компании, занимающиеся разработкой сверхинтеллекта, прекрасно осознают, что «они подвергают человечество опасности»: «Мы не можем им доверять». И он указывает, что хотя он понимает, что есть “некоторая надежда на то, что сверхинтеллект сможет создать утопический мир”, в котором общество будет жить лучше, ставка на его развитие кажется ему “безумием”: “Я вижу два варианта, с одной стороны, компании, которые никто не выбирал, контролирующие все. Второй – создание неконтролируемого ИИ, который убьет нас всех. “Две очень нелестные возможности”.