В эпоху цифровых технологий, которая постоянно развивается, нет конца сценариям конца света, возникающим в результате использования ИИ. И хотя общественное мнение по-прежнему считает, что это экзистенциальная угроза для человеческой жизни, нобелевские лауреаты и известные знаменитости объявили еще одну красную тревогу, подчеркнув, насколько серьезна эта угроза. Они подписали заявление, в котором содержится призыв к запрету сверхразумных систем искусственного интеллекта (ИСИ) до тех пор, пока эксперты не достигнут консенсуса о том, что эту технологию можно разрабатывать безопасно.
Но что на самом деле представляет собой сверхразумный ИИ?
«В основе всего этого лежит идея, которая способствовала всему прогрессу в области искусственного интеллекта, что на самом деле интеллект — это обработка информации», — сказал Макс Тегмарк, глава Института будущего жизни и профессор Массачусетского технологического института, исследующий искусственный интеллект. “И хотя наш мозг очень хорош в этом, по своей сути он представляет собой биологический компьютер, и очевидно, что можно создавать другие виды компьютеров, которые намного умнее нас во всех отношениях. Вот что такое искусственный сверхинтеллект”.
Тегмарк присоединился к ведущему The World’s Host Марко Верману, чтобы обсудить, что такое искусственный сверхинтеллект.
Марко Верман: Я имею в виду, что это квантовый скачок за пределы самого ИИ, верно?
Макс Тегмарк: Сегодняшний ИИ уже лучше нас говорит на 200 языках, чрезвычайно хорош в математике, а за последние четыре года стал очень хорошо читать и писать. Но в некоторых других задачах он все еще намного ниже человеческого уровня. В зависимости от того, кого вы спросите, они думают, что это займет два, пять или 10 лет. … Я очень скромно говорю о том, сколько времени это займет, но люди вроде как перестали говорить, что это займет 100 или 50 лет. Почти все лидеры в этой области полагают, что это произойдет при нашей жизни.
У нас могут возникнуть сомнения по поводу ChatGPT и его родственников; мы можем относиться к этому критически, но я не думаю, что многие из нас готовы этого бояться. Что делает суперинтеллект не просто проблематичным, но и в буквальном смысле угрожающим?
Итак, Алан Тьюринг, крестный отец нашей области, ухватился за это в 1951 году и сказал, что если мы когда-нибудь создадим новый вид сверхразумных роботов, по умолчанию результат будет [that] они главные. Возникает вопрос: зачем нам тогда это делать, верно? Вместо этого большинству людей нужны инструменты искусственного интеллекта, которыми мы по определению можем управлять. Такие инструменты, как [for curing] рак, средства, устраняющие дорожно-транспортные происшествия. Но, тем не менее, эти компании говорят не об этом. О чем они говорят? Они говорят о сверхразуме. Что они на самом деле хотят создать новый, более разумный вид.
Многим людям это не нравится. И решение принести на Землю новый, более разумный вид, что своего рода эквивалентно вторжению на нас инопланетян из космоса, превосходящих их в своих технологиях. Это не то, что следует оставлять на усмотрение кучки неизбранных технических ботаников из Сан-Франциско, которые пьют слишком много Red Bull. Это то, о чем каждый должен высказать свое мнение.
Что касается крупных технологических компаний, зачем им это делать? Зачем им отдавать ум искусственному сверхинтеллекту?
Это действительно хороший вопрос. Обычно мне говорят, когда я говорю [to them]Я знаю всех этих генеральных директоров лично в течение многих лет, и они обычно в частном порядке говорят мне что-то вроде: “Это неизбежно, и это настолько опасно, что только я могу сделать это безопасно. Я должен это сделать”.
Вы упомянули только разнообразие людей, подписавших это письмо. Я имею в виду, мы также видим [former US President] Барак Обама, Ричард Брэнсон и бывший президент Ирландии Мэри Робинсон — все они обеспокоены тем, что ИСИ может привести к сокращению рабочих мест, созданию этических рисков и т. д. Однако как оно могло стать неконтролируемым? Можете ли вы рассказать нам, как это происходит или как это может выглядеть?е?
Итак, я думаю, что загвоздка здесь в том, чтобы не думать о сверхинтеллекте как о новой технологии, такой как Интернет, а думать о нем как о новом виде роботов. Независимо от того, вымерли мы или нет. Когда я играю со своим двухлетним сыном, я хочу, чтобы у него было значимое будущее, даже если он не вымрет. Я не хочу, чтобы они были экономически устаревшими. И я думаю, что это основная причина, по которой мы видим такое разнообразие подписантов. Знаете, многие религиозные лидеры считают, что человеческое достоинство очень важно. У нас есть выбор. Мы можем либо создавать машины, роботов и другие интеллектуальные системы, которые станут для нас инструментами, помогающими нам, расширяющими наши возможности… либо мы можем создавать роботов и другие системы, которые просто напрямую конкурируют с нами.
Если суперинтеллект выйдет из-под контроля, смогут ли люди просто отключить его?
Нет. Это как если бы инопланетный космический флот вторгся в нас, или даже если бы кто-то выпустил ракету с тепловым наведением по вашему самолету, верно? В нем есть ИИ. Вы чувствуете, что я просто отключу ракету с тепловым наведением? Нет, конечно нет.
Вернемся к идее, что многие крупные компании, такие как Meta, гоняются за искусственным сверхинтеллектом. Есть ли у них аргументы в пользу того, зачем нам нужна эта технология?
Сэм Альтман, например, генеральный директор самой влиятельной в мире компании в области искусственного интеллекта, написал эту статью, заявив, что его видение того, что должно произойти, [that] нам следует слиться с машинами. Но знаете, когда я играю со своим двухлетним сыном Лео, мне не нравится мысль, что какой-то технический брат из Сан-Франциско решит, что мой сын сольется с машинами. А что, если он этого не хочет? Знаешь, а что, если мы с женой этого не хотим? Это невероятно радикальная вещь – просто навязывать нам всем недемократически.
Я имею в виду, что если искусственный сверхинтеллект вскоре сможет перехитрить, перехитрить и перехитрить любые созданные человеком меры безопасности, возможно ли на данном этапе вообще большее регулирование и надзор?
Ну конечно, ведь сверхразума у нас пока нет, хотя мы и приближаемся к нему. Сейчас идеальное время для принятия этих мер безопасности. Вы можете подумать, что неизбежно, что любая технология, которая может [generate] будет получено много прибыли и власти, но это, очевидно, неправда, если вы посмотрите на исторические факты. Если бы я мог клонировать вас человека, сделать миллион ваших клонов, а также настроить вашу ДНК так, чтобы вы были еще лучше в некоторых вещах, представляете, сколько денег я мог бы на этом заработать, верно? И все же, после [much] В ходе дискуссии в 70-е годы ученые и широкая общественность пришли к выводу, что это просто отвратительно. Это может привести к тому, что мы потеряем контроль над нашим видом. Мы просто этого не хотели. Его очень стигматизировали и в конечном итоге запретили. А сколько человеческих клонов вы сегодня встретили на улице? Ноль, да? Раньше мы остановили множество очень прибыльных технологий. Мы можем сделать это снова.
Это интервью было слегка отредактировано и сокращено для ясности.
Читайте также
