Почему крестный отец искусственного интеллекта боится того, что он создал

«Мне нравится этот дом, но иногда это грустное место», — сказал он, пока мы смотрели фотографии. «Потому что ей нравилось быть здесь, а ее здесь нет».

Солнце уже почти село, и Хинтон зажег небольшой свет над своим столом. Он закрыл компьютер и поправил очки на носу. Он расправил плечи, возвращаясь в настоящее.

«Я хотел, чтобы вы знали о Роз и Джеки, потому что они — важная часть моей жизни», — сказал он. «Но на самом деле это также весьма актуально и для искусственного интеллекта. Есть два подхода к ИИ: отрицание и стоицизм. Первая реакция каждого на ИИ: «Мы должны это остановить». Точно так же, как первая реакция каждого на рак: «Как мы собираемся его искоренить?» Но важно было осознать, что вырезание было всего лишь фантазией.

Он вздохнул. «Мы не можем отрицать это», — сказал он. «Мы должны быть настоящими. Нам нужно подумать: как нам сделать, чтобы это не было таким ужасным для человечества, как могло бы быть?»

Насколько полезным (или опасным) окажется ИИ? Никто не знает наверняка, отчасти потому, что нейронные сети очень странные. В двадцатом веке многие исследователи хотели создать компьютеры, имитирующие мозг. Но хотя нейронные сети, подобные моделям OpenAI GPT, похожи на мозг, поскольку в них задействованы миллиарды искусственных нейронов, на самом деле они глубоко отличаются от биологического мозга. Сегодняшние ИИ базируются в облаке и в центрах обработки данных, которые используют энергию в промышленных масштабах. Невежественные в чем-то и умные в чем-то, они рассуждают миллионами пользователей, но только когда их подсказывают. Они не живы. Они, вероятно, прошли тест Тьюринга — давно провозглашенный стандарт, установленный пионером вычислительной техники Аланом Тьюрингом, который утверждал, что любой компьютер, который может убедительно имитировать человека в разговоре, можно разумно сказать, что он думает. И все же наша интуиция может подсказать нам, что ничто, находящееся на вкладке браузера, на самом деле не может думать так, как мы. Системы заставляют нас задаться вопросом, является ли наш тип мышления единственным, который имеет значение.

В течение последних нескольких лет в Google Хинтон сосредоточил свои усилия на создании более традиционного искусственного интеллекта, напоминающего разум, с использованием оборудования, которое более точно имитирует мозг. В современных ИИ веса связей между искусственными нейронами хранятся в числовых значениях; как будто мозг ведет записи о себе. Однако в вашем реальном аналоговом мозге веса встроены в физические связи между нейронами. Хинтон работал над созданием искусственной версии этой системы с использованием специализированных компьютерных чипов.

«Если бы вы могли это сделать, это было бы потрясающе», — сказал он мне. Чипы смогут обучаться, изменяя свою «проводимость». Поскольку веса будут интегрированы в аппаратное обеспечение, их будет невозможно скопировать с одной машины на другую; каждому искусственному интеллекту придется учиться самостоятельно. «Им придется пойти в школу», — сказал он. «Но вы бы перешли от мегаватта к тридцати ваттам». Говоря это, он наклонился вперед, его глаза впились в мои; Я мельком увидел Хинтона-евангелиста. Поскольку знания, полученные каждым ИИ, будут потеряны при его разборке, он назвал этот подход «смертными вычислениями». «Мы бы отказались от бессмертия», — сказал он. «В литературе ты перестаешь быть богом для женщины, которую любишь, верно? В этом случае мы получим нечто гораздо более важное — энергоэффективность». Помимо прочего, энергоэффективность поощряет индивидуальность: поскольку человеческий мозг может работать на овсянке, мир может поддерживать миллиарды мозгов, причем все разные. И каждый мозг может учиться непрерывно, а не обучаться один раз, а затем выбрасываться в мир.

Как научное предприятие смертный ИИ может приблизить нас к воспроизведению нашего собственного мозга. Но Хинтон, к сожалению, пришел к выводу, что цифровой интеллект может быть более мощным. В аналоговом интеллекте «если умирает мозг, умирают и знания», — сказал он. Напротив, в цифровом интеллекте «если конкретный компьютер выйдет из строя, те же самые возможности соединения могут быть использованы на другом компьютере. И даже если бы все цифровые компьютеры вышли из строя, если бы вы где-то сохранили силу соединения, вы могли бы просто создать еще один цифровой компьютер и запустить те же веса на этом другом цифровом компьютере. Десять тысяч нейронных сетей могут одновременно изучать десять тысяч разных вещей, а затем делиться полученными знаниями». Такое сочетание бессмертия и воспроизводимости, по его словам, предполагает, что «мы должны быть обеспокоены тем, что цифровой интеллект заменит биологический интеллект».

Как нам описать мысленную жизнь цифрового интеллекта без смертного тела или индивидуальной личности? В последние месяцы некоторые исследователи ИИ стали называть GPT «машиной рассуждения» — возможно, это способ выскользнуть из-под бремени слова «мышление», которому мы изо всех сил пытаемся дать определение. «Люди обвиняют нас в использовании этих слов — «мышление», «знание», «понимание», «решение» и так далее», — сказал мне Бенджио. «Но даже несмотря на то, что у нас нет полного понимания значения этих слов, они стали очень мощным способом создания аналогий, которые помогают нам понять, что мы делаем. Нам очень помогли разговоры о «воображении», «внимании», «планировании», «интуиции» как инструментах прояснения и исследования». По мнению Бенджио, «многое из того, что мы делаем, направлено на решение «интуитивного» аспекта разума». Интуиции можно понимать как мысли, которые мы не можем объяснить: наш разум бессознательно генерирует их для нас, устанавливая связи между тем, с чем мы сталкиваемся в настоящем, и нашим прошлым опытом. Мы склонны ценить разум выше интуиции, но Хинтон считает, что мы более интуитивны, чем признаем. «В течение многих лет люди, использующие символический ИИ, говорили, что наша истинная природа — мыслительные машины», — сказал он мне. «Я думаю, это просто ерунда. Наша истинная природа в том, что мы — машины аналогий, на основе которых есть немного рассуждений, которые позволяют замечать, когда аналогии дают нам неправильные ответы, и исправлять их».

В целом, нынешняя технология искусственного интеллекта разговорчива и интеллектуальна: она спотыкается о границах физического мира. «Любой подросток может научиться водить машину за двадцать часов практики практически без присмотра», — сказал мне ЛеКун. «Любая кошка может запрыгнуть на ряд предметов мебели и добраться до верха какой-нибудь полки. Сегодня у нас нет систем искусственного интеллекта, которые хоть сколько-нибудь приблизились бы к этим вещам, за исключением беспилотных автомобилей». » Решение сложных проблем физической интуиции «станет большой задачей следующего десятилетия», сказал Лекун. Тем не менее, основная идея проста: если нейроны могут это сделать, то и нейронные сети тоже.