Споры по поводу искусственного сверхинтеллекта (ИСИ) могут склоняться к крайностям, с предсказаниями, что он либо спасет человечество, либо уничтожит его. Э. Глен Вейл придерживается иной точки зрения: сверхинтеллект уже здесь, и он существует уже тысячи лет.
Выступая 19 ноября в Центре Беркмана Кляйна, Вейл, экономист Microsoft Research и соавтор книги «Радикальные рынки», призвал слушателей думать о сверхинтеллекте в контексте «гипотезы Геи» Джеймса Лавлока, то есть как о коллективной саморегулирующейся системе, охватывающей все живые существа и природную среду.
Это видение, по его словам, контрастирует с общепринятыми представлениями об ИСИ как о машине, поглощающей информацию, автономно ее обрабатывающей и действующей на ее основе — с конечной целью — соответствовать человеческим возможностям или превосходить их. По его мнению, эта формулировка более чем философская. Это меняет то, как инженеры создают системы искусственного интеллекта — и не в лучшую сторону.
«Когда мы отделяем цифровые системы от людей, мы делаем их опасными, потому что у них нет обратной связи для поддержания гомеостаза, а также они бесполезны, потому что не интегрированы в производственные процессы и участие человека».
Фактически, Вейл сказал: “Суперинтеллект уже повсюду вокруг нас: корпорации, демократии, религии, культуры – все эти вещи проявляют способности, которыми люди не обладают сами по себе. Мы думаем об искусственном сверхинтеллекте как о чем-то уникальном. Вместо этого я предполагаю, что это еще один способ, который позволяет нам отображать человеческие социальные отношения и тем самым расширять их”.
Религиозные, правительственные и корпоративные системы, по словам Вейля, демонстрируют сверхразум, потому что они опираются на коллективное самосознание для расширения человеческих возможностей таким образом, чтобы позволить большим сообществам достигать целей. Они также укрепляют сплоченность, превосходящую то, что люди могли бы сделать индивидуально или в группах.
В качестве примера Вейль указал на японскую систему Кайдзен, внедренную после Второй мировой войны. Когда заводские рабочие получали тщательно адресную информацию о более широком производственном процессе и своей роли в нем, они могли лучше внедрять инновации и совершенствовать операции на каждом отдельном этапе. «Вы не можете рассказать каждому линейному рабочему обо всем, что связано с производством вашего автомобиля, — объяснил Вейл, — поэтому вам придется делать ставку на то, какая информация является наиболее важной и актуальной».
В основе концепции сверхразума Вейля лежит идея общеизвестного знания — информации, которую, по словам Вейля, «не только я знаю, и вы знаете, но и то, что я знаю, что вы знаете, и я знаю, что вы знаете, что я знаю — и так далее». В качестве примера он привел «Новую одежду императора»; каждый человек знает, что император голый, но только когда ребенок публично смеется, все понимают, что все видят одно и то же.
Социальные сети и современные концепции сверхразума подрывают это общее знание, утверждает Вейл. В Китае, по его словам, правительственная цензура онлайн-пространств затрудняет объединение сообществ вокруг общеизвестных знаний. В западных культурах социальные сети усугубили поляризацию, отдавая предпочтение голосам, вызывающим разногласия.
Однако некоторые страны избрали гуманистический подход к уменьшению поляризации и увеличению взаимопонимания. Он упомянул инструменты, созданные тайваньским правительством для облегчения разногласий, в том числе Полискоторый показывает пользователям, как сообщения в социальных сетях вписываются в различные идеологические кластеры, и подробно описывает сходство между, казалось бы, несопоставимыми идеями. «Это своего рода вакцина или лекарство от поляризационной атаки», — сказал Вейл.
В дискуссии после доклада с Мойрой Вайгель, доцентом кафедры сравнительной литературы и сотрудником факультета Беркмана Кляйна, Вейл подробно остановился на том, как он определяет интеллект для технологических систем. По его словам, для систем более важно контролировать свое собственное функционирование и реагировать на входящую информацию с помощью внутренней логики, чем просто выполнять задачу человеческим способом.
Размышляя о том, кто «выиграет» битву ИИ, — Восток или Запад, Вейль отверг эту формулировку как несущественную. «Если вы мчитесь, чтобы врезаться в стену, победит тот, кто свернет в конце, а не тот, кто врежется в стену», – сказал он.
В конце концов, сказал Вейл, дело не столько в силе системы, сколько в том, как она адаптируется.
Читайте также
