Предупреждение из прошлого об опасностях ИИ

Понятие искусственного интеллекта, если не сказать точная формулировка, впервые появилось в Нация в 1958 году в обзоре работы математика и физика венгерского происхождения Джона фон Неймана. Компьютер и мозг. Опубликованная через год после смерти автора, книга обрисовала новую на тот момент аналогию между функционированием первых компьютеров и человеческого разума.

НацияРецензент журнала Макс Блэк, профессор философии Корнелла, похвалил раннюю формулировку теории игр фон Неймана как «один из интеллектуальных памятников нашего времени». Если бы он прожил дольше, посетовал Блэк, ученый “мог бы построить еще более важную теорию вычислительных машин. Такие “искусственные мозги” могут в конечном итоге изменить нашу культуру, но наше теоретическое понимание их основных принципов все еще остается относительно грубым и бессистемным”.

Блэк не упомянул связи фон Неймана с военно-промышленным комплексом (термин, придуманный три года спустя президентом Дуайтом Д. Эйзенхауэром). Ярый антикоммунист, фон Нейман сыграл решающую роль в Манхэттенском проекте, а позже выступал за разработку межконтинентальных баллистических ракет, достаточно больших, чтобы нести водородные бомбы. Если бы фон Нейман прожил дольше, он почти наверняка сосредоточил бы свой собственный разум, подобный суперкомпьютеру, на выяснении того, как лучше всего использовать «искусственный мозг» в военных целях.

Это было именно Нацияобеспокоенность, когда в следующий раз речь шла об опасностях искусственного интеллекта. В статье 1983 года «Обзор новейших высоких технологий» Стэн Норрис, исследователь Центра оборонной информации, написал о передовых инструментах, разрабатываемых с целью дать Соединенным Штатам преимущество над Советским Союзом. ЦРУ работало над тем, чтобы заставить компьютеры «обрабатывать информацию и формулировать на ее основе гипотезы». Другие проекты были направлены на создание роботов, которые могли бы заменить людей на «полях сражений двадцать первого века».

“Как показывают эти примеры, – заключил Норрис, – новые технологии продолжают создавать новые формы террора. Гонка технологических вооружений набирает обороты, увеличивая опасность войны из-за просчетов и уменьшая, а не увеличивая национальную безопасность. Оружие обогнало политику. Поиск определенной степени общей безопасности лежит не в лаборатории, а за столом переговоров”.

Два года спустя аспирант по имени Пол Н. Эдвардс подробно рассказал об усилиях Агентства перспективных исследовательских проектов Министерства обороны по эффективному «передаче ключевого элемента ядерного триггера в призрачные руки машины». Это было одновременно глупо и опасно, утверждал Эдвардс:

“Идея искусственного интеллекта, более логичного и надежного, чем наш собственный, является соблазнительной, особенно если мы верим, что он может защитить нас от ядерного Армагеддона. К сожалению, он не может этого сделать. Компьютерные системы, хрупкие и запрограммированные людьми, которые никогда не могут предвидеть каждую мыслимую ситуацию, всегда будут ненадежными ядерными стражами. Решение заключается, как это всегда было, в уменьшении опасности войны путем откладывания оружия и расширения возможностей для мирные обмены».

Как Майкл Клэр показывает в другом месте В этом вопросе перспектива использования «искусственного мозга» для замены человеческого суждения и ответственности продолжает оставаться соблазнительной, создавая новые формы террора и уменьшая, а не увеличивая национальную безопасность.