Убьет ли искусственный интеллект людей такими, какими мы их знаем? – Корьер ТВ

Паоло Бенанти и Ян Бреммер. Под редакцией Массимо Гаджи. / CorriereTV

От геополитики к этике и религии. Тревоги ученых, опасающихся вымирания человечества, множатся, в то время как в Силиконовой долине вновь обретает долю теория сингулярности: машины более мощные, чем человеческий разум, которые продлят нашу жизнь, пока мы не коснемся трансцендентности: что будет с религиями?

ПОЛ БЕНАНТИ «Когда мы говорим о верующих, мы все верующие. Если я спрошу вас: мы сделаны из атомов? Вы ответите да, но вы никогда их не видели. Вы доверяете источнику, который считаете заслуживающим доверия. Когда восемь тысяч лет назад крестьянин недалеко от Ирана обменял мешок зерна на металл, он знал, что зерно кормит его, но не был уверен, что даже этот металл даст ему что-нибудь съедобное. Почему он это сделал? Он доверял изображению лица короля на этой монете. В отличие от животных, руководствующихся только инстинктами, у нас есть отношения и процессы, которые заставляют нас верить в определенные вещи. А религия — это вероучение о конечных целях. Сегодня под вопросом весь процесс веры, а не только вера. У вас может быть даже религиозный подход к ИИ. Один из первых фрагментов западной философии доходит до нас от Гераклита: он говорит нам, что бог, находящийся в Дельфах, не говорит, не молчит, а придает смысл миру. Многие, когда они консультируются с Google, используют пророческий подход к данным. ИИ — идеальный оракул. Теперь, когда мы отказались от этой мифологии, мы ввели разум и философию. Если мы их устраним, останется только система убеждений, и произойдет то, что мы рассказывали о протестах против Трампа. Эта могучая машина — совершенный бог на Земле. Или, скорее, много богов для многих функций. Вместо горы Олимп у нас дисплей смартфона: у нас больше нет бога любви, но есть Tinder, не бог рынка, но есть Amazon. И такого рода религиозные отношения заставляют нас не проверять реальность фактов. Короче говоря, мы управляем машинами, потому что позволяем управлять собой. И, если честно, меня больше пугает конец того, что осталось от среднего класса, чем предсказания истребления человечества. Сегодня легче автоматизировать некоторые функции более высокого уровня, чем низкоуровневые. В сети калькулятор на солнечных батареях, способный выполнять сложные операции, стоит меньше доллара. Если вы хотите, чтобы механическая рука открывала дверь, вам придется потратить не менее 250 тысяч.

ИАН БРЕММЕР — Я согласен с социальной проблемой труда. Но я думаю, что есть еще более существенный вопрос о человеческих взаимодействиях. Отношения с детьми, домашними животными, друзьями нельзя доверить ИИ. Но люди сейчас все больше и больше живут так, как если бы они были алгоритмами: искусственный интеллект начнет заменять человечность этих отношений. В мире, в котором действуют алгоритмы, интерпретируемые с помощью датчиков и отслеживаемые с помощью данных, ИИ появляется повсюду. Вот вопрос, который меня больше всего беспокоит. Если бы у меня была возможность изменить хотя бы одну вещь, я бы запретил детям до 16 лет приближаться к этим устройствам. Не говоря уже о порнографии, которой подвергаются дети. Мы наблюдаем дисфункции всех видов, от членовредительства до движения инчел, непроизвольного воздержания.

ПОЛ БЕНАНТИ — А теперь попробуйте представить, что получится, если использовать данные, собранные PornHub для эмоциональной тренировки искусственного интеллекта: социальная бомба. Одна вещь, которая меня удивляет, это то, что одним из самых прибыльных бизнесов PornHub является продажа больших данных, которые они собирают.

ИАН БРЕММЕР «Это противоположно тому, что нужно, чтобы оставаться человеком.

ПОЛ БЕНАНТИ — Будем надеяться, что мы не подали плохим парням никаких идей.

ИАН БРЕММЕР «Они уже работают над превращением этого в продукт, будьте уверены. Я хотел бы коснуться еще одного момента. Когда вы говорите о США и Китае, вы, очевидно, также говорите об оружии: и здесь распространяется идея, что не только люди, но прежде всего солдаты должны быть запрограммированы: убийство может вызвать у людей отвращение, и поэтому их нужно дегуманизировать, чтобы воевать более эффективно. Вкратце: сексуальность, торговля и война — основные движущие силы, которые делают ИИ прибыльным.

ПОЛ БЕНАНТИ — Ну конечно: построение врага — центральный элемент общества, от Зигмунда Фрейда до эроса и танатоса, любви и смерти.

Четвертая часть из пяти в серии о рисках искусственного интеллекта Массимо Гаджи с Паоло Бенанти и Яном Бреммером.

Полное письменное интервью на «La Lettura» в воскресенье 25 июня и далее