Автор Мэгги Джексон говорит, что во время написания своей книги «Неуверенность» она узнала, как терпимость к неуверенности может помочь нам и защитить от опасностей ИИ

1 Неопределенность тревожит — и это подарок

Я не собирался писать книгу о неопределенности. Несколько лет назад я начал исследовать том, какие виды мышления необходимы в эпоху скоростей и фрагментации. Эпистемический неопределенность, которая возникает, когда мы осознаем пределы наших знаний, была темой моей первой главы. Я предполагал, что неуверенность — это всего лишь предисловие к хорошему мышлению, нечто, что нужно как можно быстрее искоренить на пути к ответу. Но вскоре я обнаружил новую волну увлекательных междисциплинарных исследований, которые опровергают наши многочисленные ошибочные представления о неуверенности.

Например, неопределенность вызывает у нас беспокойство, и эта ассоциация часто приводит к тому, что мы хотим ее избежать. Для выживания люди, естественно, нуждаются в ответах и ​​хотят их получить. Вот почему мы испытываем стрессовую реакцию, когда сталкиваемся с чем-то новым, неясным или неожиданным. В первый день на новой работе наше сердце может биться чаще, а ладони потеть. Но если мы присмотримся повнимательнее, мы начнем видеть, что гормоны и химические вещества стресса, высвобождаемые в условиях неопределенности, также оказывают удивительно положительное воздействие, особенно на мозг.

Когда вы понимаете, что ничего не знаете, ваше внимание расширяется, рабочая память улучшается, а мозг становится более восприимчивым к новым данным, показывают исследования Жаклин Готлиб и других. Неопределенность в основном хороший стресс и форма бодрствования. Мозг говорит себе: «Здесь есть чему поучиться», — сказал мне нейробиолог Джозеф Кейбл из Пенсильванского университета. Принятие провокационной природы неопределенности помогает нам оставаться открытыми в те критические моменты, когда жизнь приглашает нас учиться. Это лишь одно из невоспетых чудес неуверенности.

2 Долгое пренебрежение незнанием

В поисках тайн неопределенности я наблюдал за хирургическими операциями в Канаде — это окно в понимание роли неуверенности в принятии важных решений. Я беседовал с активистами в Лос-Анджелесе, которые обнаружили, что открытость к точке зрения политического оппонента снижает их собственную и предвзятость своего противника. Я изучил новые данные о положительных сторонах амбивалентности лидеров и пользе мечтательности, времени, когда мы позволяем нашему разуму задавать вопросы «а что, если».

И я продолжал замечать, что до недавнего времени многие из этих исследовательских тем считались в значительной степени недостойными изучения, иногда настолько, что, как в случае с мечтать, борьба с ними может повредить научной карьере. Когда сеть режима по умолчанию, связанная с блужданием ума, была случайно обнаружена у участников, отдыхающих в сканере, некоторые исследователи заявили, что эта загадочная система не заслуживает дальнейшего изучения. “Не спрашивай!” Они сказали. «Это не наука!»

Для выживания люди, естественно, нуждаются в ответах и ​​хотят их получить.

Выбор темы исследования ученым сложен. Но, возможно, давние культурные предубеждения против неопределенности сыграли свою роль в научном пренебрежении незнанием. На протяжении веков современные общества, особенно на Западе, в основном определяли «знание» как ориентированное на результат, эффективное и полностью находящееся под контролем человека. Философ Джон Дьюи назвал это великим «поиском уверенности». Но нетерпимость к незнанию сужает как наш взгляд на мир, так и на то, что мы считаем достойным исследования.

Например, долгое время считалось, что сон и отдых — это когнитивная пустошь, так же как и исследовательские болота. Но оказывается, что эти времена «ничто» включают в себя очень активную когнитивную обработку. Люди, которые делают тихую паузу всего на шесть минут после изучения новой лексики, историй или виртуального лабиринта, могут запомнить примерно на одну пятую больше, чем те, кто сразу переходит к новой задаче. Теперь, прочитав научную статью или проведя репортажное интервью, я стараюсь сделать паузу и позволить своему разуму переварить полученный опыт. Даже последующая борьба за восстановление знаний, которая исчезает, когда мы откладываем обучение или засыпаем над проблемой, укрепляет концепции, контексты и новые будущие пути обратно к запоминанию.

Давным-давно римский государственный деятель Цицерон использовал слово неопределенный, что означает «неочевидный» или «нераспознанный» как термин, обозначающий неопределенность в трактате. Он мог бы говорить о дарах неопределенности как таковых.

3 Неопределенность может спасти человечество

Работая над этой книгой, я стал свидетелем углубления стремления к определенности во многих сферах современной жизни. Тем не менее, я также стал свидетелем зарождающегося позитивного изменения в подходе человечества к нет-Знания в медицине, политике, бизнесе, искусстве и технологиях. Неопределенность побуждает нас учиться, сигнализирует о том, что пришло время ослабить наши предположения, подогревает любопытство и может спасти нас от потенциально экзистенциальных рисков, связанных с ИИ.

С самого начала ИИ основывался на узком рациональном определении интеллекта: быть умным — значит достигать своих целей. Люди ставят цель — собрать пакет, найти опухоль, — а система учится выполнять ее, насколько это возможно. Все неожиданное, например шум в датчиках, рассматривается как нечто, что следует игнорировать или устранять. По сути, область ИИ пытается поставить «мир — в переносном и буквальном смысле — на автопилот», — говорит автор и исследователь компьютерных наук Брайан Кристиан. Результат становится все более мощным, потенциально неудержимые модели и роботы, которые имеют тенденцию не соответствовать человеческим потребностям.

Пока еще не решено, являются ли риски ИИ преувеличенными или неизбежными. Но чтобы предотвратить потенциальную катастрофу, десятки ведущих лабораторий радикально перепроектируют ИИ, чтобы он мог быть неуверенным в своих целях и, следовательно, доступным для обучения и прозрачным. Например, неуверенный в себе робот-полицейский признает, что подозреваемым является мужчина, бегущий по улице, с вероятностью всего 70 процентов, вместо того, чтобы приказать партнеру-человеку стрелять. Люди, которые работают с неуверенными роботами, лучше справляются с задачами вместе и считают своих партнеров-машин умнее и склоннее к сотрудничеству. В лаборатории Технологического института Вирджинии я тестировал одного из первых в мире роботов «Я не знаю» — простую роботизированную руку, которая могла адаптироваться к моим потребностям.

Некоторые ученые, создающие неуверенный в себе ИИ, даже говорили мне, что создание скромных и честных систем вдохновляет их развивать эти навыки в себе. Учитывая глубокое влияние технологий на нашу жизнь и сознание, когда-нибудь наши устройства смогут держи зеркало нашему лучшему «я», вдохновляя нас использовать силу неопределенности и признать ее. И, возможно, даже раньше мы сможем стать примером мудрости неопределенности друг для друга. В конце концов, понимая, что в любой момент мы можем нет Знаете, мы можем начать освобождаться от разрушения, вызванного закрытым разумом. «Неопределенность, — сказала мне робототехника Анка Драган, — учит вас тому, к чему следует стремиться».

Ведущий арт: StunningArt / Shutterstock..

• Мэгги Джексон

  Опубликовано 5 декабря 2023 г.

  Мэгги Джексон — отмеченная наградами писательница и журналистка, известная своими дальновидными работами о социальных тенденциях, в частности о влиянии технологий на человечество. Ее новая книга, Неуверенность: мудрость и чудо неуверенности, был номинирован на Национальную книжную премию. Ее предыдущая книга Отвлеченность: возвращение внимания в мире потерянного внимания вызвало глобальный разговор о высоких издержках нашей современной жизни, ориентированной на технологии и внимания. Узнайте больше у нее Веб-сайт.