Почему беспрепятственный ИИ может быть вредным

Авторы обеспокоены тем, что системы искусственного интеллекта, способные мгновенно давать точные ответы или быстро реагирующий разговор, могут обойти эти процессы обучения и мотивации. Ставя результаты выше усилий, ИИ может ослабить опыт, который помогает людям развивать навыки, строить отношения и находить смысл в своей работе.

IEEE-спектр поговорил с ведущим автором статьи, Эмили Зохаркандидат экспериментальной психологии. студентке, о том, почему она и ее соавторы (психологи Пол Блум и Майкл Инцлихт) утверждают, что трение имеет значение — и как мог бы выглядеть более ориентированный на человека подход к проектированию ИИ.

Когда вы говорите «трение», что вы имеете в виду как с когнитивной, так и с межличностной точки зрения?

Зоар: Мы определяем трение как любую трудность, возникающую при достижении цели. В контексте работы это требует умственных усилий — размышлений и настойчивости, удерживания проблемы в течение некоторого времени, что помогает укрепить идею и творческий процесс.

В отношениях трения включают в себя разногласия, компромиссы, непонимание, естественные разговоры взад и вперед, когда вы не всегда сходитесь во взглядах, и это помогает вам расширить свой кругозор. Даже чувство одиночества важно. Это мотивирует вас находить социальные взаимодействия. Поэтому наличие этих негативных чувств и трудностей важно в социальном контексте.

Учитывая это определение, что вы подразумеваете под «бесконфликтным» ИИ?

Зоар: Беспрепятственный ИИ означает чрезмерное отстранение усилий от когнитивных и социальных задач. С ИИ, в том виде, в каком мы его обычно используем, очень легко перейти от идеи к конечному продукту. Вы просите ИИ решить что-то с помощью одной подсказки, и он все завершает. Это проблема, поскольку при этом убираются промежуточные шаги, которые действительно стимулируют мотивацию и обучение, и ставится приоритет над процессом. Вместо того, чтобы выполнять шаги, ИИ выполняет за вас эту значимую работу.

Есть много исследований, показывающих рабочие продукты лучше с ИИ. В этом есть смысл, у него есть все эти знания, но это нас беспокоит, поскольку может привести к разрушению чего-то важного, что будет иметь долгосрочные последствия. Если вы столкнулись с той же проблемой и ИИ удален, у вас нет необходимых знаний, чтобы знать, как решить эту проблему в следующий раз.

Вы утверждаете, что устранение разногласий может нанести вред обучению и отношениям. Какую роль усилия и борьба играют в человеческом развитии?

Зоар: В обучении используется термин «желательные трудности». Это идея усилий и работы, не просто каких-либо усилий, а управляемый усилие. Столкнуться с проблемами, которые можно преодолеть, но над ними придется немного поработать — вот ключевая идея трения. Мы не хотим, чтобы вы столкнулись с непреодолимыми проблемами. Мы хотим, чтобы вы много работали, но все же смогли преодолеть это. Это помогает вам действительно усваивать информацию и учиться на ней.

В межличностных отношениях вам приходится сталкиваться с некоторыми трудностями, чтобы увидеть другие точки зрения и извлечь из них уроки, а также научиться принимать других. Если вы привыкли к тому, что ИИ подкрепляет все ваши идеи и льстит, вы попадете в реальный мир и не привыкнете видеть другие идеи. Вы не будете знать, как взаимодействовать в обществе, потому что будете ожидать, что люди всегда будут на вашей стороне и согласятся с вами. Вы не узнаете, что жизнь не всегда идет так, как вы ожидаете, а разговоры не всегда идут так, как вы хотите.

Влияние ИИ на творческие процессы

Многие технологии исторически были направлены на сокращение усилий: калькуляторыстиральные машины, проверка правописания. Чем отличается ИИ?

Зоар: Предыдущие технологии в основном были сосредоточены на уменьшении физических усилий. Нам больше не нужно идти к озеру, чтобы постирать белье. [Past technologies] убрали обыденные задачи, которые не способствовали нашему обучению и росту, они просто добавляли ненужные препятствия и отнимали время у более важных задач.

Но ИИ отвлекает усилия от творческих и когнитивных процессов, которые определяют смысл, мотивацию и обучение. Это ключевое отличие, поскольку оно не избавляет от проблем, которые нам не нужны. Это устраняет противоречия в опыте, который действительно важен и является неотъемлемой частью нашего развития.

Существуют ли ситуации, в которых ИИ уже устраняет полезные разногласия? Как со временем могут проявиться последствия снижения трения?

Зоар: Ярким примером является письмо. Люди все чаще полагаются на ИИ при составлении всего, от электронных писем до эссе, устраняя многие случаи полезных разногласий. Исследования показывают, что люди меньше доверяют ответам, когда узнают, что они были написаны ИИ, оценивают продукты, созданные ИИ, как менее творческие и менее ценные, а также с трудом запоминают свои собственные рабочие продукты, когда они были созданы с помощью ИИ. Аутсорсинг письма ИИ устраняет как социальные, так и когнитивные трения.

Кодирование Vibe еще один хороший пример. Если вы программист, кодирование является неотъемлемой частью того, что определяет ваш смысл. Люди получают смысл от своей работы, и если вы заменяете его искусственным интеллектом, это может оказаться пагубным. Негативное влияние беспрепятственного ИИ заключается в том, что он устраняет противоречия в вещах, которые действительно важны для вас как личности и ваших навыков.

Одна область, о которой я очень беспокоюсь, это подростки, использующие ИИ в целом. Это действительно важный период развития, чтобы учиться, расти и находить путь, по которому вы пойдете. Поэтому, если у вас нет такого напряженного взаимодействия с работой и отношениями, которое учит вас думать, это будет иметь долгосрочные пагубные последствия. Возможно, они не смогут мыслить критически так же, потому что раньше им этого никогда не приходилось. Если они обращаются к ИИ для социальных отношений в таком юном возрасте, это действительно может подорвать важные навыки, которые им следует приобретать в этом возрасте.

Что такое продуктивное трение?

Зоар: Трение идет по континууму. Если трений будет слишком мало, вы не получите обучения и мотивации. Слишком много трений, и задача становится непосильной. Продуктивные разногласия находятся посередине, где борьба ведет к достижениям. Это трудоемкий, но возможный процесс, требующий от вас критического мышления и работы над проблемой в течение некоторого времени, иначе вы столкнетесь с некоторыми трудностями в процессе.

Пример, который мы использовали в статье, — это разница между подъемом на кресельном подъемнике и подъемом в гору. Они оба добираются до вершины, но с помощью кресельного подъемника вы не получаете никакой пользы для роста, в то время как подъем туриста сопряжен с трудностями и чувством достижения. Это становится гораздо большим опытом и возможностью обучения по сравнению с человеком, который просто без особых усилий поднялся на кресельном подъемнике.

Представляете ли вы себе ИИ, который иногда намеренно замедляет работу людей или просит их выполнить часть работы самостоятельно?

Зоар: В поведенческой науке важно подумать о варианте по умолчанию, потому что люди обычно не меняют свой вариант по умолчанию. Итак, сейчас ИИ по умолчанию дает вам ответ и заставляет вас продолжать идти в кроличью нору. Но я думаю, что мы могли бы подумать об ИИ по-другому. Возможно, мы сможем сделать значение по умолчанию более конструктивным. Вместо того, чтобы просто сразу найти ответ, это скорее модель процесса, которая помогает вам подумать о проблеме и обучает вас на этом пути, поэтому это скорее сотрудничество, а не универсальный магазин для поиска ответа.

Как пользователи этих систем и компании, их разрабатывающие, отнесутся к такому изменению конструкции?

Зоар: Для создателей этих систем наибольшую озабоченность вызывает сопротивление. Люди привыкли приходить и просто получать ответ, и они могут быть очень противны дизайну, который заставляет их больше работать над ним. Но это может способствовать большей вовлеченности, потому что вам придется ходить туда-сюда и вместе искать ответ.

В конечном счете, я думаю, что это должно исходить от компаний, производящих эти модели, если они думают, что [a more friction-full design] помог бы людям. ИИ, полный трений, — это скорее долгосрочный продукт. Трудно сказать, побудит ли это компании изменить свои модели, включив в них умеренное трение. Но в долгосрочной перспективе, я думаю, это будет выгодно.