Является ли имитация человека правильной целью для технологий?

Добро пожаловать. На этой неделе я беру интервью Эрик Бриньольфссонпрофессор, автор и старший научный сотрудник Стэнфордского института человекоцентрированного искусственного интеллекта.

В последнее время я размышлял о том, как зависимость от пути влияет на развитие технологий. Например, Интернет и атомная энергетика берут свое начало в оборонных проектах. Сама Кремниевая долина родилась в результате электронного бума эпохи холодной войны. Даже сегодня сетевые эффекты продолжают определять разработку приложений и оборудования в доминирующих экосистемах iOS и Android.

Эта мысль вернула меня к Биржа экономистов FT Я делал это с Бриньольфссоном в прошлом году, когда он обсуждал «Ловушка Тьюринга— его теория о том, как появился человекоподобный искусственный интеллект.

Эта концепция основана на «тесте Тьюринга», предложенном математиком и ученым-компьютерщиком Аланом Тьюрингом в 1950 году, чтобы определить, демонстрирует ли машина разумное поведение, неотличимое от человеческого, на основе разговора.

Бриньольфссон утверждает, что это вдохновило поколения исследователей воспроизвести наше мышление в машинах. Но когда генеративный ИИ, опирающийся на большие языковые модели, начинает достигать этих целей, он говорит, что, возможно, с самого начала это была неправильная цель.

Он предполагает, что нам было бы лучше, если бы ИИ – и технологии в целом – сосредоточились на расширении человеческих специализаций и выполнении того, что мы не можем. (Это перекликается с теорией сравнительных преимуществ Давида Рикардо в международной торговле.) Вместо этого имитация рискует создать ловушку.

Некоторые приложения поколения ИИ являются результатом нашей склонности вознаграждать системы за имитацию и замену людей при выполнении существующих задач, а не за открытие новых, дополнительных возможностей.

Это склоняет технологию к замещению рабочей силы, повышая производительность, но концентрируя выгоды среди тех, кто контролирует технологии и капитал. «Ловушка» заключается в концентрации экономической власти, которая создает политическую власть. Это может лишить других возможности изменить систему.

Он может установить слишком низкий потолок роста. Представьте себе, если бы Генри Форд решил просто соперничать с людьми — создать транспортное средство, которое могло бы ходить или бегать так же быстро, как человек.

LLM уже дополняют людей в таких областях, как поиск и анализ. Но недавние достижения, например, в приложениях, создающих рекламу и фильмы из простого текста, вызвали у некоторых специалистов опасения, что эта технология будет использоваться для их полной замены.

Важно задуматься, является ли имитация сравнительных преимуществ человека, например, в творческих областях, целесообразным использованием и целью технологии, не в последнюю очередь потому, что мы создали структуры, которые усиливают стремление к мимикрии.

Имитация привлекательна не только с культурной точки зрения, но и потому, что наши институты поощряют автоматизацию. Тот факт, что человек может выполнить задачу, обеспечивает «доказательство существования», делая имитацию более естественным ориентиром, более безопасной темой диссертации и более ясным предложением на получение гранта. Создание совершенно новых возможностей требует гораздо большего творчества.

В бизнесе менеджеры считают, что сокращение численности персонала легко измерить, и это перемещает ренту от рабочих к владельцам капитала. Это дает владельцам капитала чрезмерные стимулы для автоматизации и слабые для дополнения, учитывая внешние эффекты инноваций и усиление переговорной власти рабочих.

Политики усиливают перекос: в большинстве стран налоги на капитал ниже, чем на рабочую силу. Хотя и автоматизация, и расширение могут быть ценными и прибыльными, конечным результатом является систематическое стремление к имитации человека — даже когда сверхчеловеческие дополнительные системы могут создать большую общую экономическую ценность и уменьшить неравенство.

Это приводит к удивительному контрфакту. Где бы могли быть технологии сегодня, если бы тест Тьюринга не был таким заманчивым? Вот несколько предположений, с которыми я столкнулся: нейронное протезирование и симбиотика разума-машины могут появиться на десятилетия вперед; вместо чат-ботов у нас могли бы быть инструменты мышления, такие как пространства визуального мышления; сенсорные интерфейсы вместо разговоров; и ИИ, который может рассуждать, а не вероятностный LLM.

Конечно, технология могла развиться в более гнусных целях или даже выйти за рамки человеческого разума, как считают поклонники фильма 2016 года. Прибытие можно представить.

Но вернемся к реальности: сейчас более полезным упражнением будет визуализация того, как генеративный ИИ и люди могут развиваться вместе.

Речь идет не только об ограничении потерь рабочих мест (некоторые из них могут быть необходимы), но и о том, чтобы технология создавала большую экономическую и социальную ценность (что создает новые возможности для людей). Бриньольфссон возглавлял работу в этой области:

Если бы нашей северной звездой было расширение возможностей людей, а не имитация людей, мы бы раньше направились к системам, которые улучшают процесс принятия решений человеком, ускоряют обучение и создают новые пространства для дизайна. Мы были бы сравнение ИИ с людьмиа не вместо них. Это что-то моя компания, Рабочая спиральфокусируется на.

В моем классе в Стэнфорде мы создали «аватар Эрика» на базе искусственного интеллекта, который в интерактивном режиме обсуждал с каждым учеником домашнее задание индивидуально. Это помогло им глубже понять ключевые концепции и потребовало от студентов защищать свою работу в режиме реального времени, устраняя возможность бездумно отправлять задание, сгенерированное ИИ.

Если мы распространим это мышление на всю экономику, мы будем стремиться к повышению качества, инноваций и благосостояния, а не просто к замещению затрат.

В некоторой степени это уже происходит. В программном обеспечении вторые пилоты кода расширяют возможности исследования и тестирования. В здравоохранении создание структурированных заметок освобождает время врачей для сочувствия и суждений.

Общей нитью является перераспределение задач: машины выполняют высокочастотные действия, требующие большого количества обучающих данных, а люди сосредотачиваются на «длинном хвосте исключений», а также на определении целей, говорит Бриньольфссон. Но оптимизация этого в макромасштабе требует реорганизации работы и нашей экономики.

Большой скачок производительности в истории произошел в результате реструктуризации работы вокруг новых технологий общего назначения. Форд реорганизовал заводы, чтобы дополнить людей взаимозаменяемыми деталями, движущимися узлами и электроинструментами, увеличивая производительность каждого рабочего.

Нам тоже необходимо сделать это, создав системы — комбинации людей и машин — которые будут делать то, что ни человек, ни машина не могут сделать в одиночку.

Это возможно даже для творческих задач. ИИ может автоматизировать дорогостоящие подзадачи (например, поиск и черновые наброски), одновременно повышая отдачу от чисто человеческих задач (вкус, рассказывание историй, подлинность и отношения). Но для этого необходимо распространение: доступные инструменты, обучение и платформы, чтобы от этого выиграло больше авторов, а не только компаний, которые напрямую используют ИИ для творческих задач.

Таким образом, даже если тест Тьюринга направил технологическое развитие на путь имитации, все еще существует способ создать более продуктивное и социально оптимальное разделение труда между людьми и машинами, которые мы сейчас создали. Бриньольфссон дает три рекомендации:

Во-первых, улучшите показатели на уровне компаний, чтобы определить, как выглядит хорошее внедрение ИИ. Нам необходимо сосредоточиться и определить, насколько хорошо люди и машины решают практические проблемы, которые улучшают результаты лечения пациентов, удовлетворенность клиентов и качество программного обеспечения.

Во-вторых, рыночные правила должны способствовать конкуренции и распространению, включая функциональную совместимость, переносимость данных и закупки, которые вознаграждают за результаты увеличения, а не за сокращение численности персонала. Это означает изменение баланса налоговых и бухгалтерских стимулов, которые в настоящее время благоприятствуют углублению капитала, а не человеческому капиталу.

В-третьих, нам нужны общественные блага и ограждения. Это начинается с измерения правильных показателей, таких как качество продукции и разработка безопасных инфраструктур данных, которые позволяют экспериментировать, одновременно защищая конфиденциальность и интеллектуальную собственность. Режимы целевой ответственности и аудита могут быть сосредоточены на сценариях использования с внешними эффектами, таких как здравоохранение и финансы, без приостановки экспериментов в других местах.

В конечном счете, если мы согласуем стимулы с расширением, граница технологий и границ возможностей смогут развиваться вместе.

Мне было бы интересно услышать ваши размышления. Отправьте их в [email protected] или на Х @tejparikh90.

Пища для размышлений

Насколько рациональны инвесторы и аналитики акций? Этот документ Чтобы выяснить это, сравнивает свои показатели фондового рынка с алгоритмом машинного обучения.

---

Бесплатный обед в воскресенье под редакцией Харви Нриапии.