Хильцик: Избавляем мир от хайпа в сфере высоких технологий

Возможно, вы заметили, что нас захлестнула технологическая шумиха. Беспилотные автомобили, человекоподобные роботы и чат-боты с искусственным интеллектом — все они были объектами порой невероятно преувеличенных прогнозов и обещаний.

Поэтому мы должны быть благодарны Родни Бруксу, технологу австралийского происхождения, который сделал одной из своих миссий в жизни развенчание преувеличений об этих и других технологиях, которые якобы меняют мир, предлагаемых промоутерами, маркетологами и истинно верующими.

Как я уже писал раньшеБрукс совсем не похож на луддита. Совсем наоборот: он был соучредителем компании IRobot, производителя роботов-пылесосов Roomba, хотя в 2008 году он ушел с поста технического директора компании и покинул совет директоров в 2011 году. Он является соучредителем и главным техническим директором компании RobustAI, которая производит роботов для заводов и складов. бывший директор лаборатории информатики и искусственного интеллекта в Массачусетском технологическом институте.

В 2018 году Брукс опубликовал пост датированные предсказания о развитии основных технологий и пообещал возвращаться к ним ежегодно в течение 32 лет, когда ему исполнится 95 лет. Он сосредоточился на технологиях, которые тогда были — и до сих пор являются — центром общественных дискуссий, включая беспилотные автомобили, полеты человека в космос, ботов с искусственным интеллектом и роботов-гуманоидов.

«Иметь идеи легко», — написал он во вступительном посте. “Воплотить их в реальность сложно. Еще труднее превратить их в масштабное развертывание”.

Брукс разложил свои прогнозы по трем ячейкам: NIML — «не при моей жизни», NET — «не раньше» определенной даты и «к какому-то определенному сроку». [specified] дата.”

1 января он опубликовал свою восьмая ежегодная таблица прогнозов. Он обнаружил, что на протяжении многих лет «мои прогнозы оправдывались довольно хорошо, хотя в целом я был слишком оптимистичен».

Например, в 2018 году он предсказал «робота, который сможет оказывать физическую помощь пожилым людям при выполнении нескольких задач». [e.g., getting into and out of bed, washing, using the toilet, etc.]появится не раньше 2028 года; по состоянию на Новый год, пишет он, «никакого универсального решения не предвидится».

Первая «постоянная» человеческая колония на Марсе появится не ранее 2036 года, написал он тогда, что теперь называет «слишком оптимистичным». Теперь он предполагает, что высадка человека на Марсе произойдет не ранее 2040 года, а поселение – не ранее 2050 года.

Робот, который кажется «таким же умным, внимательным и преданным, как собака» — не ранее 2048 года, предположил он в 2018 году. «Это намного сложнее, чем думает большинство людей», — пишет он сейчас. «Многие думают, что мы уже там; я говорю, что нас там вообще нет». Его вердикт роботу, который имеет «какое-то реальное представление о своем собственном существовании или о существовании людей так, как шестилетний ребенок понимает людей» — «Не при моей жизни».

Брукс отмечает, что один из способов, с помощью которого промоутеры высоких технологий сглаживают свои преувеличенные обещания, заключается в тонком переопределении. Так было и с «беспилотными автомобилями», пишет он. Первоначально этот термин относился к «любому виду автомобиля, который мог работать без водителя на борту и без дистанционного водителя, предлагающего управляющие входы… где никому не нужно было управлять автомобилем, а просто сообщал машине, куда он должен их доставить».

Waymo, крупнейший поставщик беспилотного транспорта, сообщает на своем веб-сайте, что ее роботакси «воплощение полностью автономной технологии который всегда под контролем от места получения до места назначения». Пассажиры «могут сидеть на заднем сиденье, расслабляться и наслаждаться поездкой, а водитель Waymo Driver безопасно доставит их к месту назначения».

Брукс оспаривает это утверждение. По его наблюдениям, одна дыра в системе полной автономии стала очевидна 20 декабря, когда из-за отключения электроэнергии, охватившего Сан-Франциско, большая часть парка роботакси Waymo оказалась на улицах. Waymos, умеющие читать сигналы светофора, забивали перекрестки, потому что светофоры гасли.

Позже компания время от времени признавала свои автомобили. «требуется проверка подтверждения» от людей, когда они сталкиваются с затемненными сигналами светофора или другими сбивающими с толку ситуациями. Отключение электроэнергии 20 декабря, по словам Уэймо, «создало концентрированный всплеск количества запросов», что привело к «задержке, которая в некоторых случаях приводила к задержкам ответа, что способствовало перегруженности и без того перегруженным улицам».

Также известно, что Waymo платит людям за то, чтобы они физически справлялись с транспортными средствами, остановленными, например, из-за того, что пассажир не полностью закрыл дверь автомобиля при выходе. Их можно вызвать через стороннее приложение Honkкоторый в основном используется операторами эвакуаторов для поиска застрявших клиентов.

«Нынешнему поколению Waymos требуется много человеческой помощи, чтобы работать так, как они работают: от людей в удаленном операционном центре, которые могут вмешаться и дать человеческий совет, если что-то пойдет не так, до рабочих, носящихся по городу», — замечает Брукс.

Waymo рассказала мне, что ее заявление о «полностью автономной» работе основано на том факте, что бортовые технологии всегда контролируют транспортные средства. В запутанных ситуациях автомобиль обращается к команде людей «быстрого реагирования» Waymo и просит их выбрать, какой из нескольких возможных путей является лучшим. «Управление транспортным средством всегда осуществляется водителем Waymo» — то есть бортовой технологией, — рассказал мне представитель Марк Льюис. «Человек не может дистанционно управлять транспортным средством Waymo».

Будучи новатором в разработке роботов, Брукс особенно скептически относится к увлечению технологической индустрии человекоподобными роботами. Он пишет из своего опыта: В 1998 году он вместе со своими аспирантами Массачусетского технологического института строил роботов-гуманоидов. Тогда он утверждал, что людям естественно будет комфортно с «роботами гуманоидной формы, которые действуют как люди; интерфейс встроен в наш мозг», и что «люди и роботы могут сотрудничать при выполнении задач в тесном контакте способами, которые раньше можно было себе представить только в научной фантастике».

С тех пор стало ясно, что роботы общего назначения, которые выглядят и действуют как люди, являются химерой. На самом деле во многих контекстах они опасны. Среди нерешенных проблем проектирования роботов — то, что никто не создал робота с «человеческой ловкостью», пишет он. Компании, занимающиеся робототехникой, продвигающие свои разработки, не продемонстрировали, что предлагаемые ими продукты обладают «многопальцевой ловкостью, позволяющей людям хватать и действительно хватать невидимые предметы, а также хватать и одновременно манипулировать несколькими небольшими объектами одной рукой».

Двуногие роботы имеют тенденцию падать и «нуждаются в вмешательстве человека, чтобы встать», как черепахи, упавшие на спину. Поскольку они тяжелые и нестабильные, они «в настоящее время небезопасны для людей, находящихся рядом во время ходьбы».

(Брукс об этом не упоминает, но еще в 1960-е годы создатели «Джетсонов» понимали, что домашние роботы не будут полагаться на ноги — их робот-горничная Розиработал по дому на колесах60 лет назад это ощущение стало второй натурой аниматоров, но, похоже, забыто сегодняшними инженерами.)

Как отмечает Брукс, “даже дети в возрасте 3 или 4 лет могут перемещаться по захламленным домам, не повреждая их. … К 4 годам они могут открывать двери с помощью дверных ручек и механизмов, которых они никогда раньше не видели, и безопасно закрывать за собой эти двери. Они могут делать это, когда впервые входят в конкретный дом. Они могут бродить вокруг, вверх и вниз и находить дорогу.

«Но подождите, вы скажете: «Я видел, как они танцевали, кувыркались и даже отскакивали от стен». Да, вы видели театр гуманоидных роботов. «

Опыт Брукса в области искусственного интеллекта дает ему важную информацию о недостатках сегодняшнего поколения больших языковых моделей (это технология, лежащая в основе современных чат-ботов), что они могут и чего не могут делать и почему.

«Основной механизм больших языковых моделей не отвечает на вопросы напрямую», — пишет он. “Вместо этого он дает что-то, что звучит как ответ на вопрос. Это сильно отличается от того, чтобы сказать что-то точное. То, что они узнали, – это не факты о мире, а распределение вероятностей того, какое слово, скорее всего, будет следующим, учитывая вопрос и слова, которые до сих пор были получены в ответ. Таким образом, результатом их использования, без клетки, является множество и множество выдумок, которые звучат как реальные вещи, независимо от того, являются они или нет”.

Решение состоит в том, чтобы не «обучать» ботов LLM все большим и большим количеством данных в надежде, что в конечном итоге у них будут достаточно большие базы данных, чтобы их выдумки стали ненужными. Брукс считает, что это неправильный подход. Лучшим вариантом является создание программ LLM для удовлетворения конкретных потребностей в конкретных областях. Боты, специализирующиеся, например, на кодировании программного обеспечения или проектировании оборудования.

«Нам нужны ограничения вокруг программ LLM, чтобы сделать их полезными, и именно здесь в ближайшие 10 лет будет много действий», — пишет он. “Их нельзя просто выпустить на волю, поскольку они приходят прямо после тренировки… Дополнительные тренировки не обязательно улучшают ситуацию. Боксирование делает ситуацию лучше”.

Всеохватывающая тема Брукса заключается в том, что мы склонны переоценивать возможности новых технологий и недооценивать, сколько времени требуется, чтобы любая новая технология стала полезной. Самые сложные проблемы почти всегда решаются в последнюю очередь; люди склонны думать, что новые технологии будут продолжать развиваться с той же скоростью, с которой они развивались на самых ранних стадиях.

Вот почему движение к полностью беспилотным автомобилям застопорилось. Одно дело оборудовать автомобили системой предупреждения о смене полосы движения или круиз-контролем, который может адаптироваться к присутствию более медленной машины впереди; дорога в Уровень 5 автономности По определению Общества инженеров автомобильной промышленности, когда транспортное средство может двигаться самостоятельно в любых условиях без участия человека, садящегося за руль, может произойти, по крайней мере, через несколько десятилетий. Транспортные средства 5-го уровня сегодня не используются.

Верить утверждениям пропагандистов технологий о том, что та или иная нирвана уже не за горами, — это пустая игра. «Это всегда занимает больше времени, чем вы думаете», — написал Брукс в своем первоначальном посте с прогнозом. «Просто так».