Мои поиски загадочного пропавшего секретаря, который сформировал историю чат-бота

В архиве уникальных коллекций Массачусетского технологического института (MIT) тихо, пока на улице дует метель. Тишина, кажется, нарастает вместе с падающим снегом. Я единственный исследователь в архиве, но есть голос, который я пытаюсь услышать.

Я ищу кое-кого — назовем ее пропавшей секретаршей. Она сыграла решающую роль в истории компьютеров, но ее имя так и не было названо. Я учусь в Массачусетском технологическом институте в рамках своего исследования истории говорящих машин. Возможно, вы знаете их как «чат-ботов» — компьютерные программы и интерфейсы, которые используют диалог как основное средство взаимодействия между человеком и машиной. Возможно, вы разговаривали с Alexa, Siri или ChatGPT.

Несмотря на фурор Сегодня вокруг генеративного искусственного интеллекта (ИИ) говорящие машины имеют долгую историю. В 1950 году пионер компьютеров Алан Тьюринг предложил тест машинного интеллекта. Тест спрашивает, может ли человек отличить компьютер от человека посредством разговора. Тест Тьюринга стимулировал исследования в области искусственного интеллекта и зарождающейся области вычислений. Теперь мы живем в том будущем, которое он себе представлял: мы разговариваем с машинами.

Меня интересует, почему первые пионеры компьютеров мечтали разговаривать с компьютерами и что было поставлено на карту в этой идее. Что это означает для нашего сегодняшнего понимания компьютерных технологий и взаимодействия человека и машины? Я оказался в Массачусетском технологическом институте, посреди этой метели, потому что там родилась мать всех ботов — Элиза.

Речь Элизы

Элиза была компьютерная программа Разработан усатым профессором электротехники Массачусетского технологического института Джозефом Вайценбаумом в 1960-х годах. С помощью Элизы он стремился сделать возможным общение между человеком и компьютером.

Элиза брала от пользователя напечатанные сообщения, анализировала их на предмет триггеров ключевых слов и использовала правила преобразования (где значение утверждения можно вывести из одного или нескольких других утверждений). чтобы произвести ответ. В самой известной версии Элиза выдавала себя за психотерапевта, эксперта, реагирующего на потребности пользователя. «Пожалуйста, расскажите мне о своей проблеме» — было вступительное слово. Элиза могла не только получать информацию в форме естественного языка, но и «иллюзия понимания».

Название программы было отсылкой к главному герою пьесы Джорджа Бернарда Шоу. Пигмалион (1912), в котором продавца цветов кокни учат говорить «как леди». Как и мюзикл Одри Хепберн 1964 года, эта Элиза покорила мир. Газеты и журналы приветствовались осуществление мечты Тьюринга.

Даже Плейбой играл с этим. Наследие Элизы значительный. Siri и Alexa являются прямыми потомками этой программы.

Рассказы об Элизе, как правило, сосредотачиваются на Франкенштейнская сказка изобретателя отказ от собственного творения. Вайценбаум был в ужасе от того, что пользователей можно «обмануть» с помощью простого программного обеспечения. Он отрекся от Элизы и всего «Искусственная интеллигенция» в ближайшие десятилетия – к огорчение его коллеги.

Но меня нет в архиве, чтобы услышать голос Элизы или Вайценбаума. Во всех этих рассказах об Элизе снова и снова появляется одна женщина — наша пропавшая секретарша.

Пропавший секретарь

В его рассказы об ЭлизеВайценбаум постоянно беспокоится о конкретном пользователе: «Моя секретарша наблюдала, как я работаю над этой программой в течение длительного периода времени. Однажды она попросила разрешения поговорить с системой. Конечно, она знала, что разговаривает с машиной. Тем не менее, после того, как я увидел, как она напечатала несколько предложений, она повернулась ко мне и сказала: «Не мог бы ты выйти из комнаты, пожалуйста?»»

Вейценбаум восприняла ее ответ как тревожные доказательства того, что: «Чрезвычайно короткое воздействие относительно простой компьютерной программы может вызвать мощное бредовое мышление у вполне нормальных людей». Ее реакция посеяла семена его последующего отвращения к своему творению.

Но кем был этот «вполне нормальный» человек? А что она думала об Элизе? Если бы пропавший секретарь разыграл такую важная роль, тогда почему мы ничего о ней не слышим? В этой главе истории говорящих машин мы имеем дело только с одной стороной разговора.

Вернувшись в архив, я хочу посмотреть, смогу ли я восстановить голос секретаря, чтобы понять, что мы можем узнать от пользователя Элизы. Я просматриваю пожелтевшие бумаги Вейценбаума. Неужели среди стенограмм, распечаток кода, писем и блокнотов найдутся доказательства? Есть некоторые подсказки, упоминание секретаря в письмах к Вайценбауму и от него. Но без имени.

Я расширяю свою охоту на административные записи. Я просматриваю документы факультета и коллекции рабочего места Вайценбаума, Project MAC — священного центра компьютерных инноваций Массачусетского технологического института. Не повезло. Я связываюсь с отделом кадров и группой выпускников Массачусетского технологического института. Я растягиваю терпение вечно щедрых архивистов. Когда наступает мой последний день, я все еще слышу только тишину.

Слушая тишину

Но охота выявила кое-что. Как мало организации исторически заботились о людях, которые производили, организовывали и сохраняли так много их знаний.

В истории таких институтов, как Массачусетский технологический институт и информатики в целом, авторы этих записей — часто низкооплачиваемые, низкий статус женщины-в основном выписаны. Наш молчаливый секретарь наиболее существенный стерт, анонимный переписчик документов, на которых строится история.

Вклад пользователей говорящих машин — их труд, опыт, взгляды, творчество — слишком часто игнорируется. Когда модель «разговаривает», легко подумать, что этот вклад не требует усилий или неважен. Но принижение этого вклада имеет реальные последствия не только для технологии говорящих машин. мы проектируемно и за то, как мы ценим человеческий вклад в эти системы.

Говоря о генеративном искусственном интеллекте, мы говорим о пользовательском вводе в терминах «чата» и «подсказок». Но на какой правовой статус может претендовать «разговор»? Можем ли мы, например, заявить об авторских правах на эти замечания? А как насчет работы, которой обучаются эти системы? Как мы признаем этот вклад?

Метель усиливается. В объявлении говорится, что кампус закрывается рано из-за погоды. Голос пропавшего секретаря все еще ускользает от меня. На данный момент история говорящих машин остается односторонней. Эта тишина преследует меня, пока я бреду домой по приглушенным, заснеженным улицам.

Эта статья переиздана с Разговор по лицензии Creative Commons. Прочтите оригинальная статья.