Страх перед ИИ — старая-старая история. Бунтующие роботы и злые загадочные ящики беспокоят нас на протяжении тысячелетий.

Опасения по поводу мошеннического искусственного интеллекта могут показаться новой проблемой, учитывая недавние разработки, такие как ChatGPT и беспилотные автомобили, но рассказы о разумных и потенциально злонамеренных технологиях датируются не только десятилетиями, но и тысячелетиями.

По мнению историков, эти темы существовали задолго до того, как Арнольд Шварценеггер сыграл роль робота-убийцы и отправился в прошлое, чтобы угрожать Саре Коннор в 1984 году. Терминатор.

«Люди думали о такого рода устройствах, изобретениях и инновациях… еще до того, как появилась технология», — рассказала Адриенн Майор, историк древней науки и классический фольклорист из Стэнфордского университета. Гобелен ведущая Мэри Хайнс.

Такие истории, как Пандора в древней Греции, убийственное буйство голема в Праге и чудовище Франкенштейна — это лишь некоторые из многих точек на протяжении всей истории, которые связывают наш страх перед оживающими неодушевленными созданиями.

Мэр, чья книга 2018 г. Боги и роботы исследует эту тему, говорит, что некоторые из этих легенд содержат предупреждения.

ящик Пандоры

Одна из древнейших сказок восходит к древней Греции и истории Пандоры. Мэр говорит, что в оригинальной истории, рассказанной греческим поэтом Гесиодом, Зевс хотел наказать человечество за то, что оно приняло дар огня.

Поэтому Зевс поручил Гефесту — богу огня, кузнецов, ремесленников и вулканов — создать искусственную женщину по имени Пандора, которую Зевс описал как зло, замаскированное под красоту.

«Зевс послал на Землю этого реалистичного фембота, несущего банку, полную страданий смертных», — сказал Мэр. «Миссия Пандоры заключалась в том, чтобы проникнуть в человеческое общество, а затем открыть эту банку и выпустить все страдания».

В рассказе Гесиода Пандора сделала именно это. Брат Прометея, Эпиметей, влюбился в красоту Пандоры, несмотря на предупреждение брата. По-гречески «Прометей» означает «смотрящий вперед», а «Эпиметей» — «задний взгляд».

«В одном из старейших мифов об искусственной жизни мы имеем дело с предвидением и ретроспективностью», — сказал Мэр.

«Прометеевцы сегодня обеспокоены нашим будущим с искусственным интеллектом и робототехникой, в отличие от… чрезмерно оптимистичных эпиметеев, которых легко ослепить краткосрочными выгодами».

Мэр говорит, что Пандора — не единственная история об искусственном интеллекте в греческой мифологии. Есть также история Талоса, первое изображение роботоподобного существа в западной литературе. Талос был создан Гефестом для защиты острова Крит.

«Он мог подбирать и швырять валуны, чтобы потопить вражеские корабли. А затем, если кто-нибудь выходил на берег, он мог нагреть свое бронзовое тело докрасна, а затем схватить их, прижать к себе и поджечь заживо», – сказал Мэр.

Но в истории «Ясон и аргонавты» им удалось снять болт с лодыжки Талоса, чтобы победить его.

«Итак, Талос был создан с помощью технологий и демонтирован с помощью технологий. Они вынули болт, источник энергии истек, и гигантский робот был уничтожен», — сказал Мэр.

Страх творения

Амир Вудка, преподаватель кафедры медиаисследований Амстердамского университета, говорит, что существует множество примеров того, как неодушевленные предметы оживали и вызывали хаос, как, например, история с пражским големом.

Вудка говорит, что существует множество версий этой легенды, но во всех из них раввин использует магию, чтобы создать голема. Поначалу голем — хороший слуга, действующий как своего рода робот. В некоторых случаях это защитило бы людей. В других историях это просто помогало раввину при родах. Но всегда что-то идет не так.

«Голем всегда выходит из-под контроля, в конце концов, как бы восставая против своего хозяина. [and] несет много разрушений, смертей, хаоса”, – сказал Вудка.

«Что постоянно повторяется, так это то, что, возможно, создавать что-то подобное — не очень хорошая идея».

Эти истории повторяются во всей культуре, говорит Вудка. От монстра Франкенштейна до роботов в Бегущий по лезвию и ТерминаторЛюди продолжают рассказывать историю о бунтующем искусственном интеллекте.

«Мы очень боимся неизведанного. Вообще, я думаю, люди обычно боятся того, чего они не знают, инаковости», — сказала Вудка.

Учимся на мифах

Вудка говорит, что из истории о големе можно извлечь важный урок. В истории о раввине, создавшем голема, раввин знает слова, позволяющие отменить заклинание и положить конец неистовству голема.

«Нужно знать заклинание, чтобы закрыть его. Иначе что делать, когда оно выйдет из-под контроля? Может быть слишком поздно», — сказала Вудка.

Вот почему, по его словам, важно знать, как контролировать технологии, которые мы создаем.

В истории Пандоры кувшин, принесший людям страдания, служит черным ящиком. Мэр говорит, что люди все меньше и меньше знают о технологиях, которые они используют, и ChatGPT также можно считать черным ящиком.

«Существует тенденция к тому, что технологии получают доступ к невообразимо обширным и сложным данным, а затем принимают решения на их основе», — сказал Мэр. «И пользователи, и создатели будут в неведении относительно того, как эти решения были приняты ИИ».

Мэр говорит, что нам важно помнить, что эти технологические достижения — это инструменты, а не новая жизнь. Она говорит, что это возлагает ответственность за то, что делает ИИ, на создателей, а не на сами творения.

И, по ее словам, не следует считать все это плохим или злым. По ее словам, есть также примеры мифов, в которых технологии не приносят ничего, кроме блага.

У Гомера ОдиссеяОдиссей использует беспилотную лодку, которая помогает ему безопасно добраться домой.

«В этом нет ничего сомнительного. Нет ничего плохого. Это экономит трудозатраты. Это соответствует его самому сокровенному желанию. И эти корабли, похоже, управляются искусственным интеллектом… и это обнадеживает», — сказал Мэр.