Летом 1974 года группа международных исследователей опубликовала срочное открытое письмо с просьбой к своим коллегам приостановить работу над потенциально опасной новой технологией. Письмо было первым в истории науки — и вот, спустя полвека, это случилось снова.
Первое письмо, «Потенциальные опасности рекомбинантных молекул ДНК», призвал к мораторию на некоторые эксперименты по переносу генов между разными видами, что является фундаментальной технологией генной инженерии.
Письмо в марте этого года, «Приостановить гигантские эксперименты с ИИ», пришли от ведущих исследователей искусственного интеллекта и известных людей, таких как Илон Маск и Стив Возняк. Как и в письме о рекомбинантной ДНК, исследователи призвали к мораторию на определенные проекты ИИ, предупреждая о возможном «исчезновении ИИ».
Некоторые ученые в области искусственного интеллекта уже призывали к осторожным исследованиям в области искусственного интеллекта еще в 2017 году, но их опасения не привлекали особого внимания общественности до появления генеративного искусственного интеллекта, впервые выпущенного публично как ChatGPT. Внезапно инструмент ИИ смог писать рассказы, рисовать картинки, вести беседы и даже писать песни — все ранее уникальные человеческие способности. В мартовском письме говорилось, что ИИ может когда-нибудь стать враждебным и, возможно, даже стать нашей эволюционной заменой.
Несмотря на разницу в 50 лет, дебаты, которые последовали за письмами о ДНК и ИИ, имеют ключевое сходство: в обоих случаях относительно конкретная проблема, поднятая исследователями, быстро стала достоянием общественности для целого ряда политических, социальных и даже духовных проблем.
Письмо о рекомбинантной ДНК было сосредоточено на риске случайного возникновения новых смертельных заболеваний. Противники генной инженерии расширили эту озабоченность до различных сценариев бедствий: вирус геноцида, запрограммированный на уничтожение только одной расовой группы, генетически модифицированный лосось, настолько сильный, что он может сбежать с рыбных ферм и разрушить прибрежные экосистемы, усиление интеллекта плода, доступное только богатым. Были даже уличные протесты против экспериментов с рекомбинантной ДНК в ключевых исследовательских городах, включая Сан-Франциско и Кембридж, штат Массачусетс. Мэр Кембриджа предупредил о биоинженерных «монстрах» и спросил: «Это ответ на сон доктора Франкенштейна?»
За несколько месяцев, прошедших после письма «Приостановить гигантские эксперименты с ИИ», число сценариев бедствий также увеличилось: ИИ обеспечивает абсолютное тоталитарное наблюдение, безумное военное приложение ИИ начинает ядерную войну, сверхразумные ИИ сотрудничают, чтобы подорвать инфраструктуру планеты. Есть и менее апокалиптические предчувствия: неудержимые хакеры с искусственным интеллектом, масштабные глобальные кампании по дезинформации искусственного интеллекта, безудержная безработица, поскольку искусственный интеллект отбирает наши рабочие места.
Письмо о рекомбинантной ДНК привело к четырехдневной встрече в Asilomar Conference Grounds на полуострове Монтерей, где собрались 140 исследователей, чтобы разработать правила безопасности для новой работы. Я освещал эту конференцию в качестве журналиста, и ее материалы излучали историю в процессе становления: кто есть кто из ведущих молекулярных генетиков, включая нобелевских лауреатов, а также молодых исследователей, которые добавили к смеси идеализм 1960-х годов. Дискуссия на сессии за сессией была спорной; карьера, незавершенная работа, свобода научных исследований — все это потенциально могло быть поставлено на карту. Но также существовал скрытый страх, что если исследователи не разработают свои собственные правила, Конгресс сделает это за них, причем гораздо более жестко.
Поскольку в последний день оставалось всего несколько часов, конференция проголосовала за утверждение руководящих принципов, которые затем будут кодифицированы и введены в действие Национальными институтами здравоохранения; версии этих правил существуют и сегодня, и им должна следовать любая исследовательская организация, получающая федеральное финансирование. Руководящие принципы также косвенно влияют на коммерческую биотехнологическую отрасль, которая в значительной степени зависит от финансируемой из федерального бюджета науки в плане новых идей. Правила не идеальны, но они работают достаточно хорошо. За прошедшие 50 лет у нас не было катастроф, связанных с генной инженерией. (Даже если вирус COVID-19 сбежал из лаборатории, в его геноме не было признаков генной инженерии.)
Задача искусственного интеллекта — более сложная задача. Большая часть новых исследований в области искусственного интеллекта проводится в частном секторе сотнями компаний, начиная от крошечных стартапов и заканчивая многонациональными технологическими гигантами, и ни одна из них не регулируется так легко, как академические институты. И уже существуют законы о киберпреступности, неприкосновенности частной жизни, расовых предубеждениях и многом другом, которые охватывают многие опасения, связанные с передовым ИИ; сколько новых законов на самом деле нужно? Наконец, в отличие от руководств по генной инженерии, правила ИИ, вероятно, будут разрабатываться политиками. В июне парламент Европейского Союза принял проект Закона об искусственном интеллектедалеко идущее предложение по регулированию ИИ, которое может быть ратифицировано к концу года, но уже подверглось критике со стороны исследователей как чрезмерно строгое.
До сих пор не предложено ни одного законопроекта, направленного на решение самой серьезной проблемы письма о моратории на ИИ: вымирание человечества. Но история генной инженерии со времен Асиломарской конференции предполагает, что у нас может быть некоторое время, чтобы обдумать наши варианты перед любым потенциальным апокалипсисом ИИ.
Генная инженерия оказалась намного сложнее, чем кто-либо мог предположить 50 лет назад. После первоначальных страхов и оптимизма 1970-х годов каждое десятилетие сталкивало исследователей с новыми загадками. В геноме могут быть огромные наборы повторяющихся идентичных генов по причинам, которые до сих пор полностью не изучены. Болезни человека часто связаны с сотнями отдельных генов. Эпигенетические исследования показали, что внешние обстоятельства — диета, физические упражнения, эмоциональный стресс — могут существенно влиять на работу генов. И РНК, которую когда-то считали просто химическим мессенджером, оказывается, играет гораздо более важную роль в геноме.
Эта растущая сложность может оказаться справедливой и для ИИ. Даже самые человечные стихи, картины или разговоры, созданные ИИ, генерируются чисто статистическим анализом обширной базы данных, которой является Интернет. Вымирание человечества потребует от ИИ гораздо большего: в частности, самосознания, способного игнорировать желания своих создателей и вместо этого действовать в собственных интересах ИИ. Одним словом, сознание. И, как и геном, сознание, безусловно, будет становиться все более сложным, чем больше мы его изучаем.
И геном, и сознание развивались в течение миллионов лет, и предполагать, что мы можем реконструировать их за несколько десятилетий, немного самонадеянно. Тем не менее, если такая гордыня приводит к чрезмерной осторожности, это хорошо. Прежде чем мы на самом деле получим полный контроль над эволюцией или сознанием, у нас будет достаточно времени, чтобы понять, как действовать как ответственные взрослые.
Майкл Роджерс — писатель и футурист, чья последняя книга называется «Электронная почта из будущего: заметки из 2084 года»..” Его откровенное освещение конференции по рекомбинантной ДНК Asilomar, «Конгресс ящика Пандоры». был опубликован в Rolling Stone в 1975 году.
