Мнение: Драма OpenAI знаменует собой новую и пугающую эру в искусственном интеллекте

Увольнение Сэма Альтмана и быстрое восстановление в должности Генеральный директор OpenAI, создатель ChatGPT, подтверждает, что будущее ИИ прочно находится в руках людей, ориентированных на скорость и прибыль за счет всего остального. Эта элита теперь будет навязывать свое видение технологий остальному человечеству. Большинству из нас не понравятся последствия.

Основатели OpenAI утверждали, что создают филантропическую организацию, которая принесет пользу всему человечеству или, по крайней мере, защитит его от потенциального вреда. OpenAI якобы является некоммерческой организацией, и у нее был небольшой совет, состоящий из ученых и экспертов, и, что примечательно, в него не входили инвесторы. Возможно, мы никогда не узнаем, что на самом деле произошло 17 ноября, когда совет директоров уволил Альтмана, но наиболее вероятная интерпретация Дело в том, что члены этого совета были обеспокоены коммерческим акцентом Альтмана и безудержным стремлением разработать новые, мощные модели генеративного искусственного интеллекта.

Отрадно осознавать, что в Кремниевой долине все еще есть люди, которые беспокоятся по поводу ограждений, поскольку цифровые технологии уже нанесли большой ущерб рабочим местам, заработной плате и демократии. Например, этот сектор принес нам Facebook и социальные сети, которые использовались для разжигания пламени ненависти во всем мире во имя «вовлечения» и продажи большего количества цифровой рекламы..

Альтман вынудил правление OpenAI уйти в отставку в качестве условия его возвращения в компанию. Новое правление под председательством бывшего со-генерального директора Salesforce Брета Тейлора, вероятно, будет более благосклонно относиться к скорейшему расширению OpenAI, независимо от последствий. Это безрассудство вызвано мотивом получения прибыли, усиленным венчурным капиталом, в котором большая часть денег направляется в продукты и услуги, которые растут быстрее всего, даже если это сопряжено с огромными финансовыми потерями и огромными социальными издержками.

Разрушения и неконтролируемый рост стали религией технологической индустрии, а Альтман был одним из ее самых преданных первосвященников. Однако неустойчивые темпы роста и большие потери не поддерживаются логикой традиционной капиталистической рыночной системы. Венчурный капитал создал такой способ работы, но OpenAI не нуждается в традиционных венчурных капиталистах, потому что у него есть Microsoft, у которой есть уже выделил 10 миллиардов долларов в компанию. Во время кризиса Альтмана высшие руководители Microsoft оставались сосредоточенными на своих целях: нанять талантливых специалистов, пообещать им неограниченные деньги на расходы и нажать на педаль до упора.

Хуже того, императив скорости усиливается преобладающим видением в Кремниевой долине, которую мало заботит социальная ответственность или то, что происходит с людьми.

Неофициальным представителем такого взгляда на мир является Марк Андриссен, легендарный венчурный капиталист и крупный бизнесмен. Альтман болельщик. В октябре Андриссен выпустил свой собственный «Манифест технооптимиста», который включал в себя такие причудливые заявления, как «У нас была проблема изоляции, поэтому мы изобрели Интернет»; «У нас есть проблема бедности, поэтому мы изобретаем технологии для создания изобилия»; и, возможно, самое чистое заявление о технологическом высокомерии: «Дайте нам реальную мировую проблему, и мы сможем изобрести технологию, которая ее решит».

Что характерно, г-н Андрисен не задумывается о том, почему в районе залива Сан-Франциско так много бездомных, почему среди подростков наблюдается кризис психического здоровья, почему Мьянма в огне, или почему США стали одним из самых неравных и глубоко поляризованных обществ в современной истории, несмотря на все имеющиеся в нашем распоряжении технологии. Можно, конечно, утверждать, что эти проблемы были усугублены, если не созданы, технологическим сектором.

Альтман ранее основал Y Combinator, акселератор стартапов. который спрашивает заявителей«Расскажите, пожалуйста, о том времени, когда вы, [applicant name], наиболее успешно взломал какую-нибудь (некомпьютерную) систему в свою пользу». Лидеры Кремниевой долины любят говорить такие вещи, как «мслишком быстро и ломать вещи(в какой-то момент это был внутренний девиз Facebook) или, как документируют Шира Франкель и Сесилия Канг в своей книге о Facebook: «Уродливая правда»: «Черт возьми, отправь это».

В Вашингтоне любой намек на регулирование или разумные ограничения приводит в апоплексию топ-менеджеров технологических компаний. Братья-технологи приняли полноценную либертарианскую фантазию, в которой они являются незаменимыми мужчинами.

В “Форма будущего», опубликованный в начале 1930-х годов, Герберт Уэллс представил мрачное ближайшее будущее, в котором кампании воздушных бомбардировок были близки к уничтожению цивилизации. Но после более чем 20 лет катастроф Уэллс воображал, что появится новая глобальная элита, контролирующая авиационные технологии, чтобы установить мир во всем мире.

Уэллс был прав относительно опасностей, исходящих от безудержного и беспринципного развития технологий. Но его научно-фантастические работы о диктатуре элиты, держащей ключи от будущего мира, сегодня вызывают такое же беспокойство, как и во времена расцвета европейского фашизма.

Дарон Аджемоглу и Саймон Джонсон — профессора Массачусетского технологического института и соавторы «Власть и прогресс: наша 1000-летняя борьба за технологии и процветание».