Взгляд изнутри пузыря искусственного интеллекта

На прошлой неделе в маленькой комнате в Сан-Диего мужчина в черной кожаной куртке объяснил мне, как спасти мир от разрушения ИИ. Макс Тегмарк, видный деятель движения за безопасность искусственного интеллекта, считает, что «искусственный общий интеллект», или AGI, может ускорить конец человеческой жизни. Я был в городе на NeurIPS, одной из крупнейших конференций по исследованиям в области искусственного интеллекта, и Тегмарк пригласил меня вместе с пятью другими журналистами на брифинг по индексу безопасности искусственного интеллекта, который он опубликует на следующий день. Ни одна компания не получила оценку выше C+.

Угроза технологического суперинтеллекта — это научная фантастика, однако в последние несколько лет она стала темой серьезных дискуссий. Несмотря на отсутствие четкого определения, даже генеральный директор OpenAI Сэм Альтман называется ОИИ «слабо определенный термин» — идея о том, что мощный ИИ таит в себе внутреннюю угрозу человечеству, получила признание среди уважаемых культурных критиков.

Конечно, генеративный искусственный интеллект — это мощная технология, которая уже оказала огромное влияние на нашу работу и культуру. Но сверхинтеллект стал одним из нескольких сомнительных нарративов, продвигаемых индустрией ИИ, наряду с идеями о том, что ИИ учится, как человек, что у него есть «новые» способности, что «модели рассуждения» на самом деле являются рассуждениями и что технология в конечном итоге улучшится.

Я отправился на выставку NeurIPS, расположенную в крепости на набережной, которая является конференц-центром Сан-Диего, отчасти для того, чтобы понять, насколько серьезно эти повествования воспринимаются в индустрии искусственного интеллекта. Направляют ли стремления к AGI исследования и разработку продуктов? Когда я спросил об этом Тегмарка, он сказал мне, что крупные компании, занимающиеся искусственным интеллектом, искренне пытались создать AGI, но его доводы были неубедительны. «Я знаю их основателей», — сказал он. «И они заявили об этом публично».

По словам организаторов, параллельно с ростом страха и волнения по поводу искусственного интеллекта за последнее десятилетие посещаемость NeurIPS резко возросла: примерно с 3850 посетителей конференции в 2015 году до 24 500 в этом году. Каждый из трех основных залов конференц-центра имеет площадь нескольких ангаров для дирижаблей. Спикеры обратились к многотысячной аудитории. «Я чувствую, что мы находимся в поисках, и поиски должны быть Святым Граалем», — заявил Рич Саттон, легендарный учёный-компьютерщик, в докладе о сверхинтеллекте.

У корпоративных спонсоров конференции были стенды, на которых они могли представить свои достижения и произвести впечатление на участников своими идеями в области исследований и разработок. Были компании, о которых вы слышали, такие как Google, Meta, Apple, Amazon, Microsoft, ByteDance и Tesla, а также те, о которых вы, вероятно, не слышали, например Runpod, Poolside и Ollama. Одна компания, Lambda, рекламировала себя как «Облако суперинтеллекта». Некоторые крупные компании, а именно OpenAI, Anthropic и xAI, явно отсутствовали в выставочном зале. Исследователи, с которыми я разговаривал, пришли к единому мнению, что репутация этих компаний уже настолько велика, что открывать стенд было бы бессмысленно.

Конференция является основным полем битвы в области искусственного интеллекта. война талантов. Большая часть усилий по набору персонала происходит за пределами самого конференц-центра, на полусекретных мероприятиях только по приглашениям в центре Сан-Диего. Эти события отражали постоянно растущее богатство отрасли. В гостиной, организованной Институтом Лауде, группой поддержки разработки искусственного интеллекта, аспирант рассказал мне о стартовой зарплате в различных компаниях, занимающихся искусственным интеллектом, в размере «миллиона, миллиона пяти», из которых большая часть была акционерным капиталом. Зал выполнен в стиле VIP-зала музыкального фестиваля. На самом деле он располагался на верхнем этаже отеля Hard Rock.

Местом, где можно было бы присутствовать, если бы вы смогли попасть, была вечеринка, организованная Cohere, канадской компанией, создающей большие языковые модели. (Группа издателей новостей, в том числе Атлантика.) Вечеринка прошла на авианосце USS Midway, использовавшемся в операции «Буря в пустыне», который сейчас стоит в гавани Сан-Диего. Целью, согласно странице регистрации на мероприятие, было «отпраздновать потенциал искусственного интеллекта в соединении нашего мира».

С помощью друга-исследователя я получил приглашение на миксер, организованный Университетом искусственного интеллекта Мохамеда бен Заида, первым в мире университетом, специализирующимся на искусственном интеллекте, названным в честь нынешнего президента ОАЭ. Ранее в этом году MBZUAI основал Институт моделей фундамента, исследовательскую группу в Кремниевой долине. Мероприятие, проходившее в стейк-хаусе, включало в себя открытый фуршет с устрицами, королевскими креветками, севиче и другими угощениями. Наверху в «Мете» находился собственный микшер. По слухам, некоторые из исследователей внизу были сотрудниками Меты, которые надеялись, что их переманит Институт моделей фонда, который якобы предлагал более заманчивые компенсационные пакеты.

Из 5630 статей, представленных на стендовых сессиях NeurIPS, только две упоминают AGI в названии. Ан неофициальный опрос из 115 исследователей, присутствовавших на конференции, предположили, что более четверти даже не знали, что ОИИ означает. В то же время идея AGI и связанный с ней престиж, казалось, по крайней мере частично ответственны за фуршет. Удобства, с которыми я столкнулся, определенно не были оплачены прибылью чат-бота. OpenAI, например, как сообщается, ожидает его огромные потери продолжатся до 2030 года. Как долго отрасль сможет продолжать производство севиче? И что произойдет с экономикой, которую, по мнению многих, поддерживает индустрия искусственного интеллекта, когда она остановится?

В одном из основных выступлений социолог и писатель Зейнеп Туфекчи предупредила исследователей, что идея сверхинтеллекта мешает им понять технологию, которую они создают. разговариватьВ статье под названием «У нас неправильные кошмары об искусственном интеллекте?» упоминается несколько опасностей, которые представляют собой чат-боты с искусственным интеллектом, в том числе широко распространенная зависимость от чат-ботов и подрыв методов установления истины. После того, как Туфекчи выступила с речью, первый из присутствующих, задавший вопрос, выглядел раздраженным. «Вы следили за недавними исследованиями?» — спросил мужчина. “Потому что именно эти проблемы мы пытаемся решить. Поэтому мы знаем об этих проблемах”. Туфекчи ответил: “На самом деле я не вижу этих дискуссий. Я продолжаю видеть, как люди обсуждают массовую безработицу и вымирание человечества”.

Меня поразило, что оба могут быть правильными: многие разработчики ИИ думают о наиболее реальных проблемах этой технологии, в то время как в публичных разговорах об ИИ, в том числе среди самих самых выдающихся разработчиков, преобладают воображаемые. Даже в названии конференции содержалось противоречие: название «NeurIPS» является сокращением от «Нейронные системы обработки информации», но искусственные нейронные сети были задуманы в 1940-х годах дуэтом логиков и нейрофизиологов, которые сильно недооценили сложность биологических нейронов и преувеличили их сходство с цифровым компьютером. Тем не менее, центральной чертой культуры ИИ является одержимость идеей, что компьютер — это разум. антропный и ОпенАИ опубликовали отчеты, в которых говорилось о том, что чат-боты являются соответственно «неверными» и «нечестными». В дискурсе ИИ научная фантастика часто побеждает науку.

На крыше отеля Hard Rock я присутствовал на интервью с Йошуа Бенджио, одним из трёх «крестных отцов» ИИ. Бенджио, соавтор алгоритма, который делает возможным ChatGPT, недавно основал некоммерческую организацию под названием LawZero, чтобы стимулировать развитие искусственного интеллекта, который «безопасный по дизайну». Он взял название некоммерческой организации из закона, фигурирующего в нескольких рассказах Айзека Азимова, который гласит, что робот не должен допускать причинения вреда людям. Бенджио был обеспокоен тем, что в возможном мрачном будущем ИИ могут обмануть своих создателей и что «те, у кого будут очень мощные ИИ, смогут злоупотреблять им для получения политической выгоды с точки зрения влияния на общественное мнение».

Я огляделся, чтобы посмотреть, не беспокоит ли кого-нибудь еще отключение. Бенджио не упомянул, насколько фейковыми являются видео. уже влияет на общественный дискурс. Он также не обращался серьезно к растущему чат-боту. кризис психического здоровьяили разграбление искусств и гуманитарных наук. По его мнению, катастрофический ущерб наступит через «три-десять или двадцать лет». У нас еще есть время «разобраться технически».

Бенджио имеет написано в другом месте о более непосредственных опасностях ИИ. Но техническая и спекулятивная направленность его выступлений отражает настроения среди технологов, которые сейчас доминируют в общественных дискуссиях о нашем будущем. Якобы они пытаются нас спасти, но кому на самом деле выгодны их предсказания? Когда я разговаривал с 25-летними людьми, получавшими семизначные предложения о работе, и наблюдал, как светила отрасли-миллионеры обсуждают опасности сверхинтеллекта, ответ казался очевидным.