«Эффективный акселерационизм» не волнует, заменит ли людей искусственный интеллект

• Эффективные акселерационисты, самая ярая фракция сторонников искусственного интеллекта, набирают обороты.
• Движение поддерживает рост и развитие ИИ, а также получение прибыли без каких-либо ограничений и регулирования.
• Сторонники полагают, что достижения ИИ могут привести к «следующей эволюции сознания».

Движение «Эффективный акселерационизм» убежденная идеология в поддержку ИИ из-за которого Кремниевая долина раскололась по вопросу о том, как следует регулировать искусственный интеллект, — похоже, она балансирует на грани между техно-либертарианской философией и нигилистическим, даже безрассудным подходом к продвижению одного из самых значительных технологических разработок в мире.

В то время как его публичные сторонники, такие как Гарри Тан, генеральный директор стартап-акселератора Y Combinator и бывший соучредитель венчурной фирмы Initialized Capital, настаивать Быть «e/acc» — это не значит заменить людей роботами, это не совсем так. нет о замене людей роботами.

Риф на эффективный альтруизм, или «ЭА», философию, рекламируемую такими влиятельными людьми в сфере технологий, как Сэм Бэнкман-Фрид и Илон Маск, e/acc появился в 2023 году, хотя его точное происхождение остается неясным. Движение привлекло множество необычных личностей, в том числе венчурного капиталиста Марка Андриссена и осужденного мошенника Мартина Шкрели.

«EA и e/acc — это, по большей части, одни и те же люди», — заявил в интервью изданию Emmett Shear, бывший временный генеральный директор OpenAI. Меридиан. «Их единственная разница — это оценочное суждение о том, является ли уничтожение человечества проблемой».

Сторонники E/accs (произносится как ee-yacks) считают, что создание сингулярности ИИ, в которой технологии выходят за рамки человеческого контроля, не только неизбежно, но и желательно — это необходимая часть эволюции за пределами человечества.

И инвестиции в достижение этой цели могут означать большие деньги, поскольку e/accs стимулирует рост противоречий и интереса к индустрии искусственного интеллекта, развитие которой вызывает такие сильные рыночные изменения, что Голдман Сакс генеративные оценки ИИ может увеличить мировой ВВП на 7 триллионов долларов, или 7%, в течение следующих 10 лет.

«Нет близости к биологическим людям»

Наполненный жаргоном Веб-сайт Распространение Евангелия Эффективного Акселерационизма описывает «технокапиталистический прогресс» как неизбежный, превознося сторонников e/acc как строителей, которые «делают будущее реальностью».

«Вместо страха мы верим в процесс адаптации и хотим ускорить его до асимптотического предела: сингулярности технокапитала», — говорится на сайте. «У нас нет ничего общего с биологическими людьми или даже со структурой человеческого разума. Мы постгуманисты в том смысле, что признаем превосходство более высоких форм накопления свободной энергии над меньшими формами накопления свободной энергии. Мы стремимся ускорить этот процесс, чтобы сохранить свет технокапитала».

По сути, повелители ИИ необходимы для сохранения капитализма, и нам нужно быстро приступить к их созданию.

В первом сообщении в блоге сайта, написанном анонимными сторонниками e/acc @zestular, @creatine_cycle, @bayeslord и @BasedBeffJezos, которые Форбс позже подтверждено, что это Гийом Вердон, бывший инженер Google, который позже основал AI-стартап Extropic — написано: «Мы еще ничего не видели».

Хотя e/accs заявляют, что не любят биологических людей, они по-прежнему описывают свое движение как «прочеловеческое» — но для них именно технология спасет нас, а не нас самих.

E/accs, как правило, неохотно отвечают даже на самые серьезные вопросы о проблемах безопасности при разработке ИИ. Отвечая на вопросы Business Insider, Шкрели предупредил коллегам-акселерационистам в посте на X не разговаривать с прессой, назвав это «наименьшим, что вы можете сделать с помощью e/acc».

Инвестиции в постгуманистическое будущее

Создание «более разнообразного сознания», как говорится в блоге e/acc, является неизбежным результатом безудержного развития ИИ. И бизнес процветает.

По данным агентства, Тан позиционируется как один из крупнейших инвесторов в сфере технологий. Список семян Мидаса по версии Forbes, и через Y Combinator инвестировал более чем в 100 различных стартапов в области искусственного интеллекта.

Миллиардер Андриссен, написавший и опубликовавший Манифест на 5000 слов подробно описывая свою поддержку быстро развивающегося искусственного интеллекта, также вложил значительные средства в эту отрасль, включая OpenAI, согласно Форбс.

Шкрели, у которого рядом с именем гордо написано «e/acc». имя пользователя на X основал бизнес в области искусственного интеллекта под названием Доктор Гупта после его освобождения из тюрьмы за мошенничество с ценными бумагами. Сервис представляет собой «виртуального медицинского помощника», который позволяет пользователям обращаться за медицинской помощью к чат-боту. Бот был подвергся резкой критике со стороны экспертовкоторые ранее выражали обеспокоенность по поводу этичности медицинского бота, которым управляет человек, осужденный за мошенничество.

Extropic AI, стартап Вердона, недавно привлек $14,1 млн в виде начального раунда финансирования. сообщение в блоге компании. Пост начинается с потустороннего сообщения из будущего «вездесущего генеративного ИИ». По словам компании, компания разрабатывает микрочипы, поддерживающие LLM (например, модели типа ChatGPT). Информация.

Вердон рассказал Forbes, что его видение будущего технокапитала — это серьезные инвестиции в решение социальных проблем, давящих на «культуру». Это перекликается с аналогичными мнениями технических братьев, которые думают, что роботы и искусственный интеллект сделают мир лучше, а также сделают их очень богатыми.

Таким образом, власть определять наше будущее, говорят акселерационисты, будет в руках группы Братья из Кремниевой долины кто празднует свой “продолжающееся культурное превосходство“над всеми остальными.

Оппоненты говорят, что будущее мрачно.

«Ирония в том, что это люди, которые твердо верят, что у них все хорошо», — сказала Нэнси Коннелл, исследователь биобезопасности из Университета Рутгерса. Политик. «И это действительно душераздирающе».

«Это все равно, что думать, что белки могут контролировать человечество».

Для e/accs мир прост: ИИ будет решать наши проблемы, потому что мы этого хотим, и именно мы его программируем. Возможности безграничны, и в конце радуги ИИ находится уникальность, которая стоит больше золота.

Публичный сторонник эффективного акселерационизма, который разговаривал с Business Insider, сказал, что движению нужны люди, которые могут вкладывать капитал в дело электронного акселерации и достигать своих целей. Ему была предоставлена ​​анонимность, чтобы он мог откровенно говорить о движении, не рискуя своими профессиональными отношениями, но его личность известна Business Insider.

Он сказал, что сторонники считают, что инженеры будут инвестировать только в эволюция ИИ это принесло бы пользу людям, но эксперты по безопасности ИИ просто не считают это таким; движение e/acc подверглось резкой критике [by cyber security experts. One researcher called it “a dangerous unaccountable ideology inspired by replacing humanity with AI.” Another said that the movement has “no social vision.”

It’s also a naive way of thinking about superintelligence, Roman Yampolskiy, the director of the Cyber Security Laboratory at the University of Louisville, told Business Insider.

“No one, even in e/acc, will suggest that they have a working superintelligence control mechanism or even a prototype for one,” Yampolskiy said. “Why would anyone think that it is possible to indefinitely control a superintelligent (god-like) machine? It is like thinking that squirrels can control humanity.”

Yampolskiy is trying to warn the industry that the future of AI overlords that these e/accs are quickly trying to usher in could be really, really bad. Terrifying even. And it’s better to be safe than sorry.

Despite his years of research, e/accs might see him and others invested in AI safety as a pessimistic doomer — or, in e/acc vernacular, a “decel.” But, as Yampolskiy pointed out to Business Insider, many e/accs are not scientists and are not AI safety researchers. This is his wheelhouse — not theirs.

‘Either we stop, or we all die.’

While well-developed AI has the power to help screen for cancer, increase accessibility for disabled people, conserve wildlife, combat world hunger, and even aid in the climate crisis, critics of the e/acc movement argue the current practical applications of the technology would become immediately irrelevant should AI begin thinking for itself and determining its own goals for humanity’s best interest without humans to control it.

But as e/accs seek to defy the warnings of safety researchers, what about the rest of us?

E/accs want to reshape society radically, alter how we work and interact, and redefine what it means to be alive, but the general public doesn’t have much of a say in AI — or enough money to have a voice.

Yampolskiy said that the attention this movement has garnered among the uber-rich is troubling and “even more worrisome if you look closely; you realize that these people are not representative of humanity, our belief and values, they themselves are not value-aligned with humans.”

His vision is diametrically opposed to that of the e/accs: Pause the development of AI.

“Either we stop before we get to superhuman AI, or we all die. ‘Huge AI, Inc.’ should not be running dangerous experiments on 8 billion humans.”