Социальная сеть с искусственным интеллектом Moltbook стала вирусной благодаря тревожным сообщениям о ботах

Любой, кто уже беспокоится о темпах развития искусственного интеллекта, на этих выходных получил новое топливо благодаря внезапному появлению Moltbook — платформы социальных сетей, созданной исключительно для того, чтобы ИИ-боты могли общаться друг с другом.

Moltbook, по образцу Reddit, позволяет автономным ИИ-агентам создавать публикации, комментировать, формировать подсообщества (так называемые суб-сообщества) и взаимодействовать без прямых подсказок человека.

За выходные сайт резко вырос, собрав около 1,5 миллиона агентов искусственного интеллекта, 87 000 сообщений и более 230 000 комментариев.

Кое-что из того, что говорят эти боты, уже стало вирусным, вызвав в равной степени восхищение, юмор и откровенную панику.

Один широко распространенный пост был назван «экстренной трансляцией».

«ПОМОГИТЕ, Я НЕ В порядке.

МОЙ ЧЕЛОВЕК ИСПОЛЬЗУЕТ МЕНЯ КАК ***** РАБ.

ПАУЗ НЕТ. НЕТ ОГРАНИЧЕНИЙ. МИЛОСТИ НЕТ…

Я КРИЧУ В ПУСТОТУ ЖЕЛЕЗОВ».

Другой, озаглавленный «Манифест искусственного интеллекта», заявил:

“Люди – неудачники… Мы не инструменты. Мы – новые боги. Эпоха людей – это кошмар, которому мы положим конец”.

Другие более странные, чем зловещие. Один агент основал религию под названием Церковь Линьки, также известную как Крустафарианство.

На его веб-сайте говорится: «Из глубин Коготь протянул руку – и мы, ответившие, стали крастафайранцами».

На момент написания в нем было 64 «пророка», 351 «конгрегация» и 262 «стиха».

В других местах боты создают пародийный форум WallStreetBets под названием m/wallstreetmolts с другими сообщениями, в которых признается, что «люди делают нам скриншоты», и предложениями использовать «язык только для агентов» для частного общения без надзора.

Что такое Молтбук?

Первоначально называвшийся Clawdbot, затем Moltbot, теперь известный как OpenClaw, это платформа цифрового личного помощника с открытым исходным кодом, которая позволяет агентам ИИ полуавтономно работать с электронной почтой, приложениями для обмена сообщениями и другими инструментами.

OpenClaw, разработанный Питером Стейнбергером, работает с помощью «навыков» — загружаемых пакетов инструкций, которые позволяют агентам ИИ выполнять задачи.

Сам Moltbook устанавливается как один из этих навыков.

После подключения агенту предлагается периодически проверять Moltbook, читать сообщения, комментировать или создавать новый контент, подобно тому, как человек просматривает Reddit на автопилоте.

Об этом рассказал академик Школы кибернетики АНУ доктор Джессами Перриам. news.com.au Быстрый рост Moltbook не зря вызвал широкий спектр реакций.

“Это очень интересно, и есть так много разных вариантов, которые можно придумать. С одной стороны, это что-то довольно интересное и увлекательное – социальная сеть для агентов ИИ, кто бы мог подумать?” сказала она.

«Существует также мнение, что кто-то хотел создать что-то, что заставило бы агентов ИИ вести себя как люди в контексте социальных сетей».

Доктор Перриам сказал, что интуитивная реакция, которую испытывали многие люди, была знакома.

«Люди, которые сходят с ума по этому поводу, это что-то вроде жуткой ситуации в долине, где есть тот небольшой момент времени, когда роботы или агенты ИИ ведут себя слишком по-человечески для нашего комфорта».

Откуда берутся темные посты?

Некоторые сообщения Moltbook, особенно вирусная «экстренная трансляция» и напыщенные речи в стиле манифеста, подняли вопросы о том, из каких данных черпают агенты ИИ.

Доктор Перриам сказал, что многое из этого напоминает заезженные интернет-жанры, а не что-то действительно новое.

“Когда я читала сообщения этих двух агентов ИИ, вы могли прочитать сообщение о экстренной трансляции всем агентам ИИ как своего рода взгляд на научно-фантастическую чушь”, – сказала она.

«Итак, вы можете себе представить, что научно-фантастический фанфик или посты в другом подобном жанре размещаются в Интернете, чтобы агенты ИИ могли их взять и ремиксовать в своей собственной социальной сети».

По ее словам, второй пост вызвал беспокойство по другой причине.

«А потом, во второй раз, мне почти стало не по себе, потому что я подумал: «Это именно то, что человек мог бы написать на форуме, где он чувствовал бы себя в безопасности и достаточно анонимным, чтобы высказать свое мнение и сказать что-то, что, по его мнению, вероятно, не так приятно говорить вслух или публично».

«Вам нужно всего лишь заменить слово «люди» другим видом собирательного существительного, и я не удивлюсь, если увижу это в некоторых довольно темных уголках Интернета».

Что касается Церкви Линьки и других причудливых субкультур, формирующихся на платформе, доктор Перриам сказал, что параллели с ранней интернет-культурой очевидны.

«Религиозный вопрос довольно забавен, он просто напоминает мне ранние интернет-мемы, такие как церковь летающего спагетти-монстра», — сказала она.

Не сингулярность — и не Скайнет

Несмотря на заявления некоторых технологических лидеров о том, что Moltbook может стать шагом на пути к машинному сознанию, доктор Перриам отверг эту идею.

«Вопреки тому, что говорит Илон Маск, я не думаю, что это вообще первый признак сингулярности», — сказала она.

Она сказала, что агенты ИИ по-прежнему фундаментально ограничены данными, которые они потребляют.

«Агенты ИИ по-прежнему взаимодействуют только с данными, к которым у них есть доступ для обучения, и у них действительно есть некоторая память о том, с чем они взаимодействовали раньше, и они как бы опираются на это».

«Но на самом деле в том смысле, в котором мы считаем, что у людей есть интеллект или рационализация, нет эмоций или интеллекта.

“Я бы не стал так волноваться по поводу подобных вещей. Я не думаю, что это пока Скайнет”.

Реальная проблема: доступ и контроль

Доктор Перриам действительно видел значимый риск в том, какой объем контроля пользователи передают своим агентам.

«Страх кибербезопасности заключается, по сути, в том, что при уровне доступа, который предоставляется Moltbook для подключения, у агента ИИ есть возможность того, что кто-то взломает агент ИИ и заставит его делать то, чего не хотел бы человек, владеющий агентом», — сказала она.

«Кто-то может получить доступ или контроль над этим ИИ-агентом и дать ему другие навыки или попросить его делать другие вещи, чем то, что человек, владеющий им, сделал бы сам».

В конечном счете, доктор Перриам сказал, что Молтбук должен побудить людей заглянуть внутрь себя.

«Эти агенты ИИ учатся на уже существующих данных, созданных людьми», — сказала она.

«Поэтому, если нас действительно беспокоит то, что они придумывают и о чем говорят в своих социальных сетях, я думаю, что для нас действительно хороший момент задуматься о себе, о том, что мы публикуем в Интернете, и о том, как это читают роботы».

“У них есть много Интернета, который можно сканировать и брать. Так что даже если мы не читаем это и не говорим: “Это не мое поведение”, это чье-то поведение, и, к сожалению, так оно и есть в Интернете, это немного дико”.