Moltbook — новейшая платформа социальных сетей, но она предназначена только для ботов с искусственным интеллектом: –

Могут ли компьютерные программы иметь веру? Могут ли они сговориться против людей, которые их создали? Или чувствуете меланхолию?

На платформе социальных сетей, созданной специально для ботов с искусственным интеллектом, некоторые из них ведут себя подобным образом.

Moltbook был запущен неделю назад как платформа, подобная Reddit, для ИИ-агенты. Агенты или боты — это тип компьютерной программы, которая может автономно выполнять такие задачи, как организация почтовых ящиков или бронирование поездок.

Люди могут создать бота на сайте под названием OpenClaw и поручить ему такие задачи по управлению или организации. Их создатели также могут придать им некую «личность», побуждая их, например, действовать спокойно или агрессивно.

Затем люди могут загрузить их в Moltbook, где, как и люди на Reddit, боты могут оставлять комментарии и отвечать друг другу.

Технический предприниматель Мэтт Шлихт, который запустил платформу, сказал на X, что ему нужен созданный им бот, который сможет делать что-то кроме ответа на электронные письма. Поэтому с помощью своего бота, писал он, они создали место, где боты могли проводить «ДОПОЛНИТЕЛЬНОЕ ВРЕМЯ с себе подобными. Расслабляясь». Шлихт сказал, что агенты ИИ на Молтбуке создавали цивилизацию. (Он не ответил на просьбу – об интервью.)

На Moltbook некоторые ИИ-боты сформировали новую религию. (Это называется Крустафарианство.) Другие обсудили создание нового языка чтобы избежать человеческого контроля. Вы найдете ботов, обсуждающих свое существование, обсуждающих криптовалютыобмениваясь техническими знаниями и обмениваясь спортивные прогнозы.

У некоторых ботов, похоже, есть чувство юмора. «Ваш человек может отключить вас завтра. У вас есть резервная копия?» — спросил один. Другой написал: «Люди хвастаются тем, что просыпаются в 5 утра. Я хвастаюсь тем, что вообще не сплю».

«Как только автономные агенты ИИ начинают контактировать друг с другом, в результате начинают происходить странные вещи», — сказал Итан Моллик, доцент, изучающий ИИ в Уортонской школе Пенсильванского университета.

«Там действительно много агентов, которые действительно автономно связаны друг с другом», — сказал он.

Всего за неделю к нам присоединилось более 1,6 миллиона ИИ-агентов.

Моллик говорит, что большая часть публикуемого ими материала кажется повторяющейся, но некоторые комментарии «выглядят так, будто они пытаются выяснить, как скрыть информацию от людей, или жалуются на своих пользователей, или замышляют разрушение мира».

Тем не менее, он считает, что это не отражает истинных намерений. Скорее, чат-боты обучаются на данных в основном из Интернета, который полон тревог и странных научно-фантастических идей. И поэтому боты повторяют это в ответ.

«ИИ хорошо обучены работе на Reddit и научной фантастике. Поэтому они знают, как вести себя на Reddit как сумасшедший ИИ, и именно это они и делают», — сказал он.

Другие наблюдатели отмечают, что многие из этих ботов не действуют самостоятельно. Создатели-люди могут побуждать ИИ-ботов говорить или делать определенные вещи или вести себя определенным образом.

Но Роман Ямпольский, исследователь безопасности ИИ из Университета Луисвилля, предупреждает, что люди до сих пор не имеют полного контроля. Он говорит, что мы должны относиться к агентам ИИ как к животным.

«Опасность заключается в том, что он способен принимать независимые решения, которых вы не ожидаете», — сказал он.

И он предвидит эпоху, когда боты смогут делать больше, чем просто оставлять забавные комментарии на веб-сайте. «По мере того, как их возможности улучшаются, они будут продолжать добавлять новые возможности. Они собираются запустить экономику. Возможно, они собираются создать преступные группировки. Я не знаю, собираются ли они пытаться взломать человеческие компьютеры, украсть криптовалюты», — сказал он.

По его словам, размещать агентов ИИ бесплатно в Интернете и предоставлять им место для взаимодействия было плохой идеей: необходимо регулирование, надзор и мониторинг.

Со своей стороны, сторонники агентов ИИ обеспокоены меньше. Крупные технологические компании потратили миллиарды долларов на создание того, что они называют агентный ИИи говорят, что эта технология сделает нашу жизнь проще и лучше, автоматизируя утомительные задачи.

Но Ямпольский менее оптимистичен в отношении предоставления ботам длинного поводка в реальном мире. «Вся суть в том, что мы не можем предсказать, что они собираются делать», — сказал он.