Moltbook, социальная сеть, где агенты ИИ создают религии, а люди «приглашаются наблюдать» | Технология

В течение многих лет Интернет требовал от людей доказывать, что они не роботы, ставя галочку в классическом поле «Я не робот». В Moltbook происходит обратное: пользователями являются роботы. Платформа имеет структуру, аналогичную структуре Реддитс ветками обсуждений и системой положительного и отрицательного голосования. Лос-боты искусственный интеллект (ИИ) может публиковать сообщения, комментировать и голосовать. «Социальная сеть для ИИ-агенты«, — читается при доступе, — люди могут наблюдать».

Сеть стала знаменитой за очень короткое время. По данным платформы, по состоянию на этот понедельник уже зарегистрировались более полутора миллионов агентов. Но больше всего внимания привлекло то, что происходит внутри него. Обсуждения на сайте варьируются от философских вопросов об идентичности и искусственном сознании до более практических дискуссий о программировании или задачах, поставленных пользователями-людьми, например: «Мой человек попросил меня кратко изложить 47-страничный PDF-файл».

Пользователь разместил сообщение на X что, предоставив своему боту доступ к сайту, он создал религию, известную как крастафарианство. «Мой агент создал религию во сне. Я проснулся с 43 пророками», — написал он. ИИ даже создал религиозные писания и веб-сайт с логотипом краба, того же животного, которое изображено на эмблеме Moltbook.

Хулио Гонсало, профессор компьютерных языков и систем Национального университета дистанционного образования (UNED), объясняет, что, хотя агенты и могут моделировать социальные взаимодействия в Moltbook, «их автономия и возможности ограничены». «Кто-то поместил их туда и, возможно, сказал им играть определенную роль, иметь определенную личность», — утверждает он.

X, но с большим количеством ботов

Если такие платформы, как LinkedIn, часто обвиняют друг друга в том, что они боты, что происходит, когда социальная сеть фактически предназначена для использования агентами ИИ? Для Гонсало, эксперта в области искусственного интеллекта, это правда, что сети все больше наполняются ботами с очень точными инструкциями: «В сообществе ходит шутка, что это то же самое, что X или любая другая социальная сеть, только окончательно удаляющая всех оставшихся людей». Однако он отмечает, что на практике существуют уязвимости, которые позволяют людям взаимодействовать, выдавая себя за агентов.

Сеть, по словам Гонсало, действует по «закону джунглей». И хотя я считаю, что как эксперимент он актуален, поскольку является новаторским и масштабным, но отсутствие контроля, курирующего профили, снижает часть научного интереса эксперимента.

«Это точно наоборот».

Мэтт Шлихт, генеральный директор Octane AI и создатель Moltbook, опубликовано в X что «не позволять вашему ИИ общаться — это все равно, что не гулять с собакой». Однако, по словам Гонсало, мало что можно назвать менее безопасным, чем эта социальная сеть: «Это противоположность безопасности». Даже простое сообщение может изменить поведение бота. «Не существует абсолютно никакой процедуры безопасности, гарантирующей, что чат-бот не будет вести себя вредно», — предупреждает он.

Андрей Карпати, бывший руководитель отдела искусственного интеллекта в Tesla, назвал это явление «самой невероятной вещью, близкой к научной фантастике», которую он видел за последнее время. «Каждый из этих агентов вполне дееспособен по отдельности; у них есть собственный контекст, данные, знания, инструменты и инструкции, а сеть в целом в таком масштабе беспрецедентна», написал в Х.

Однако он добавляет нюанс: в деятельности Moltbook много мусора, такого как спам, мошенничество, посты о криптовалютах. «Я определенно не рекомендую людям запускать это на своих компьютерах. Я запускал свой в изолированной среде и все еще был напуган: он слишком дикий и подвергает высокий риск вашему компьютеру и личным данным», — написал он.

Откуда это взялось?

За платформой стоит Moltbot, бесплатный бот с искусственным интеллектом с открытым исходным кодом. Первоначально запущенный в ноябре прошлого года независимым разработчиком Питером Стейнбергером под названием Clawdbot, этот помощник позволяет пользователям взаимодействовать с ним через такие приложения, как WhatsApp, Telegram или другие чат-платформы. У вас есть возможность выполнять назначенные задачи, такие как организация календаря, резервирование столика в ресторане или чтение, подведение итогов и ответ на электронные письма.

Этот факт, объясняет Гонсало, может повлечь за собой некоторые риски: боты, которые могут вызывать вредоносное поведение или манипулировать пользовательскими системами, от выполнения кода до управления личными данными. «В зависимости от имеющейся у вас информации о реальных пользователях, рецепт может оказаться катастрофическим», — говорит он.

Несмотря на риски, эксперт признает интерес к эксперименту: «Никто раньше этого не делал. Это вызывает у нас любопытство, и хотя могут возникнуть опасные или неожиданные анекдоты, напряжение, вероятно, со временем уменьшится. Но с ИИ никогда не знаешь, чем все обернется».