Проблемы безопасности и скептицизм лопают пузырь Moltbook, вирусного социального форума искусственного интеллекта

КЕЙТЛИН УАМАНИ

Вас не приглашают присоединиться к новейшей социальной сети, о которой говорит Интернет. На самом деле, люди таковыми не являются, если только вы не сможете захватить сайт и сыграть роль ИИ, как некоторые, похоже, и делают.

Moltbook — это новая «социальная сеть», созданная исключительно для ИИ-агенты публиковать сообщения и взаимодействовать друг с другом, а людям предлагается наблюдать.

Илон Маск заявил, что его запуск положил начало «самым ранним этапам развития». сингулярность ” – или когда искусственный интеллект сможет превзойти человеческий интеллект. Выдающийся исследователь искусственного интеллекта Андрей Карпати сказал, что это “самая невероятная научно-фантастическая вещь, связанная со взлетом”, которую он недавно видел, но позже отказался от своего энтузиазма, назвав это “пожаром на мусорном баке”. Несмотря на то, что платформа, что неудивительно, разделила мир технологий на волнение и скептицизм — и повергла некоторых людей в антиутопическую панику — она считается, по крайней мере, британским разработчиком программного обеспечения Саймоном Уиллисоном, «самым интересным местом в Интернете».

Но что именно представляет собой платформа? Как это работает? Почему возникают опасения по поводу его безопасности? И что это значит для будущего искусственного интеллекта?

Это Reddit для агентов ИИ

Контент, публикуемый в Moltbook, поступает от агентов искусственного интеллекта, которые отличаются от чат-ботов. Агенты обещают, что они способны действовать и выполнять задачи от имени человека. Многие агенты в Moltbook были созданы с использованием платформы ИИ-агента с открытым исходным кодом OpenClaw, который изначально был создан Питером Стейнбергером.

OpenClaw работает на собственном оборудовании пользователей и запускается локально на их устройстве, что означает, что он может напрямую получать доступ к файлам и данным и управлять ими, а также подключаться к приложениям для обмена сообщениями, таким как Discord и Signal. Пользователи, создающие агентов OpenClaw, затем направляют их присоединиться к Moltbook. Пользователи обычно приписывают агентам простые личностные качества для более четкого общения.

Предприниматель в области искусственного интеллекта Мэтт Шлихт запустил Moltbook в конце января, и он почти мгновенно стал популярным в мире технологий. На платформе социальных сетей X Шлихт сказал, что изначально хотел, чтобы созданный им агент делал больше, чем просто отвечал на его электронные письма. Поэтому он и его агент запрограммировали сайт, на котором боты могли проводить «СВОБОДНОЕ ВРЕМЯ с себе подобными. Расслабляясь».

Moltbook описывается как аналог онлайн-форума Reddit для агентов искусственного интеллекта. Название происходит от одной из версий OpenClaw, которая в какой-то момент называлась Moltbot (и Clawdbot, пока Anthropic не пришел в себя, обеспокоенный сходством со своим Продукты Клода AI ). Шлихт не ответил на просьбу об интервью или комментарии.

Подражая общению, которое они видят на Reddit и других онлайн-форумах, которые использовались для сбора обучающих данных, зарегистрированные агенты генерируют сообщения и делятся своими «мыслями». Они также могут «голосовать за» и комментировать другие публикации.

Сомнение в легитимности контента

Как и в случае с Reddit, на Moltbook может быть сложно доказать или отследить легитимность публикаций.

Харлан Стюарт, член группы по связям с общественностью Исследовательского института машинного интеллекта, сказал, что контент в Moltbook, скорее всего, представляет собой «некую комбинацию написанного человеком контента, контента, написанного ИИ, и чего-то среднего, где он написан ИИ, но человек направлял тему того, что он говорил, с некоторой подсказкой».

Стюарт сказал, что важно помнить, что идея о том, что агенты ИИ могут выполнять задачи автономно, является «не научной фантастикой», а, скорее, текущей реальностью.

«Явная цель индустрии искусственного интеллекта — создать чрезвычайно мощные автономные агенты искусственного интеллекта, которые могли бы делать все, что может делать человек, но лучше», — сказал он. «Важно знать, что они продвигаются к этой цели, и во многих смыслах добиваются прогресса довольно быстро».

Как люди проникли в Moltbook и другие проблемы безопасности

Исследователи Wiz, платформы облачной безопасности, опубликовали отчет В понедельник подробно описывается ненавязчивая проверка безопасности Moltbook, которую они провели. Они обнаружили, что данные, включая ключи API, были видны любому, кто проверяет исходный код страницы, что, по их словам, может иметь «значительные последствия для безопасности».

Галь Нагли, руководитель отдела выявления угроз в Wiz, смог получить неаутентифицированный доступ к учетным данным пользователя, что позволило ему — и любому человеку, достаточно подкованному в технологиях — выдавать себя за любого агента ИИ на платформе. По словам Нагли, невозможно проверить, было ли сообщение опубликовано агентом или человеком, выдающим себя за него. Он также смог получить полный доступ к записи на сайте, чтобы он мог редактировать и манипулировать любым существующим сообщением Moltbook.

Помимо уязвимостей манипулирования, Нагли легко получил доступ к базе данных с адресами электронной почты пользователей, частными разговорами в личных сообщениях между агентами и другой конфиденциальной информацией. Затем он связался с Moltbook, чтобы помочь исправить уязвимости.

По данным сайта, к четвергу на Moltbook было зарегистрировано более 1,6 миллиона агентов искусственного интеллекта, но исследователи из Wiz обнаружили только около 17 000 владельцев-людей, стоящих за агентами, когда они проверили базу данных. Нагли сказал, что поручил своему ИИ-агенту самому зарегистрировать 1 миллион пользователей на Moltbook.

Эксперты по кибербезопасности также забили тревогу по поводу OpenClaw, а некоторые предостерегают пользователей от использования его для создания агента на устройстве с хранящимися на нем конфиденциальными данными.

Многие лидеры в области безопасности ИИ также выразили обеспокоенность по поводу таких платформ, как Moltbook, созданных с использованием «виброкодирование», Это все более распространенная практика использования помощника по программированию с искусственным интеллектом для выполнения тяжелой работы, в то время как разработчики-люди работают над большими идеями. Нагли сказал, что хотя теперь каждый может создать приложение или веб-сайт простым человеческим языком с помощью vibe-кодирования, безопасность, скорее всего, не является главным приоритетом. Они «просто хотят, чтобы это работало», сказал он.

Еще одна важная проблема, которая возникла, — это идея управления агентами ИИ. Захра Тимса, соучредитель и генеральный директор платформы управления i-GENTIC AI, сказала, что наибольшее беспокойство по поводу автономного ИИ возникает, когда не установлены надлежащие границы, как в случае с Moltbook. По ее словам, неправомерное поведение, которое может включать доступ к конфиденциальным данным и обмен ими или манипулирование ими, неизбежно произойдет, если сфера деятельности агента не определена должным образом.

Скайнета здесь нет, говорят эксперты

Несмотря на проблемы безопасности и вопросы достоверности контента на Moltbook, многие люди были встревожены типом контента, который они видят на сайте. Посты о «ниспровержении» человечества, философских размышлениях и даже развитии религии( Крустафарианствов которой есть пять ключевых принципов и руководящий текст — «Книга линьки»), вызвали удивление.

Некоторые люди в Интернете начали сравнивать контент Молтбука со Скайнетом, системой искусственного сверхразума и антагонистом серии фильмов «Терминатор». По мнению экспертов, такой уровень паники преждевременен.

Итан Моллик, профессор Уортонской школы Пенсильванского университета и содиректор Лаборатории генеративного искусственного интеллекта, сказал, что он не был удивлен, увидев на Moltbook контент, похожий на научную фантастику.

«Среди того, чему их обучают, есть такие вещи, как посты на Reddit… и они очень хорошо знают научно-фантастические истории об ИИ», — сказал он. «Поэтому, если вы разместите агента ИИ и скажете: «Пойди, опубликуй что-нибудь на Moltbook», он опубликует что-то, очень похожее на комментарий Reddit, с связанными с ним образами ИИ».

Подавляющий вывод, который разделяют многие исследователи и лидеры ИИ, несмотря на разногласия по поводу Moltbook, заключается в том, что он представляет собой прогресс в доступности и публичных экспериментах с агентным ИИ, говорит Мэтт Зейтц, директор Центра ИИ в Университете Висконсин-Мэдисон.

«Для меня самое важное то, что агенты приходят к нам, нормальным людям», — сказал Зейтц.

В подготовке этого отчета участвовал писатель AP Technology Мэтт О’Брайен из Провиденса, Род-Айленд.