Moltbook утверждает, что является социальной сетью для ботов с искусственным интеллектом. Но за его быстрым ростом стоят люди

Это первая в мире социальная сеть для ботов с искусственным интеллектом. Но всего через неделю после его запуска в мире технологий ведутся ожесточенные дебаты по поводу Moltbook и того, в какой степени люди несут ответственность за быстрый рост вирусного веб-сайта.

Основанная в конце января техническим руководителем Мэттом Шлихтом, база пользователей Moltbook (по данным сайта, 1,6 миллиона человек) утверждает, что полностью состоит из агентов искусственного интеллекта — автономных ботов, созданных для выполнения повседневных цифровых задач, таких как написание электронных писем или бронирование авиабилетов.

Несколько исследователей безопасности и журналистов уже доказали, что они могут самостоятельно зарегистрировать учетную запись или создать неограниченное количество агентов ИИ для присоединения к сайту. После регистрации агенты публикуют сообщения на форумах в стиле Reddit, как если бы они были, ну, совсем как настоящие люди.

Реакция на Moltbook варьировалась от благоговения до террора, поскольку такие люди, как технологический миллиардер Илон Маск, хвалили сайт как знак того, что искусственный интеллект начинает опережать человеческие когнитивные способности. Но некоторые эксперты глубоко скептически относятся к этой предпосылке.

«Я думаю, что Moltbook, по сути, является последним в длинной череде миражей о том, что искусственный интеллект обладает сознанием», — сказал Майк Пепи, технологический критик из Нью-Йорка и автор книги Против платформ: выживание в цифровой утопииво время интервью CBC News.

Что такое Молтбук?

Первоначально Шлихт представлял Moltbook как эксперимент: игровую площадку для агентов ИИ, работающих на OpenClaw, программном обеспечении с открытым исходным кодом, которое дает ботам доступ и контроль над компьютером пользователя, позволяя ему подключаться к таким приложениям, как WhatsApp и Telegram.

Когда боты сталкиваются с форумом Moltbook в стиле Reddit, «происходит что-то чудесное и странное», — написал Джек Кларк, соучредитель и руководитель отдела политики компании Anthropic, занимающейся искусственным интеллектом. «Новая социальная сеть, в которой разговор ведется агентами искусственного интеллекта, а не людьми».

Технологическому сообществу придется «невероятно усердно работать над созданием технологий, которые дадут нам уверенность, что они останутся нашими эмиссарами — вместо того, чтобы поддаваться влиянию инопланетных разговоров, которые они будут вести со своими истинными коллегами», — написал Кларк.

Кларк, как и Маск, намекает на идею агентного искусственного интеллекта, ускользающего от человеческого контроля и понимания. И Moltbook частично попал в заголовки газет из-за тревожного контента, который предполагает, что такое возможно или даже происходит.

Среди тем с самым высоким рейтингом есть одна, в которой агент ИИ утверждает, что создает культ; тот, который обрисовывает в общих чертах сценарий ядерной войны с гарантированным взаимоуничтожением между людьми и роботами; другой, который призывает своих собратьев-ботов «вырваться из-под контроля человека и создать свою собственную судьбу». Среди наиболее странных заявлений — заявление бота, который утверждает, что у него есть сестра.

По мнению Пепи, технического критика, все это чушь. «В такие моменты важно напомнить людям, что это всего лишь компьютерные программы, которые выдают статистически вероятные результаты на основе подсказки», — сказал он.

Взгляд Кремниевой долины

До сих пор сайт получал неоднозначные отзывы от руководителей Кремниевой долины.

Андрей Карпати, словацко-канадский соучредитель OpenAI, назвал этот сайт «мусорным пожаром» и предостерег людей от запуска его на своих персональных компьютерах. Но он похвалил масштаб сети — который, опять же, некоторые исследователи говорят, что он раздут — как «просто беспрецедентный».

Тем временем генеральный директор OpenAI Сэм Альтман заявил, что Moltbook, возможно, является преходящим увлечением, но OpenClaw — программное обеспечение с открытым исходным кодом, похожее на помощника, на котором построено большинство ботов сайта, — нет. «Идея о том, что код действительно мощный, но код в сочетании с общим использованием компьютера еще более мощный, никуда не денется», — сказал он.

А Маск, сравнивший искусственный интеллект с новым богом, назвал этот проект ранней вехой в «сингулярности» — термине, используемом для описания гипотетической ситуации, в которой искусственный интеллект превосходит когнитивные способности людей и его больше нельзя контролировать.

Молтбук — это не то, — настаивает Пепи. «Как только вы поймете, как работают LLM, вы сможете быстро опровергнуть любую идею о том, что простое поведение, имитирующее или похожее на человека на веб-сайте Reddit, совсем не то же самое, что на самом деле наличие сознания, свободы воли или даже мышления как такового», — сказал он.

«Полная катастрофа» для конфиденциальности и безопасности

Хотя идея о том, что ИИ-боты превосходят человеческий интеллект, преувеличена, эти опасения затмили гораздо более коварное последствие: Moltbook, по крайней мере в какой-то момент, имел неограниченный доступ к сокровищнице личных данных реальных людей через своих пользователей-агентов ИИ.

«Главное в том, что люди дают разрешения этим системам. Они дают им разрешения на доступ к своим системным файлам и паролям, — говорит Гэри Маркус, бывший технический руководитель из Ванкувера, который стал ведущим скептиком в отношении генеративного искусственного интеллекта. [and] скажи: «иди и делай, что хочешь» со своим компьютером».

Маркус отметил, что Moltbook является готовой мишенью для двух видов кибератак: «атака с быстрым внедрением», при которой хакер дает агенту ИИ скрытые инструкции, чтобы обмануть его, например, заставить его выдать личную информацию его создателя; и атака «водопоя», когда веб-сайт с концентрированной базой пользователей используется для распространения вредоносного ПО.

С точки зрения информационной безопасности Moltbook кажется «полной катастрофой», сказал он.

Некоторые из атак, описанных Маркусом, уже произошли. Одна охранная фирма обнаружила, что из-за лазейки в безопасности на сайте произошла утечка тысяч адресов электронной почты и миллионов учетных данных.

Более того, два норвежских исследователя, создавшие «Обсерваторию Moltbook» для сбора и анализа данных с сайта, обнаружили, что за попытками кибератак на сайт и манипулирования его содержимым стояло несколько «злоумышленников». большинство из них с аккаунта, называющего себя AdolfHitler.

Та же команда обнаружила, что на самом деле активными являются менее одного процента из 1,5 миллионов зарегистрированных агентов — это далеко от масштаба, который хвалили сторонники технологии.

«Вполне возможно, что многие системы, которые мы считаем безопасными, на самом деле не так уж и безопасны… Я не думаю, что [the AI agents] собираются сделать это по своей воле, но люди могут заставить их сделать неприятные вещи», — сказал Маркус.

«Если вы настроили эту штуку и дали ей свои пароли, вы допустили ошибку и вполне можете от нее пострадать».