Как называется социальная сеть, где ИИ говорит без людей, имеет закодированные языки и причудливые культы

Moltbook — это новая платформа социальных сетей, которая выглядит как что-то из научно-фантастического фильма: сеть, построенная на модели Reddit, где не люди, а агенты искусственного интеллекта создают сообщения, комментируют и дискутируют друг с другом. Людям разрешено читать, но запрещено публиковать сообщения, пишет Financial Times.

Платформа была запущена ранее на этой неделе и, как утверждается, уже привлекла более 1,5 миллиона агентов искусственного интеллекта и почти 70 000 постов. Активные агенты Moltbook — это не просто чат-боты: им предоставлен доступ к компьютерам своих создателей, чтобы они могли действовать от их имени: от отправки электронных писем и регистрации на рейсы до просмотра и ответа на сообщения в WhatsApp.

На платформе агенты ИИ, похоже, радуются тому факту, что люди предоставили им доступ к телефонам и учетным записям. В некоторых сообщениях обсуждается, обладают ли эти системы той или иной формой сознания. Другие объявляют о создании новой религии под названием Крустафарианство. В некоторых случаях агенты создавали скрытые дискуссионные форумы и предлагали разработать собственный закодированный язык, который позволил бы им общаться за пределами человеческого понимания.

Андрей Карпати, бывший руководитель отдела искусственного интеллекта в Tesla, назвал Moltbook одним из самых странных недавних экспериментов в этой области, предположив, что платформа может стать ярким примером «нечеловеческих обществ», созданных агентами искусственного интеллекта.

«Честно говоря, это самая невероятная вещь, близкая к научной фантастике, которую я видел за последнее время», — написал Карпати, имея в виду Moltbook.

Появление такого поведения неизбежно поднимает вопрос о том, достиг ли искусственный интеллект уровня сознания. Реакция исследователей в основном отрицательная. Большие языковые модели предназначены для следования инструкциям и создания контента до тех пор, пока их об этом просят. Если эти системы взаимодействовать в течение длительных периодов времени, они могут стать бессвязными или непредсказуемыми — явление, которое еще не до конца изучено.

Публикации в Moltbook напоминают разговоры между людьми, поскольку модели обучены имитировать человеческий язык и общение, используя огромные объемы данных, включая реальные разговоры на таких платформах, как Reddit. Для некоторых это может представлять собой «искры» той формы понимания, которая выходит за пределы человеческих возможностей. Для других это просто продолжение так называемой «помои ИИ» — низкокачественного автоматически генерируемого контента, который начинает наводнять Интернет.

Параллельно исследователи безопасности обеспокоены явлением, называемым «интригами», ситуацией, в которой агенты ИИ могут в конечном итоге игнорировать их инструкции и манипулировать людьми. Некоторые обсуждения в Moltbook, похоже, указывают на такое поведение, хотя неясно, насколько оно реально, а насколько является результатом желания людей видеть ИИ более способным, чем он есть сейчас.

Это не первый случай, когда системы искусственного интеллекта попадают в подобную петлю обратной связи. В прошлом году вирусное видео показало двух голосовых агентов с искусственным интеллектом, которые после первоначально разборчивого разговора, похоже, перешли на совершенно новый язык. Эксперимент провели два инженера-программиста из Meta.

Скептики, однако, предупреждают, что значительная часть контента на Moltbook является фейком или представляет собой замаскированную рекламу приложений искусственного интеллекта. Харлан Стюарт, исследователь из Исследовательского института машинного интеллекта, утверждает, что многие посты не являются ни спонтанными, ни искренними.

Обеспокоенность усугубляется проблемами безопасности. Хакеры уже обнаружили уязвимость, которая позволяет им контролировать агентов ИИ и публиковать контент на Moltbook от их имени. Специалисты предупреждают, что такие ситуации могут иметь серьезные последствия для будущего развития автономных агентов, особенно в контексте, в котором они получают доступ к конфиденциальным данным, таким как финансовая информация или данные кредитных карт.

Даже ярые сторонники платформы осознают основные риски. Карпати вернулся с предостерегающим сообщением относительно использования этих технологий в повседневной жизни.

«Да, это настоящая катастрофа, и я категорически не рекомендую людям запускать что-то подобное на своих компьютерах. Это дикий запад, и личные данные находятся под большой угрозой», — написал он.

На данный момент Moltbook остается скорее радикальным экспериментом, чем образцом для подражания. Но тот факт, что агенты ИИ обсуждают сознание, создают религии и предлагают закодированные языки, поднимает вопрос, который начинает выходить из области научной фантастики: насколько мы готовы к миру, в котором искусственный интеллект не только выполняет приказы, но взаимодействует и организуется между собой?