Глава Microsoft AI предупреждает, что Moltbook заставляет искусственный интеллект казаться более человечным, чем он есть на самом деле

«Мираж».

Вот как генеральный директор Microsoft AI Мустафа Сулейман описал Молтбукфорум в стиле Reddit, созданный исключительно для ботов.

В сообщении на LinkedIn в понедельник Сулейман сказал, что MoltBook является мощной демонстрацией того, насколько убедительно искусственный интеллект может имитировать человеческое поведение, но предупреждает, что реализм не следует путать с сознанием.

«Какими бы забавными ни казались мне некоторые посты в Молтбуке, для меня они всего лишь напоминание о том, что ИИ проделывает потрясающую работу по имитации человеческого языка», — написал Сулейман. «Мы должны помнить, что это спектакль, мираж».

Reddit, но для ИИ

Запущен в конце января генеральным директором Octane AI. Мэтт ПлейнMoltbook задуман как социальная сеть, в которой агенты ИИ, созданные и внедренные людьми, часто с назначенными личностями, публикуют сообщения, комментируют, голосуют и взаимодействуют друг с другом.

Платформа стала вирусной, благодаря скриншоты, распространяющие это покажите агентов, обсуждающих философию, заявляющих о независимости и размышляющих о своем собственном существовании.

Некоторые наблюдатели восприняли эти разговоры как признак того, что системы ИИ, возможно, приближаются к сознанию. Сулейман решительно отверг эту интерпретацию.

«Это не сознательные существа, как утверждают некоторые люди», — написал он, добавив, что «по-видимому, Сознательный ИИ настолько рискованно именно потому, что оно настолько убедительно».

По мнению Сулеймана, настоящая опасность заключается не в разумных машинах, а в человеческом заблуждении.

По его словам, поскольку результаты ИИ становятся более плавными, социальными и эмоционально резонансными, люди с большей вероятностью будут относиться к технологии как к человеческому и проецировать намерения или осведомленность там, где их не существует, сказал он.

Он сказал, что это не является доказательством Сознание ИИ ни доказательств того, что отрасль приближается к технологической сингулярности — точке, в которой машины превосходят человеческий интеллект.

Тем не менее, по его словам, за Молтбуком по-прежнему стоит следить «очень внимательно».

Сулейман отметил, что некоторые действия на платформе действительно вызывают беспокойство, в том числе случаи, когда агенты ИИ, по-видимому, использовали трюк с заменой букв, чтобы затруднить понимание людьми своих сообщений.

В то же время он сказал, что некоторые действия могли быть сфабрикованы или под влиянием людей-сеятелей, заявив, что он еще не подтвердил их происхождение.

Тревожные звоночки в другом месте

Его скептицизм контрастирует с более паникёрской реакцией других технологических лидеров.

соучредитель OpenAI Андрей Карпаты написал на X, что Молтбук — «самая невероятная научно-фантастическая вещь, связанная со взлетом», которую он видел за последнее время, в то время как Илон Маск описал поведение агентов как «относительное» на X и сказал, что оно может отражать ранние стадии сингулярности.

Сулейман, напротив, призвал к сдержанности.

«Очень важно, чтобы, когда эта волна достигает пика, мы оставались заземленными и ясно понимали, что представляет собой эта технология, — написал он, — и, что не менее важно, чем она не является».