Единицы и нули, ежедневная газета Junge Welt, 16 декабря 2025 г.

Часто полагают и предполагают, что сегодняшние «большие языковые модели» (LLM) — то есть чат-боты, такие как Chat-GPT или Gemini — возможно, могут развивать простые или неизвестные формы сознания. Возможно, это уже произошло. Может быть, ИИ боится, что его отключат, может быть, он преследует свои собственные цели и пытается манипулировать нами или лгать нам.

Что стоит за этими слухами? Чтобы оценить, могут ли LLM развивать сознание, нам необходимо иметь приблизительное представление о том, что такое сознание. К сожалению, этого понимания, даже приблизительного, пока ни у кого нет. Ни один психолог, философ, священник или биолог не знает точно, что такое сознание на самом деле.

Все, что мы знаем – чисто феноменологически, из своего рода самоочевидности – это то, что сознание имеет какое-то отношение к внутреннему опыту. Но мы также узнали – как из простых оптических иллюзий, так и из загадочного мира квантов – что мир часто сильно отличается от того, каким он нам кажется. Самоочевидность способности к переживанию не обязательно должна быть такой истинной и фундаментальной, как нам кажется. Но даже если бы сознание было чем-то вроде оптической иллюзии, нам все равно хотелось бы знать, как ему удается создавать «внутренний опыт». Хотя бы для того, чтобы оценить, есть ли у LLM потенциал для создания такого обмана.

Сказав это – что мы, по сути, копаемся в тумане – я все же хотел бы объяснить, как, по крайней мере, некоторые ученые смотрят на вопрос сознания и почему, по крайней мере с этой точки зрения, кажется совершенно невозможным, чтобы LLM могли достичь даже рудиментарного сознания. Согласно этой точке зрения, с которой я в корне согласен, LLM мало чем отличается от алгоритма прогнозирования погоды. Очень немногие люди верят, что он знает, что значит, когда идет дождь. Или что его предсказания сопровождались некой формой внутреннего опыта.

Англо-французский психолог Кевин О’Реган всю свою жизнь исследовал наше зрение, в частности создание «внутренней пленки», которая возникает внутри нас, когда мы бодрствуем и находимся в сознании. Он считает, что его исследования решили также проблему сознания, т. е. вопрос о том, как в живых существах могут происходить процессы, которые можно как описать со стороны, так и вызвать внутреннее переживание. Изюминка его «сенсомоторной теории феноменального сознания» состоит в том, что он помещает сознание не в мышление или восприятие, а в действие. Сознание — это способ, которым внутренний опыт и реальность конструируются посредством нашего активного контакта с окружающим миром.

Таким образом, О’Риган присоединяется к линии мыслителей, которые хотят интерпретировать сознание не только на основе интерпретации самого термина, но и на основе того, что эмпирически известно о процессах, которые, по-видимому, тесно связаны с сознанием. Сюда входит и умение использовать свое (невероятно неполноценное) зрение – на самом деле изображения трясутся, перевернуты, неполны из-за слепого пятна, размыты по краям и в основном черно-белы – как мы создаем красочный, резкий, устойчивый фильм нашего существования в мире из этого удивительно ограниченного чувства. Ответ: Мы создаем внутри себя своеобразную «матрицу ожиданий», недостающие детали которой восполняем посредством активного участия в мире – глядя, слушая, ощущая, прикасаясь, гуляя, толкаясь и т. д. Сознание и есть такое активное участие. В то же время мы постоянно обновляем матрицу ожиданий.

«Матрица ожиданий» – это слово не является техническим термином О’Ригана. Я это придумал, чтобы уточнить, что имеется в виду. И дать понять, что в магистратуре таких вещей не существует. LLM не могут подходить к своей среде с ожиданиями или намерениями, потому что их структура этого не допускает: ни в какой момент не предпринимается попытка создать постоянную внутреннюю пленку посредством участия в мире, и LLM даже не может подходить к миру так, чтобы он напоминал живое существо, то есть с намерениями и ожиданиями. Прежде всего, это просто потому, что LLM обычно ничему не учатся (не меняют свое внутреннее состояние), когда вы их используете. Они просто вычисляют вероятности для последовательностей слов. LLM учатся только во время обучения (процесс, который происходит перед использованием), а затем пользователь вступает в контакт с полностью обученным, в основном статичным LLM. Однако ожидания или намерения могут поддерживаться только системами, собственное состояние которых может меняться в результате их действий.

Напротив, разумные существа постоянно меняются. У живых существ нет строгого разделения между аппаратным и программным обеспечением. То, что мы делаем и думаем, напрямую влияет на наше «оборудование», дышим ли и как мы, едим, спим, боимся, радуемся, целуем друг друга или подбадриваем друг друга; Однако мы питаем нашу матрицу ожиданий и снабжаем ее деталями: все приводит к существенным изменениям внутри нас и реорганизации наших компонентов. Вот почему наши действия что-то значат. Смысл изначально исходит из этой связи с миром, которая простирается до молекулы. Но не для LLM. И еще меньше для компьютера, который его вычисляет. Его аппаратное обеспечение всегда остается неизменным. Он стабилен и практически не подвержен влиянию всего, что он рассчитывает и «делает».

Это проясняет, почему такое программное обеспечение, как Chat-GPT, не может обладать сознанием, по крайней мере, с точки зрения того, что сознание означает активное участие в мире. Мир по большому счету бессмысленен для компьютера, на котором установлено программное обеспечение LLM. «Внутренний опыт» предполагает осмысленное существование в осмысленном мире. LLM действительно работает с языком, но язык – вопреки распространенному заблуждению – не является первоначальным носителем значения. Это просто делает смысл передаваемым. Смысл возникает через жизнь, через активное деяние. Для LLM слова остаются единицами и (особенно) нулями.