Этот ИИ думает, что сейчас 1800-е годы

Интересная вещь о современных моделях искусственного интеллекта, особенно о моделях большого языка (LLM): они могут выводить текст только на основе того, что находится в их наборе обучающих данных. Модели, включая ChatGPT и Claude, «обучаются» на больших текстовых базах данных. Модели, когда им задают вопрос, статистически создают ответ, вычисляя по одному слову за раз, каким должно быть наиболее вероятное следующее слово. Следствием этого является то, что LLM не могут публиковать тексты о научных открытиях, которые еще не произошли, потому что об этих открытиях не существует литературы. Лучшее, что может сделать ИИ, — это повторить прогнозы, написанные исследователями, или синтезировать эти прогнозы.

Адам Мастроянни, пишет в своем информационном бюллетене «Экспериментальная история»сформулируйте это элегантно: «Если вы загрузили супер-умный ИИ в Древней Греции, скормив ему все человеческие знания и спросив, как высадиться на Луну, он ответил: «Вы не можете приземлиться на Луну». Луна — это бог, плавающий в небе».

Это интересный мысленный эксперимент. Что, если вы намеренно ограничили данные обучения? Сможете ли вы создать систему искусственного интеллекта, которая будет реагировать так, как будто она происходит из какого-то периода прошлого? Что это может рассказать о психологии и повседневном опыте людей той эпохи?

Именно это имел в виду Айк Григорян, студент колледжа Мюленберг в Аллентауне, штат Пенсильвания, когда создавал ВремяКапсулаLLM. Этот экспериментальный ИИ Система была полностью обучена на текстах из Лондона XIX века. Текущая версия основана на 90 гигабайтах текстовых файлов, первоначально опубликованных в Лондоне между 1800 и 1875 годами.

Честно говоря, это во многом хобби-проект. Однако текст, сгенерированный образцом на GitHub, не всегда последователен. Ars Technica сообщила что в нем правильно обнаружены имена и события 1800-х годов. Когда ее попросили продолжить предложение: «Это был 1834 год Господа нашего», модель рассказала о протесте: «Улицы Лондона были заполнены протестами и петициями», а затем упомянула политику лорда Пальмерстона, который в то время был министром иностранных дел.

Это интересный эксперимент, но может ли он быть полезен? Потенциально.
Мнение, опубликованное изданием Труды Национальной академии наук Соединенных Штатов Америки (PNAS) авторами, в том числе Майклом Э.В. Варнумом, профессором психологии факультета психологии Университета штата Аризона, представляет собой интересное чтение. Он предполагает, что подобные модели могут стать способом изучения психологии вне современного контекста. В документе упоминаются такие модели ИИ, как исторические модели большого языка или сокращенно HLLM, и утверждается, что исследователи-психологи могут использовать их для изучения мышления людей в прошлых цивилизациях.

«В принципе, ответы этих искусственных людей могут отражать психологию прошлых обществ, что позволяет создать более надежную и междисциплинарную науку о человеческой природе», — говорится в документе. “Исследователи могли бы, например, сравнить склонность викингов к сотрудничеству, древних римлян и японцев раннего Нового времени в экономических играх. Или они могли бы изучить взгляды на гендерные роли, которые были типичны среди древних персов или средневековых европейцев”.

Это интересная идея, хотя в статье признают, что это может быть непросто.

«Все LLM являются продуктом своих учебных корпусов, и HLLM сталкиваются с проблемами с точки зрения выборки, учитывая, что сохранившиеся исторические тексты, скорее всего, не являются репрезентативными выборками людей, живших в определенный период», — признается в документе, заявляя, что исторические тексты, как правило, пишутся элитами, а не обычными людьми. «В результате на основе этих моделей может быть трудно сделать какие-либо обобщения».

Есть и другие вещи, о которых следует помнить. Исследования Гентского университета в Бельгии показывает, что идеология людей, работающих над LLM, проявляется в тексте, генерируемом этими моделями. Есть все основания подозревать, что та же проблема коснется и программ LLM, призванных отражать культуру прошлого.

Так что есть трудности. Только время покажет, будут ли такие модели в конечном итоге использоваться в психологических исследованиях или останутся уделом любителей.