Философская загадка рационального искусственного интеллекта | Новости Массачусетского технологического института

В какой степени искусственная система может быть рациональной?

Новый курс MIT, 6.С044/24.С00 (ИИ и рациональность) не пытается ответить на этот вопрос. Вместо этого он побуждает студентов исследовать эту и другие философские проблемы через призму исследований ИИ. Для следующего поколения ученых концепции рациональности и свободы действий могут оказаться неотъемлемой частью процесса принятия решений ИИ, особенно под влиянием того, как люди понимают свои собственные когнитивные ограничения и свои ограниченные, субъективные взгляды на то, что является рациональным, а что нет.

Это исследование коренится в глубокой взаимосвязи между информатикой и философией, которые уже давно сотрудничают в формализации того, что значит формировать рациональные убеждения, учиться на опыте и принимать рациональные решения для достижения своих целей.

“Можно представить, что информатика и философия довольно далеки друг от друга, но они всегда пересекались. Технические части философии действительно пересекаются с ИИ, особенно с ранним ИИ”, – говорит преподаватель курса Лесли Кельблинг, профессор компьютерных наук и инженерии Panasonic в Массачусетском технологическом институте, вспоминая Алана Тьюринга, который был одновременно ученым-компьютерщиком и философом. Сама Кельблинг получила степень бакалавра философии в Стэнфордском университете, отметив, что в то время информатика не была специальностью.

Брайан Хедден, профессор кафедры лингвистики и философии, занимающий должность в Шварцмановском колледже вычислительной техники Массачусетского технологического института, разделяет должность с кафедрой электротехники и информатики (EECS), которая преподает в классе вместе с Кельблингом, отмечает, что эти две дисциплины более согласованы, чем люди могут себе представить, добавляя, что «различия заключаются в акцентах и перспективах».

Инструменты для дальнейшего теоретического мышленияг

Впервые предложенный осенью 2025 года, Кельблинг и Хедден создали искусственный интеллект и рациональность в рамках Общая основа компьютерного образования, сквозная инициатива Вычислительного колледжа Шварцмана Массачусетского технологического института, которая объединяет несколько факультетов для разработки и преподавания новых курсов, а также запуска новых программ, сочетающих вычислительную технику с другими дисциплинами.

На факультете «ИИ и рациональность» зарегистрировано более двух десятков студентов. 6.C40/24.C40 (Этика вычислений).

В то время как «Этика вычислений» исследует проблемы социального воздействия быстро развивающихся технологий, «ИИ и рациональность» исследуют спорное определение рациональности, рассматривая несколько компонентов: природу рационального действия, концепцию полностью автономного и интеллектуального агента, а также приписывание этим системам убеждений и желаний.

Поскольку ИИ чрезвычайно широк в своей реализации и каждый вариант использования поднимает разные проблемы, Кельблинг и Хедден провели мозговой штурм по темам, которые могли бы обеспечить плодотворное обсуждение и взаимодействие между двумя точками зрения – информатикой и философией.

«Когда я работаю со студентами, изучающими машинное обучение или робототехнику, важно, чтобы они сделали шаг назад и исследовали предположения, которые они делают», — говорит Кельблинг. «Размышление о вещах с философской точки зрения помогает людям лучше понять, как поместить свою работу в реальный контекст».

Оба преподавателя подчеркивают, что этот курс не дает конкретных ответов на вопросы о том, что значит создать рационального агента.

Хедден говорит: “Я рассматриваю этот курс как закладывание их фундамента. Мы не даем им набор доктрин, которые нужно изучить, запомнить и затем применить. Мы снабжаем их инструментами, позволяющими критически мыслить о вещах, когда они выходят в выбранную ими карьеру, независимо от того, работают ли они в области исследований, промышленности или правительства”.

Быстрый прогресс ИИ также создает новый набор проблем в академических кругах. Предсказать, что студентам понадобится знать через пять лет, Кельблинг считает невыполнимой задачей. «Что нам нужно сделать, так это дать им инструменты на более высоком уровне — образ мышления, образ мышления — которые помогут им приблизиться к вещам, которые мы действительно не можем предвидеть прямо сейчас», — говорит она.

Смешение дисциплин и сомнение в предположениях

На данный момент в класс вошли студенты из самых разных дисциплин — от тех, кто твердо разбирается в компьютерных технологиях, до тех, кто заинтересован в изучении того, как ИИ пересекается с их собственными областями обучения.

На протяжении всего семестра студенты боролись с различными определениями рациональности и с тем, как они противостоят предположениям в своих областях.

О том, что ее удивило в этом курсе, Аманда Паредес Риобоо, старший преподаватель EECS, говорит: “Нас вроде как учат, что математика и логика являются золотым стандартом или истиной. Этот класс показал нам множество примеров того, что люди действуют несовместимо с этими математическими и логическими структурами. Мы открыли целую банку червей относительно того, являются ли люди иррациональными? Неужели системы машинного обучения, которые мы разработали, иррациональны? Это сама математика и логика?”

Джуниор Окороафор, аспирант кафедры наук о мозге и когнитивных науках, высоко оценил проблемы, стоящие перед классом, и то, как определение рационального агента может меняться в зависимости от дисциплины. «Представление того, что каждая область означает под рациональностью в формальной структуре, проясняет, какие именно предположения должны быть общими, а какие различаются в разных областях».

Совместное обучение и совместная структура курса, как и во всех проектах Common Ground, дала студентам и преподавателям возможность услышать разные точки зрения в режиме реального времени.

Для Паредес Риобу это третий курс Common Ground. Она говорит: “Мне очень нравится междисциплинарный аспект. Они всегда ощущались как хорошая смесь теоретического и прикладного, поскольку им необходимо пересекать разные области”.

По словам Окороафора, Кельблинг и Хедден продемонстрировали очевидную синергию между областями, заявив, что создается впечатление, будто они участвуют и учатся вместе с классом. То, как информатика и философия могут использоваться для информирования друг друга, позволило ему понять их общность и бесценные точки зрения на пересекающиеся проблемы.

Он добавляет: «У философии тоже есть способ удивить».