1769757297
2026-01-30 05:11:00
На протяжении десятилетий искусственный интеллект преуспел в корреляции, выявляя закономерности в данных с поразительной скоростью и точностью. Но корреляция — это не понимание. Система может предсказать, что после дождя наступит солнечный свет, не учитывая почему дождь предшествует солнечному свету. Это фундаментальное ограничение привело к растущему движению в исследованиях ИИ, возглавляемому такими фигурами, как Йошуа Бенджио, профессор Монреальского университета и пионер глубокого обучения, чтобы выйти за рамки распознавания образов и перейти к подлинному причинному рассуждению. Работа Бенджио заключается не просто в создании более мощных алгоритмов; Речь идет о наделении машин способностью понимать основные механизмы, управляющие миром, что является важным шагом на пути к общему искусственному интеллекту (AGI). Однако это стремление оказывается сложной задачей, требующей радикального переосмысления того, как мы проектируем и обучаем системы искусственного интеллекта.
От корреляции к причинно-следственной связи: пределы глубокого обучения
Успех глубокого обучения, технологии, лежащей в основе многих современных приложений искусственного интеллекта, зависит от огромных наборов данных и сложных нейронных сетей. Эти сети учатся выявлять статистические взаимосвязи в данных, что позволяет им выполнять такие задачи, как распознавание изображений и обработка естественного языка, с впечатляющей точностью. Однако, как отметил исследователь из Монреальского университета, эти системы по своей сути хрупкие. Их можно легко обмануть состязательными примерами, слегка измененными входными данными, которые заставляют ИИ делать неправильные прогнозы. Эта уязвимость проистекает из того, что они полагаются на корреляции на поверхностном уровне, а не на более глубокое понимание основных причинно-следственных связей. Представьте себе беспилотный автомобиль, обученный распознавать знаки остановки. Если все обучающие изображения знаков остановки сделаны в солнечные дни, машина может не распознать знак остановки в туманный день не потому, что это не так. видеть знак, но потому, что контекстуальные сигналы, на которые он опирается (солнечный свет, хорошая видимость), отсутствуют. Это подчеркивает серьезный недостаток: глубокое обучение превосходно справляется с вопросом «что», но испытывает трудности с вопросом «почему».
Do-исчисление и сила вмешательства
Чтобы устранить это ограничение, Бенджио и его коллеги все чаще обращаются к области причинно-следственных выводов — разделу статистики и философии, занимающемуся определением причинно-следственных связей. Краеугольным камнем в этой области является работа Иудея Перлкогнитивист из Калифорнийского университета в Лос-Анджелесе и лауреат премии Тьюринга. Перл разработал математическую структуру, известную как «исчисление действий», которая обеспечивает строгий способ обоснования вмешательств, то есть действий, которые намеренно изменяют значение переменной. До-исчисление позволяет исследователям задаваться вопросом «а что, если?» задавать вопросы и прогнозировать последствия этих мер, даже при наличии мешающих факторов. Например, если мы хотим знать, вызывает ли новое лекарство снижение артериального давления, мы не можем просто наблюдать за пациентами, которые принимают это лекарство, и сравнивать их артериальное давление с теми, кто этого не делает. Могут быть и другие факторы, такие как диета или физические упражнения, которые влияют как на употребление наркотиков, так и на кровяное давление. До-исчисление предоставляет инструменты для контроля этих мешающих факторов и выявления причинного эффекта препарата. Команда Бенджио изучает, как интегрировать эти принципы причинно-следственной связи в модели глубокого обучения.
Построение причинно-следственных моделей с помощью генеративно-состязательных сетей
Один многообещающий подход предполагает использование генеративно-состязательных сетей (GAN) — типа архитектуры глубокого обучения, изначально разработанной для создания реалистичных изображений. GAN состоят из двух нейронных сетей: генератора, создающего синтетические данные, и дискриминатора, пытающегося различать реальные и синтетические данные. Команда Бенджио адаптировала GAN для изучения причинно-следственных моделей, научив их прогнозировать последствия вмешательств. Генератор учится моделировать причинно-следственные связи в данных, а дискриминатор учится выявлять несоответствия между смоделированными и наблюдаемыми результатами. Этот процесс заставляет генератора развивать более точное и надежное понимание основных причинных механизмов. Речь идет не о создании идеальных симуляций, а о построении моделей, которые могут надежно предсказывать последствия действий даже в новых ситуациях. Как объясняет исследователь из Монреальского университета, цель состоит в том, чтобы выйти за рамки «запоминания» обучающих данных и перейти к «пониманию» порождающего процесса, который их создал.
Распутанные представления: распаковка скрытых переменных
Ключевой проблемой при построении причинно-следственных моделей является выявление соответствующих причинно-следственных переменных. Часто данные, которые мы наблюдаем, представляют собой сложную смесь множества основных факторов. Чтобы решить эту проблему, исследовательская группа Бенджио сосредоточилась на изучении «распутанных представлений», представлений, которые разделяют различные основные факторы изменения данных. Представьте себе фотографию лица. Изображение содержит информацию о личности человека, его выражении, освещении и позе. Распутанное представление разделило бы эти факторы на отдельные переменные, позволяя ИИ манипулировать каждым из них независимо. Это похоже на понимание «строительных блоков» наблюдаемых данных. Дэвид Чалмерсфилософ и когнитивист из Нью-Йоркского университета, утверждает, что распутывание имеет решающее значение для достижения истинного ИИ, поскольку оно позволяет системе представлять мир таким образом, который более поддается причинно-следственным рассуждениям.
Роль информационного узкого места в причинно-следственном открытии
За пределами контролируемого обучения: обещание самоконтролируемой причинно-следственной связи
Традиционное контролируемое обучение требует маркированных данных, где каждый вход связан с правильным выходом. Это может оказаться дорогостоящим и трудоемким занятием, особенно для сложных причинно-следственных связей. Бенджио является ярым сторонником самостоятельного обучения, при котором ИИ учится на немаркированных данных, предсказывая недостающую информацию или решая вспомогательные задачи. Например, ИИ можно научить прогнозировать будущее состояние системы с учетом ее текущего состояния. Это заставляет ИИ изучать модель основной динамики, которая может выявить причинно-следственные связи. Этот подход особенно перспективен для изучения причинно-следственных моделей на основе видеоданных, где ИИ может наблюдать последствия действий и делать выводы об основных причинно-следственных механизмах. Как отмечает Бенджио, «мир — наш учитель», и мы должны использовать огромное количество доступных немаркированных данных для создания более интеллектуальных систем искусственного интеллекта.
Проблема ложных корреляций и сдвигов в распределении
На пути к надежному и универсальному ИИ: долгосрочное видение
Джошуа БенджиоРабота представляет собой фундаментальный сдвиг в исследованиях ИИ, переходя от распознавания образов к подлинному пониманию. Интегрируя принципы причинно-следственной связи в модели глубокого обучения, он и его коллеги прокладывают путь к более надежным, обобщаемым и заслуживающим доверия системам искусственного интеллекта. Речь идет не только о создании лучших алгоритмов; речь идет о создании ИИ, который сможет рассуждать, планировать и адаптироваться к меняющимся обстоятельствам, как это делают люди. Конечная цель, по замыслу Бенджио, — создать искусственный интеллект, который сможет не только решать конкретные задачи, но также изучать и понимать мир таким образом, чтобы он мог решать новые и непредвиденные проблемы. Это стремление к причинному рассуждению — не просто техническая попытка; это стремление раскрыть весь потенциал искусственного интеллекта и создать машины, которые действительно смогут расширить человеческий интеллект.
Этический императив причинного ИИ
Поскольку системы искусственного интеллекта все больше интегрируются в нашу жизнь, необходимость причинно-следственных рассуждений становится еще более важной. Системы принятия решений на основе искусственного интеллекта уже используются в таких областях, как здравоохранение, финансы и уголовное правосудие. Если эти системы основаны на ложных корреляциях, они могут увековечить предвзятость и привести к несправедливым или дискриминационным результатам. Причинный ИИ предлагает способ создания более прозрачных и подотчетных систем, в которых можно понять и тщательно изучить обоснование решений. Как утверждает Стюарт Рассел, профессор Калифорнийского университета в Беркли и ведущий исследователь безопасности ИИ, у нас есть моральное обязательство разрабатывать системы ИИ, которые соответствуют человеческим ценностям и способствуют справедливости и справедливости. Работа Йошуа Бенджио по причинно-следственным рассуждениям является решающим шагом на пути к достижению этой цели.
#Йошуа #Бенджио #стремление #причинному #рассуждению #искусственном #интеллекте
Ещё по этой теме
