- Стохастические генеративные потоковые сети (arXiv)
Автор: Лин Пан, Динхуай Чжан, Мокш Джайн, Лунбо Хуан, Йошуа Бенгио
Аннотация: генеративные потоковые сети (или сокращенно GFlowNet) — это семейство вероятностных агентов, которые учатся отбирать сложные комбинаторные структуры через призму «вывода как контроля». Они продемонстрировали большой потенциал в создании высококачественных и разнообразных кандидатов из заданного энергетического ландшафта. Однако существующие GFlowNet могут применяться только в детерминированных средах и не работают в более общих задачах со стохастической динамикой, что может ограничивать их применимость. Чтобы преодолеть эту проблему, в этой статье представлены Stochastic GFlowNets, новый алгоритм, который расширяет GFlowNets до стохастических сред. Разбивая переходы между состояниями на два шага, Stochastic GFlowNet изолирует стохастичность окружающей среды и изучает динамическую модель, чтобы зафиксировать ее. Обширные экспериментальные результаты показывают, что стохастические GFlowNets предлагают значительные преимущества по сравнению со стандартными GFlowNets, а также подходами на основе MCMC и RL в различных стандартных тестах со стохастической динамикой.
2. DynGFN: байесовское динамическое причинно-следственное обнаружение с использованием генеративных сетей потоков (arXiv)
Автор: Лазар Атанакович, Александр Тонг, Джейсон Хартфорд, Лео Дж. Ли, Бо Ван, Йошуа Бенжио
Аннотация: Изучение причинно-следственной структуры наблюдаемых переменных является центральным направлением научных открытий. Байесовские методы обнаружения причин решают эту проблему, изучая апостериорный набор допустимых графов с учетом наших априорных значений и наблюдений. Существующие методы в первую очередь рассматривают наблюдения из статических систем и предполагают, что основная причинно-следственная структура принимает форму направленного ациклического графа (DAG). В условиях с механизмами динамической обратной связи, которые регулируют траектории отдельных переменных, это предположение об ацикличности не работает, если мы не учитываем время. Мы фокусируемся на изучении байесовских апостериорных значений по циклическим графам и рассматриваем обнаружение причин как проблему разреженной идентификации динамической системы. Это налагает естественный временной причинно-следственный порядок между переменными и фиксирует циклические петли обратной связи во времени. С этой точки зрения мы предлагаем новую основу для байесовского причинно-следственного обнаружения для динамических систем и представляем новую архитектуру сети генеративных потоков (DynGFN), адаптированную для этой задачи. Наши результаты показывают, что DynGFN изучает апостериорные значения, которые лучше инкапсулируют распределения по допустимым циклическим причинно-следственным структурам по сравнению с аналогичными современными подходами.
