論文の概要: Learning a Mixture of GFlowNets
- arxiv url: http://arxiv.org/abs/2610.07562v1
- Date: Tue, 06 Oct 2026 00:49:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.728425
- Title: Learning a Mixture of GFlowNets
- Title(参考訳): GFlowNetの混合学習
- Abstract要約: 本稿では,GFlowNetの混合を記述するための汎用理論フレームワークを提案する。
一方、CI GFlowNetsは、ランダムな特徴拡張のレンズを通して解釈可能であることを示す。
一方,DI GFlowNets は GFlowNet トレーニングの従来のアプローチを包含し,新たに提案された Stratum-Conditioned (SC) GFlowNets の基盤を提供する。
- 参考スコア(独自算出の注目度): 15.602386891697718
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning an ensemble of GFlowNets to sample from a discrete target distribution has become a common approach for achieving better state space exploration and convergence than that of a monolithic sampler. However, these methods often add a substantial runtime overhead to the base model, and their conceptual connection remains elusive. To address this, we first propose a general-purpose theoretical framework for describing a mixture of GFlowNets, which we specialize into continuously (CI) and discretely indexed (DI) collections. On the one hand, we show CI GFlowNets can be interpreted through the lens of a random features expansion, provably boosting the sampler's expressivity in graph-structured tasks and reducing learning instability via spectral shifting. On the other hand, we demonstrate DI GFlowNets encompass prior approaches for GFlowNet training and provide the foundation for the newly proposed Stratum-Conditioned (SC) GFlowNets. This method, which is inspired by the Doob's h-transform of Markov chains, decomposes the state space according to a prescribed modular function and restricts each component to sample from a distinct subset of it. Importantly, SC GFlowNets support centralized and component-wise embarrassingly parallel training, and we show both of them significantly speed up learning convergence and mode coverage without introducing any non-negligible extra computation.
- Abstract(参考訳): GFlowNetのアンサンブルを個別のターゲット分布から学習することは、モノリシックサンプリングよりも状態空間の探索と収束を達成するための一般的なアプローチとなっている。
しかしながら、これらのメソッドはベースモデルにかなりのランタイムオーバーヘッドを加えることが多く、その概念的な接続はいまだ解明されていない。
そこで我々はまず,GFlowNetの混合物を記述するための汎用的理論フレームワークを提案し,これを連続的な(CI)と離散的な(DI)コレクションに特化させる。
一方、CI GFlowNetsは、ランダムな特徴拡張のレンズを通して解釈でき、グラフ構造化タスクにおけるサンプルの表現性を確実に向上し、スペクトルシフトによる学習不安定性を低減できる。
一方,DI GFlowNets は GFlowNet トレーニングの従来のアプローチを包含し,新たに提案された Stratum-Conditioned (SC) GFlowNets の基盤を提供する。
この方法は、ドオブのh-変換にインスパイアされ、所定のモジュラ函数に従って状態空間を分解し、各成分をその別の部分集合から標本に制限する。
重要なことは、SC GFlowNetsは集中的かつコンポーネント的に恥ずかしい並列トレーニングをサポートしており、これら2つは、非無視的な余分な計算を導入することなく、学習収束とモードカバレッジを著しく高速化することを示している。
関連論文リスト
- Improving GFlowNets with Monte Carlo Tree Search [6.497027864860203]
近年の研究では,GFlowNetsとエントロピー規則化強化学習の強い関係が明らかにされている。
我々はモンテカルロ木探索(MCTS)を適用してGFlowNetの計画能力を高めることを提案する。
実験により,本手法により,GFlowNetトレーニングのサンプル効率と,事前学習したGFlowNetモデルの生成精度が向上することが示された。
論文 参考訳(メタデータ) (2024-06-19T15:58:35Z) - Generative Flow Networks: a Markov Chain Perspective [93.9910025411313]
我々はマルコフ連鎖を用いたGFlowNetsの新しい視点を提案し、状態空間の性質に関わらずGFlowNetsの統一的な視点を示す。
GFlowNetsをMCMCメソッドと同じ理論的フレームワークに配置することで、両方のフレームワーク間の類似性も特定できます。
論文 参考訳(メタデータ) (2023-07-04T01:28:02Z) - Stochastic Generative Flow Networks [89.34644133901647]
生成フローネットワーク(GFlowNets)は「制御としての推論」のレンズを通して複雑な構造をサンプリングすることを学ぶ
既存のGFlowNetsは決定論的環境にのみ適用でき、動的処理によるより一般的なタスクではフェールする。
本稿では,GFlowNetsを環境に拡張する新しいアルゴリズムであるGFlowNetsを紹介する。
論文 参考訳(メタデータ) (2023-02-19T03:19:40Z) - Distributional GFlowNets with Quantile Flows [73.73721901056662]
Generative Flow Networks(GFlowNets)は、エージェントが一連の意思決定ステップを通じて複雑な構造を生成するためのポリシーを学ぶ確率的サンプルの新たなファミリーである。
本研究では,GFlowNetの分散パラダイムを採用し,各フロー関数を分散化し,学習中により情報的な学習信号を提供する。
GFlowNet学習アルゴリズムは,リスク不確実性のあるシナリオを扱う上で不可欠な,リスクに敏感なポリシーを学習することができる。
論文 参考訳(メタデータ) (2023-02-11T22:06:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。