論文の概要: On the Generation Order in GFlowNets

• arxiv url: http://arxiv.org/abs/2610.41648v1
• Date: Fri, 30 Oct 2026 12:21:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.700237
• Title: On the Generation Order in GFlowNets
• Title（参考訳）: GFlowNetsにおける世代順について
• Abstract要約: 我々は,命令アノテーションなしで解釈可能な生成順序を学習する学習レシピであるLearning-Order GFlowNetを開発した。 また, 勾配信号-雑音比 (SNR) について, 順序出現の可能な説明法として検討した。
• 参考スコア（独自算出の注目度）: 2.393078814800075
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sampling from discrete distributions specified by unnormalised probability functions is a classical statistical problem. GFlowNets address this problem by constructing objects sequentially, adding one discrete component at a time in either a predefined or a learned order. The choice of order determines which conditional distributions the neural network must learn, some of which may be easier to learn than others. Yet whether existing GFlowNet algorithms discover interpretable generation orders and make use of them during training remains unexplored. We introduce controlled problems where generation order is experimentally shown to affect convergence and standard GFlowNet training struggles to discover useful orders. To address this difficulty, we develop Learning-Order GFlowNet, a training recipe that learns interpretable generation orders without order annotations and improves convergence on these problems. Finally, we investigate gradient signal-to-noise ratio (SNR) as a possible explanation for order emergence: orders associated with faster convergence exhibit higher SNR at comparable validation loss, suggesting both a mechanism favouring their emergence and an SNR-based characterisation of a good generation order.
• Abstract（参考訳）: 非正規化確率関数で指定された離散分布からサンプリングすることは、古典的な統計問題である。 GFlowNetsは、オブジェクトを逐次的に構築し、事前定義された順序または学習された順序で一度に1つの独立したコンポーネントを追加することで、この問題に対処する。 順序の選択は、ニューラルネットワークが学習すべき条件分布を決定する。 しかし、既存のGFlowNetアルゴリズムが解釈可能な生成順序を発見し、トレーニング中にそれらを利用するかどうかはまだ不明である。 本稿では,生成順序が収束に影響を与えることが実験的に示される制御問題を導入し,GFlowNetトレーニングは有用な順序を見つけるのに苦労する。 この課題に対処するために,命令アノテーションを使わずに解釈可能な生成順序を学習し,それらの問題に対する収束を改善する学習レシピであるLearning-Order GFlowNetを開発した。 最後に, 勾配信号-雑音比 (SNR) について, より高速な収束に伴う順序は, 高いSNRを同等の検証損失で示し, それらの出現を好むメカニズムと, 優れた世代順のSNRに基づく特徴付けの両方を示唆する。

関連論文リスト

• Learning to Rank the Initial Branching Order of SAT Solvers [12.097954536315386]
  SAT問題を解く前に、学習に基づくアプローチを用いて、優れた分岐順序を予測する。 既存のCDCL SATソルバでは、優れた初期分岐を提供することで、大きな利益が得られることを示す。 また、そのような初期分岐順序を抽出可能な方法で見つけるための3つのラベリング手法も提供する。
  論文  参考訳（メタデータ） (2026-03-07T12:35:36Z)
• Distributional GFlowNets with Quantile Flows [73.73721901056662]
  Generative Flow Networks(GFlowNets)は、エージェントが一連の意思決定ステップを通じて複雑な構造を生成するためのポリシーを学ぶ確率的サンプルの新たなファミリーである。 本研究では,GFlowNetの分散パラダイムを採用し,各フロー関数を分散化し,学習中により情報的な学習信号を提供する。 GFlowNet学習アルゴリズムは,リスク不確実性のあるシナリオを扱う上で不可欠な,リスクに敏感なポリシーを学習することができる。
  論文  参考訳（メタデータ） (2023-02-11T22:06:17Z)
• Learning GFlowNets from partial episodes for improved convergence and stability [56.99229746004125]
  生成フローネットワーク(GFlowNets)は、非正規化対象密度の下で離散オブジェクトのシーケンシャルサンプリングを訓練するアルゴリズムである。 GFlowNetsの既存のトレーニング目的は、状態または遷移に局所的であるか、あるいはサンプリング軌道全体にわたって報酬信号を伝達する。 強化学習におけるTD($lambda$)アルゴリズムにインスパイアされたサブトラジェクティブバランス(subtrajectory balance, SubTB($lambda$)を導入する。
  論文  参考訳（メタデータ） (2022-09-26T15:44:24Z)
• Discovering Non-monotonic Autoregressive Orderings with Variational Inference [67.27561153666211]
  我々は、訓練データから高品質な生成順序を純粋に検出する、教師なし並列化可能な学習装置を開発した。 エンコーダを非因果的注意を持つトランスフォーマーとして実装し、1つのフォワードパスで置換を出力する。 言語モデリングタスクにおける経験的結果から,我々の手法は文脈認識であり,一定の順序と競合する,あるいはより優れた順序を見つけることができる。
  論文  参考訳（メタデータ） (2021-10-27T16:08:09Z)
• Bayesian Nested Neural Networks for Uncertainty Calibration and Adaptive Compression [40.35734017517066]
  ネストネットワーク(Nested Network)またはスリムブルネットワーク(Slimmable Network)は、テスト期間中にアーキテクチャを即座に調整できるニューラルネットワークである。 最近の研究は、トレーニング中に重要なレイヤのノードを順序付けできる"ネストされたドロップアウト"層に焦点を当てている。
  論文  参考訳（メタデータ） (2021-01-27T12:34:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。