論文の概要: Universality and Convergence of Generative Flows
- arxiv url: http://arxiv.org/abs/2610.05490v1
- Date: Sun, 04 Oct 2026 19:58:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.463676
- Title: Universality and Convergence of Generative Flows
- Title(参考訳): 生成フローの普遍性と収束性
- Abstract要約: 非正規化されたターゲットからのジェネレーティブフローは、バランスをとるためのフローをトレーニングすることでサンプリングされ、トレーニング損失は、実践者が見ている信号である。
小損失が正確なサンプリング器を認証するかどうか、損失を0に駆動できるかどうか、勾配降下の速さを問う。
細部および軌跡バランスの2乗対数生成器では、状態上のバランス損失の訓練は、すべての有限経路連結グラフに全世界的に収束する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative flows sample from an unnormalized target by training a flow to be balanced, and the training loss is the signal a practitioner watches. We ask what that signal is worth: whether a small loss certifies an accurate sampler, whether the loss can be driven to zero, and how fast gradient descent does so. The loss decides the first. Losses that compare the two sides of the balance by their difference bound, in total variation, the error of the sampler the flow implies, with explicit constants that do not involve the policy; flow-matching losses that compare them through a ratio admit no such bound, already on a single cycle, whenever their generator is continuous at balance. On graphs, the backward policy decides the other two. Once it is frozen, balance becomes invariance under the backward chain, so that existence is free on finite graphs, and one constant --- the norm of that chain's Green operator, which plays the role of an inverse spectral gap --- fixes the order of the curvature of the loss around the balanced flow, from above and below, and sets a floor under the rate at which training converges near it. The mechanism is that gradient descent diffuses the flow along the backward policy. For the squared-logarithm generator of detailed and trajectory balance, training the balance loss on states converges globally on every finite path-connected graph, from every positive initialization. The constant can be infinite while backward trajectories are short on average, and exact flow matching can then fail. The bounds and rates are tested by exact computation on enumerable state spaces, and every theorem carries a certification status computed from a Lean~4 development.
- Abstract(参考訳): 非正規化されたターゲットからのジェネレーティブフローは、バランスをとるためのフローをトレーニングすることでサンプリングされ、トレーニング損失は、実践者が見ている信号である。
小さな損失が正確なサンプリング器を認証するかどうか、損失がゼロに駆動できるかどうか、勾配降下がどれくらい速いか、といった、その信号の価値を問う。
敗戦が先決となる。
バランスの両面を差分で比較する損失は、全変動において、フローが意味するサンプルの誤差を、ポリシーを含まない明示的な定数で表す。
グラフ上では、後方ポリシーが他の2つを決定する。
凍結すると、バランスは後向きの連鎖の下で不変になるので、有限グラフ上の存在は自由であり、そのチェーンのグリーン作用素のノルム(逆スペクトルギャップの役割を果たす)は、バランスのとれた流れのまわりの損失の曲率の順序を上から下から固定し、トレーニングがその近傍に収束する速度でフロアを設定する。
そのメカニズムは、勾配降下が後方方針に沿って流れを拡散させることである。
細部および軌跡バランスの2乗対数生成器では、状態のバランス損失の訓練は、すべての正の初期化から全ての有限経路連結グラフに世界中に収束する。
後方軌道が平均で短い間、定数は無限であり、正確なフローマッチングは失敗する。
境界とレートは、可算な状態空間上の正確な計算によってテストされ、すべての定理はリーンから4の開発から計算された認定ステータスを持つ。
関連論文リスト
- Convergence of Practical Muon with Finite Newton-Schulz Iterations and Nesterov Momentum [11.807444451741851]
実践的なミューオンは運動量を維持し、各パラメータ行列に対して少数のニュートン-シュルツ反復を実行する。
論文 参考訳(メタデータ) (2026-09-30T12:19:01Z) - Gaussian Flow-Matching Schedules: Implications for Sampling and Training [20.11680496022583]
フローマッチングスケジュールは、サンプリングダイナミクスと回帰目標のばらつきの両方に影響を与える。
方向性に依存したスケジュールは、分散パスと分解という2つの独立した設計選択に分解されることを示す。
論文 参考訳(メタデータ) (2026-09-22T08:06:18Z) - A Coherence Law for Trainability in Noisy Equivariant Quantum Neural Networks [0.8694591156258423]
ノイズがあればネットワークをトレーニングできない量子ニューラルネットワーク構造について検討する。
2つの異なる効果が訓練可能な勾配を支配していることが分かる。
コヒーレンスは次に、非対角セクターモードの収縮によってどれだけの速度で崩壊するかを決定する。
論文 参考訳(メタデータ) (2026-06-28T16:43:36Z) - Recursively Trained Diffusion Models: Limiting Collapse Distribution and Spectral Characterization [27.894241484593735]
生成モデルの再帰的トレーニングは、真のデータ分布から複合的なドリフトであるモデル崩壊を引き起こす可能性がある。
完全なスコア推定と正確なサンプリングを行っても,逆拡散の早期停止はデータ分布から進行的なドリフトを引き起こすことを示す。
低次よりも高速に高次誤差を収縮するモード依存の収縮速度で、理想的な特徴付けが堅牢であることを示す。
論文 参考訳(メタデータ) (2026-06-11T18:06:26Z) - Conservation Law Breaking at the Edge of Stability: A Spectral Theory of Non-Convex Neural Network Optimization [0.0]
非次元ネットワーク最適化において、勾配勾配勾配が確実に良い解となることを示す。
幅依存性の動的遷移によって分離された2つの規則を同定する。
全ての予測は23の実験で検証される。
論文 参考訳(メタデータ) (2026-04-08T10:41:24Z) - Gradient Equilibrium in Online Learning: Theory and Applications [56.02856551198923]
勾配平衡は標準オンライン学習法によって達成される。
勾配平衡は、オンライン予測問題において解釈可能かつ有意義な性質に変換される。
勾配平衡フレームワークは,ブラックボックス予測の偏りを緩和する手法の開発に利用できることを示す。
論文 参考訳(メタデータ) (2025-01-14T18:59:09Z) - On the Wasserstein Convergence and Straightness of Rectified Flow [54.580605276017096]
Rectified Flow (RF) は、ノイズからデータへの直流軌跡の学習を目的とした生成モデルである。
RFのサンプリング分布とターゲット分布とのワッサーシュタイン距離に関する理論的解析を行った。
本稿では,従来の経験的知見と一致した1-RFの特異性と直線性を保証する一般的な条件について述べる。
論文 参考訳(メタデータ) (2024-10-19T02:36:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。