論文の概要: The Geometry Behind Diffusion and Flow Matching: Gradient Flows and Geodesics in Wasserstein Space
- arxiv url: http://arxiv.org/abs/2606.24157v1
- Date: Tue, 23 Jun 2026 05:25:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 22:16:48.789936
- Title: The Geometry Behind Diffusion and Flow Matching: Gradient Flows and Geodesics in Wasserstein Space
- Title(参考訳): 拡散と流れのマッチングの背後にある幾何学:ワッサーシュタイン空間の勾配流と測地学
- Authors: Yian Yao, Weiwei Zhang,
- Abstract要約: 自由エネルギー F(rho) = KL(rho ) の勾配流はちょうどフォッカー・プランク方程式であり、その暗黙的・オイラー離散化は JKO スキームである。
その測地学は、正確にはフローマッチングが学習する最適な輸送経路である。
- 参考スコア(独自算出の注目度): 1.636137854123538
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The space $\mathcal{P}_2(\mathbb{R}^d$) of probability measures with finite second moment carries a natural geometry: the quadratic Wasserstein distance W_2 makes it a complete metric space and, following Otto, a (formal) Riemannian manifold whose geodesics are the optimal-transport interpolations. On this manifold, the gradient flow of the free energy F(rho) = KL(rho || π) is exactly the Fokker-Planck equation, and its implicit-Euler discretization is the JKO scheme. This is the geometry underlying diffusion models: the forward process descends the free energy, and each denoising step realizes one JKO step, which recovers DDPM, DDIM, NCSN/SMLD, and Energy Matching; this is one scheme, not separate theories. The same manifold supports a second variational principle. Its geodesics - the minimum-action curves of the Benamou-Brenier formula - are precisely the optimal-transport paths that Flow Matching learns. Fixing both endpoints and following the geodesic, generation becomes a deterministic ODE along a straight line, hence far fewer sampling steps. Placing both families of models on one manifold makes their relationship exact: diffusion follows a free-energy gradient flow, an initial-value problem; optimal-transport Flow Matching follows a Wasserstein geodesic, a boundary-value problem. The two reach the same endpoints along different paths.
- Abstract(参考訳): 有限二次モーメントを持つ確率測度の空間 $\mathcal{P}_2(\mathbb{R}^d$) は自然幾何学を持ち、二次ワッサーシュタイン距離 W_2 は完備距離空間とし、オットーに続いて(形式的な)リーマン多様体は測地が最適輸送補間である。
この多様体上で、自由エネルギー F(rho) = KL(rho || π) の勾配流はちょうどフォッカー・プランク方程式であり、その暗黙的・オイラー離散化は JKO スキームである。
前進過程は自由エネルギーを下降させ、各分極ステップは1つのJKOステップを実現し、DDPM、DDIM、NCSN/SMLD、エネルギーマッチングを回復する。
同じ多様体は第二の変分原理をサポートする。
その測地線(ベナモ・ブレニエの公式の最小作用曲線)は、正確にはフローマッチングが学習する最適輸送経路である。
端点と測地線の両方を固定すると、生成は直線に沿った決定論的ODEとなり、サンプリングステップははるかに少ない。
拡散は自由エネルギー勾配流、初期値問題、最適輸送フローマッチングは境界値問題であるワッサーシュタイン測地線に従う。
2つのエンドポイントは異なるパスに沿って同じエンドポイントに到達します。
関連論文リスト
- Generative Path-Finding Method for Wasserstein Gradient Flow [4.372661069805067]
本稿では,ワッサーシュタイン勾配経路の生成的経路探索フレームワークを提案する。
GenWGPは、初期密度から未知の平衡分布へ質量を輸送する生成フローを学習する。
Fokker Planckと集約型問題に関する実験は、GenWGPが高忠実度参照解と一致するか、あるいは超えることを示す。
論文 参考訳(メタデータ) (2026-04-13T14:22:20Z) - Radon--Wasserstein Gradient Flows for Interacting-Particle Sampling in High Dimensions [0.9940728137241214]
Kullback-Leibler分散の勾配流は、正規化定数までしか知られていないターゲット密度への分布を進化させる。
ここでは,KL分散の勾配流と,特性の顕著な組み合わせを紹介する。
彼らは高次元における正確な相互作用粒子近似を認め、ステップごとのコストは粒子の数と次元の両方で線形にスケールする。
論文 参考訳(メタデータ) (2026-02-05T02:38:56Z) - Riemannian Flow Matching for Disentangled Graph Domain Adaptation [51.98961391065951]
グラフドメイン適応(GDA)は典型的には、ユークリッド空間におけるグラフ埋め込みの整列に逆学習を使用する。
DisRFMは、埋め込みとフローベースのトランスポートを統一する幾何学的なGDAフレームワークである。
論文 参考訳(メタデータ) (2026-01-31T11:05:35Z) - On the Wasserstein Convergence and Straightness of Rectified Flow [54.580605276017096]
Rectified Flow (RF) は、ノイズからデータへの直流軌跡の学習を目的とした生成モデルである。
RFのサンプリング分布とターゲット分布とのワッサーシュタイン距離に関する理論的解析を行った。
本稿では,従来の経験的知見と一致した1-RFの特異性と直線性を保証する一般的な条件について述べる。
論文 参考訳(メタデータ) (2024-10-19T02:36:11Z) - Combining Wasserstein-1 and Wasserstein-2 proximals: robust manifold learning via well-posed generative flows [6.799748192975493]
低次元多様体に支持された学習分布の連続時間生成フローを定式化する。
We show that the Wasserstein-1 proximal operator regularize $f$-divergences to be compareds。
また, ワッサーシュタイン2近似作用素は, 最適輸送コストを加算することにより, 生成フローの経路を正則化することを示した。
論文 参考訳(メタデータ) (2024-07-16T16:34:31Z) - Continuous-time Riemannian SGD and SVRG Flows on Wasserstein Probabilistic Space [21.12668895845275]
我々は、フロー上の勾配を勾配降下に拡張することにより、ワッサーシュタイン空間における連続最適化手法の族を拡張する。
ワッサーシュタイン空間の性質を利用して微分方程式(SDE)を構築し、対応する離散ユークリッド力学を近似する。
最後に、提案した流れの収束速度を確立し、ユークリッド設定で知られている流れと整合する。
論文 参考訳(メタデータ) (2024-01-24T15:35:44Z) - Large-Scale Wasserstein Gradient Flows [84.73670288608025]
ワッサーシュタイン勾配流を近似するスケーラブルなスキームを導入する。
我々のアプローチは、JKOステップを識別するために、入力ニューラルネットワーク(ICNN)に依存しています。
その結果、勾配拡散の各ステップで測定値からサンプリングし、その密度を計算することができる。
論文 参考訳(メタデータ) (2021-06-01T19:21:48Z) - Learning High Dimensional Wasserstein Geodesics [55.086626708837635]
高次元の2つの確率分布の間のワッサーシュタイン測地線を計算するための新しい定式化と学習戦略を提案する。
ラグランジュ乗算器の手法を最適輸送(OT)問題の動的定式化に適用することにより、サドル点がワッサーシュタイン測地線であるミニマックス問題を導出する。
次に、深層ニューラルネットワークによる関数のパラメータ化を行い、トレーニングのためのサンプルベースの双方向学習アルゴリズムを設計する。
論文 参考訳(メタデータ) (2021-02-05T04:25:28Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。