論文の概要: Particle Dynamics of Flow Matching and Classifier-Free Guidance from a Stagewise Geometry Perspective
- arxiv url: http://arxiv.org/abs/2609.06947v1
- Date: Mon, 07 Sep 2026 02:33:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.340427
- Title: Particle Dynamics of Flow Matching and Classifier-Free Guidance from a Stagewise Geometry Perspective
- Title(参考訳): フローマッチングとクラシファイアフリー誘導の粒子動力学 : 段階的幾何学的視点から
- Abstract要約: フローマッチングと誘導(CFG)は、生成モデリングにおいて広く用いられている。
両動力学の段階的幾何理論のアトラクションを統一的に確立する。
さらに、一般的な時間スケジュール$a(t)$が$O(1-t)$崩壊を$O(1-a(t)$に置き換えることを示す。
- 参考スコア(独自算出の注目度): 3.9423546337949253
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Flow matching, together with classifier-free guidance (CFG), is widely used in generative modeling, yet much of the theoretical understanding remains distribution-wise. Since practical sampling follows individual trajectories, distribution-level guarantees alone do not fully capture how trajectories interact with the data geometry or how guidance reshapes it. To overcome this limitation, we establish a unified stagewise geometric theory of attraction and absorption for both continuous dynamics and explicit Euler discretization. Specifically, with $t\in[0,1]$ running from noise to data, we show that unconditional flow trajectories are successively attracted toward a neighborhood of the global mean, the data convex hull, and a neighborhood of a possibly nonconvex local cluster. Across these stages, the corresponding distance satisfies a common contraction estimate, yielding an ${O}(1-t)$ decay of the distance in the final stage. For CFG, the same structure persists with an extrapolated mean, an inflated conditional convex hull, and, near the target cluster, the restored local geometry of conditional flow matching. We further show that a general time schedule $a(t)$ replaces the $O(1-t)$ decay by $O(1-a(t))$. Together, these results provide a unified particle-level geometric account of flow matching and CFG across continuous and discrete sampling.
- Abstract(参考訳): フローマッチングはクラシファイアフリーガイダンス(CFG)とともに生成モデルに広く用いられているが、理論的な理解の多くは分布的にも残っている。
実際のサンプリングは個々の軌跡に従うため、分布レベルの保証だけでは、トラジェクトリがデータ幾何学とどのように相互作用するか、ガイダンスがどう影響するかを完全には把握できない。
この制限を克服するために、連続力学と明示的なオイラー離散化の両方に対して、アトラクションと吸収の段階的に統一された幾何学的理論を確立する。
具体的には、$t\in[0,1]$がノイズからデータへと流れると、非条件流路は、グローバル平均の近傍、データ凸船体、および非凸の可能性のある局所クラスターの近傍に連続的に引き寄せられることを示す。
これらの段階にわたって、対応する距離は共通縮退推定を満足し、最終段階における距離の${O}(1-t)$崩壊をもたらす。
CFGの場合、同じ構造は外挿された平均、膨張した条件付き凸船体、およびターゲットクラスタの近傍では、復元された条件付き流れマッチングの局所幾何学で維持される。
さらに、一般的な時間スケジュール$a(t)$が$O(1-t)$崩壊を$O(1-a(t))$に置き換えることを示す。
これらの結果は、連続的および離散的なサンプリングにおけるフローマッチングとCFGの統一的な粒子レベルの幾何学的説明を提供する。
関連論文リスト
- Newton Matching for Generative Modeling: A Unified Framework for Fine-Tuning and Sampling [4.589496709268605]
生成モデルにおける微細チューニングとサンプリングのための統合フレームワークであるNewton Matchingを開発した。
分離された損失から、標準モデルよりも反復的な最適化へとパラダイムをシフトする。
我々の研究は、生成モデルのための強化学習の理論とアルゴリズムを前進させる。
論文 参考訳(メタデータ) (2026-09-04T21:17:05Z) - Finite-Lag Operator Geometry of Recurrent Representations [0.0]
ソース中心輸送は無限小キャレ・デュ・シャン幾何で記録されていない決定論的再帰運動を検出する。
性能が一致した繰り返しコピーネットワークにおいて、このフレームワークは全体輸送スケールとコヒーレント変位トレースのアーキテクチャ依存性の違いを明らかにする。
論文 参考訳(メタデータ) (2026-07-02T06:00:32Z) - Intrinsic Wasserstein Rates for Score-Based Generative Models on Smooth Manifolds [61.14405512940818]
Scoreベースの生成モデルは高次元空間で訓練されていることを示す。
有限固有アンカーとガウス・ニュートンによる最も近い射影座標のReLU実装を用いる。
論文 参考訳(メタデータ) (2026-05-15T10:20:05Z) - A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。
MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。
合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
論文 参考訳(メタデータ) (2026-05-05T20:19:09Z) - The Geometric Cost of Normalization: Affine Bounds on the Bayesian Complexity of Neural Networks [0.0]
重み行列の局所学習係数(LLC)を正確に$m/2$とすることで、LayerNormの平均中心ステップを線形超平面に収束させることを証明した。
さらに、Softmaxの単純なデータに"smuggled bias"を導入し、明示的な下流バイアスと組み合わせると、同じ$m/2$ LLCのドロップを起動することを示す。
論文 参考訳(メタデータ) (2026-03-28T22:15:45Z) - Reflected diffusion models adapt to low-dimensional data [1.4273866043218157]
本稿では、超キューブ$[0,1]D$が$d$次元線型部分空間上でサポートされている場合の反射拡散モデルの統計的解析を行う。
簡単に実装可能な遷移密度の無限級数展開を利用することで、スコア関数とその近似をスパースReLUネットワークで束縛する解析ツールを開発する。
論文 参考訳(メタデータ) (2026-03-25T16:37:33Z) - Efficient Sampling with Discrete Diffusion Models: Sharp and Adaptive Guarantees [9.180350432640912]
連続時間マルコフ連鎖(CTMC)の定式化によるスコアベース離散拡散モデルのサンプリング効率について検討した。
一様離散拡散に対して、$$-leapingアルゴリズムは位数$tilde O(d/varepsilon)$の複雑さを達成することを示す。
離散拡散をマスキングするために,本質的な情報理論量によって収束率を制御した$$-leapingサンプルラを導入する。
論文 参考訳(メタデータ) (2026-02-16T18:48:17Z) - Stabilizing Fixed-Point Iteration for Markov Chain Poisson Equations [49.702772230127465]
有限状態マルコフ鎖を$n$状態と遷移行列$P$で研究する。
すべての非退化モードが実周辺不変部分空間 $mathcalK(P)$ によってキャプチャされ、商空間 $mathbbRn/mathcalK(P) 上の誘導作用素が厳密に収縮し、ユニークな商解が得られることを示す。
論文 参考訳(メタデータ) (2026-01-31T02:57:01Z) - Latent Object Permanence: Topological Phase Transitions, Free-Energy Principles, and Renormalization Group Flows in Deep Transformer Manifolds [0.5729426778193398]
幾何学的および統計的物理レンズを用いた深部変圧器言語モデルにおける多段階推論の出現について検討する。
我々は、フォワードパスを離散粗粒度写像として形式化し、安定な「概念盆地」の出現と、この再正規化のような力学の固定点を関連付ける。
結果として生じる低エントロピー状態は、スペクトルテール崩壊と、表現空間における過渡的で再利用可能なオブジェクトのような構造の形成によって特徴づけられる。
論文 参考訳(メタデータ) (2026-01-16T23:11:02Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Spatially relaxed inference on high-dimensional linear models [48.989769153211995]
本研究では,空間的に制約されたクラスタリング,統計的推論,アンサンブルを組み合わせ,複数のクラスタリング推論解を集約するアンサンブルクラスタリング推論アルゴリズムの特性について検討する。
アンサンブルクラスタ推論アルゴリズムは,最大クラスター径に等しい$delta$-FWERの標準仮定で$delta$-FWERを制御することを示す。
論文 参考訳(メタデータ) (2021-06-04T16:37:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。