論文の概要: Cross-fluctuation phase transitions reveal sampling dynamics in diffusion models
- arxiv url: http://arxiv.org/abs/2511.00124v1
- Date: Fri, 31 Oct 2025 09:40:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-05 16:37:26.627308
- Title: Cross-fluctuation phase transitions reveal sampling dynamics in diffusion models
- Title(参考訳): 交叉ゆらぎ相転移による拡散モデルにおけるサンプリングダイナミクスの解明
- Authors: Sai Niranjan Ramachandran, Manish Krishan Lal, Suvrit Sra,
- Abstract要約: クロス揺らぎを用いたスコアベース拡散モデルにおいて,分布のサンプリングダイナミクスがどのように進化するかを解析する。
偏りのない等方性正規分布から始めると、試料は鋭く離散的な遷移を行い、最終的には所望の分布の異なる事象を形成する。
これらの遷移を検出することでサンプリング効率が向上し、クラス条件とレアクラスの生成が促進され、画像分類とスタイル転送という2つのゼロショットタスクが、高価なグリッド検索やリトレーニングなしで改善されることがわかった。
- 参考スコア(独自算出の注目度): 18.62181040054207
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We analyse how the sampling dynamics of distributions evolve in score-based diffusion models using cross-fluctuations, a centered-moment statistic from statistical physics. Specifically, we show that starting from an unbiased isotropic normal distribution, samples undergo sharp, discrete transitions, eventually forming distinct events of a desired distribution while progressively revealing finer structure. As this process is reversible, these transitions also occur in reverse, where intermediate states progressively merge, tracing a path back to the initial distribution. We demonstrate that these transitions can be detected as discontinuities in $n^{\text{th}}$-order cross-fluctuations. For variance-preserving SDEs, we derive a closed-form for these cross-fluctuations that is efficiently computable for the reverse trajectory. We find that detecting these transitions directly boosts sampling efficiency, accelerates class-conditional and rare-class generation, and improves two zero-shot tasks--image classification and style transfer--without expensive grid search or retraining. We also show that this viewpoint unifies classical coupling and mixing from finite Markov chains with continuous dynamics while extending to stochastic SDEs and non Markovian samplers. Our framework therefore bridges discrete Markov chain theory, phase analysis, and modern generative modeling.
- Abstract(参考訳): 統計物理学から中心モーメント統計量であるクロスゆらぎを用いたスコアベース拡散モデルにおいて,分布のサンプリングダイナミクスがどのように進化するかを解析する。
具体的には、偏りのない等方性正規分布から始めると、試料は鋭く離散的な遷移を行い、最終的には、より微細な構造を徐々に明らかにしながら、所望の分布の異なる事象を形成することを示す。
この過程は可逆であるので、これらの遷移は逆でも起こり、中間状態が徐々に融合し、初期分布への経路を辿る。
これらの遷移は$n^{\text{th}}$-order cross-fluctuationsにおいて不連続性として検出できることを示す。
分散保存SDEに対して、逆軌道に対して効率的に計算可能なこれらの交叉ゆらぎに対する閉形式を導出する。
これらの遷移を検出することでサンプリング効率が向上し、クラス条件とレアクラスの生成が促進され、画像分類とスタイル転送という2つのゼロショットタスクが、高価なグリッド検索やリトレーニングなしで改善されることがわかった。
また、この視点は、確率的SDEや非マルコフサンプルラーに拡張しながら、有限マルコフ鎖と連続力学との古典的結合と混合を統一することも示している。
したがって、我々のフレームワークは離散マルコフ連鎖理論、位相解析、現代の生成モデリングを橋渡しする。
関連論文リスト
- Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Convergence Analysis of Discrete Diffusion Model: Exact Implementation
through Uniformization [17.535229185525353]
連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。
我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
論文 参考訳(メタデータ) (2024-02-12T22:26:52Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Conditioning Normalizing Flows for Rare Event Sampling [61.005334495264194]
本稿では,ニューラルネットワーク生成構成に基づく遷移経路サンプリング手法を提案する。
本手法は遷移領域の熱力学と運動学の両方の解法を可能にすることを示す。
論文 参考訳(メタデータ) (2022-07-29T07:56:10Z) - Stochastic Normalizing Flows for Inverse Problems: a Markov Chains
Viewpoint [0.45119235878273]
マルコフ連鎖の観点からのフローの正規化を考える。
遷移密度を一般マルコフ核に置き換え、ラドン-ニコディム微分による証明を確立する。
提案した条件付き正規化フローの性能を数値例で示す。
論文 参考訳(メタデータ) (2021-09-23T13:44:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。