論文の概要: Emergence of Distortions in High-Dimensional Guided Diffusion Models

• arxiv url: http://arxiv.org/abs/2602.00716v1
• Date: Sat, 31 Jan 2026 13:19:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-03 19:28:33.354652
• Title: Emergence of Distortions in High-Dimensional Guided Diffusion Models
• Title（参考訳）: 高次元誘導拡散モデルにおける歪みの発生
• Authors: Enrico Ventura, Beatrice Achilli, Luca Ambrogioni, Carlo Lucibello,
• Abstract要約: CFG誘導サンプリングと真の条件分布のミスマッチとして定義される生成歪みの現象を定式化する。 標準CFGスケジュールはばらつきの縮小を防ぐことができないことを示す。 本稿では,クラス分離性を維持しながら多様性の喪失を緩和する負の誘導窓を特徴とする理論的動機付け型指導スケジュールを提案する。
• 参考スコア（独自算出の注目度）: 11.774563966512707
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Classifier-free guidance (CFG) is the de facto standard for conditional sampling in diffusion models, yet it often leads to a loss of diversity in generated samples. We formalize this phenomenon as generative distortion, defined as the mismatch between the CFG-induced sampling distribution and the true conditional distribution. Considering Gaussian mixtures and their exact scores, and leveraging tools from statistical physics, we characterize the onset of distortion in a high-dimensional regime as a function of the number of classes. Our analysis reveals that distortions emerge through a phase transition in the effective potential governing the guided dynamics. In particular, our dynamical mean-field analysis shows that distortion persists when the number of modes grows exponentially with dimension, but vanishes in the sub-exponential regime. Consistent with prior finite-dimensional results, we further demonstrate that vanilla CFG shifts the mean and shrinks the variance of the conditional distribution. We show that standard CFG schedules are fundamentally incapable of preventing variance shrinkage. Finally, we propose a theoretically motivated guidance schedule featuring a negative-guidance window, which mitigates loss of diversity while preserving class separability.
• Abstract（参考訳）: 分類器フリーガイダンス(CFG)は拡散モデルにおける条件付きサンプリングの事実上の標準であるが、しばしば生成されたサンプルの多様性が失われる。 我々は,この現象を生成歪みとして定式化し,CFG誘導サンプリング分布と真の条件分布とのミスマッチとして定義する。 ガウス混合とその正確なスコアを考慮し、統計物理学の道具を活用して、高次元状態における歪みの開始をクラス数の関数として特徴づける。 解析の結果, 誘導力学を効果的に制御する過程において, 歪みは相転移によって生じることが明らかとなった。 特に、我々の力学平均場解析は、モードの数が次元に応じて指数関数的に増加すると歪みは持続するが、サブ指数状態では消滅することを示している。 さらに,バニラCFGが平均をシフトし,条件分布の分散を小さくすることを示した。 標準CFGスケジュールは、ばらつきの縮小を防止できないことを示します。 最後に,クラス分離性を維持しつつ多様性の喪失を緩和する負の誘導窓を特徴とする理論的動機付け型指導スケジュールを提案する。

関連論文リスト

• Entropy-Based Dimension-Free Convergence and Loss-Adaptive Schedules for Diffusion Models [3.2091923314854416]
  学習スコア(またはデノイザー)によって駆動される逆時間ダイナミクスを離散化することで拡散生成モデルがサンプルを合成する 我々は、幾何学的仮定を避けるために、次元自由収束に対する情報理論的アプローチを開発する。 また、逆SDEの効率的な離散化のための損失適応スケジュール(LAS)を提案し、これは軽量であり、訓練損失のみに依存している。
  論文  参考訳（メタデータ） (2026-01-29T16:28:21Z)
• Entropy-Reservoir Bregman Projection: An Information-Geometric Unification of Model Collapse [3.533187668612022]
  本稿では,これらの現象を統一する情報幾何学的枠組みであるEntropyReser Bregman Projection- ERBPを提案する。 我々の理論は崩壊に必要な条件、(ii)非言語エントロピーフロアを保証する十分な条件、(iii)サンプルサイズに依存する閉形式率をもたらす。
  論文  参考訳（メタデータ） (2025-12-16T19:50:03Z)
• Stage-wise Dynamics of Classifier-Free Guidance in Diffusion Models [13.030934039187171]
  CFGは拡散モデルにおける条件の忠実度向上に広く用いられているが、サンプリング力学への影響はよく分かっていない。 CFGをマルチモーダル条件下で解析し,サンプリングプロセスが3段階に展開することを示す。 実験はこれらの予測を支持し、早期の強いガイダンスが世界的な多様性を損なう一方で、後期の強いガイダンスはきめ細かい変化を抑制することを示した。
  論文  参考訳（メタデータ） (2025-09-26T07:45:20Z)
• Contrastive CFG: Improving CFG in Diffusion Models by Contrasting Positive and Negative Concepts [55.298031232672734]
  As-Free Guidance (CFG) は条件拡散モデルサンプリングに有効であることが証明された。 対照的な損失を用いた負のCFG誘導を強化する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-11-26T03:29:27Z)
• Rectified Diffusion Guidance for Conditional Generation [94.83538269086613]
  CFGの背後にある理論を再検討し、不適切な組合せ係数(textiti.e.)が生成分布を期待的にシフトさせることを厳密に確認する。 提案手法は, 強みを考慮すれば, textbftextitform ソリューションが有効であることを示す。 実世界のデータに関する実証的な証拠は、我々の設計と既存の最先端拡散モデルとの整合性を実証している。
  論文  参考訳（メタデータ） (2024-10-24T13:41:32Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• Exploring the Optimal Choice for Generative Processes in Diffusion Models: Ordinary vs Stochastic Differential Equations [6.2284442126065525]
  ゼロ拡散(ODE)の場合と大きな拡散の場合の2つの制限シナリオについて数学的に検討する。 その結果, 生成過程の終端に摂動が発生すると, ODEモデルは大きな拡散係数でSDEモデルより優れることがわかった。
  論文  参考訳（メタデータ） (2023-06-03T09:27:15Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Covariate Shift in High-Dimensional Random Feature Regression [44.13449065077103]
  共変量シフトは、堅牢な機械学習モデルの開発において重要な障害である。 現代の機械学習の文脈における理論的理解を示す。
  論文  参考訳（メタデータ） (2021-11-16T05:23:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。