論文の概要: Theory of Speciation Transitions in Diffusion Models with General Class Structure

• arxiv url: http://arxiv.org/abs/2602.04404v1
• Date: Wed, 04 Feb 2026 10:35:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-05 19:45:11.479191
• Title: Theory of Speciation Transitions in Diffusion Models with General Class Structure
• Title（参考訳）: 一般クラス構造を持つ拡散モデルにおける発散遷移の理論
• Authors: Beatrice Achilli, Marco Benedetti, Giulio Biroli, Marc Mézard,
• Abstract要約: 拡散モデルは拡散過程を反転させ、ノイズをターゲット分布から引き出された構造化サンプルに変換することによってデータを生成する。 最近の理論的研究により、この後方ダイナミクスは、偏光遷移として知られる鋭い定性的遷移を経ることができることが示されている。 拡散モデルにおける偏差の一般理論を開発し、適切に定義されたクラスを持つ任意の対象分布に適用する。
• 参考スコア（独自算出の注目度）: 5.939780039158003
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Diffusion Models generate data by reversing a stochastic diffusion process, progressively transforming noise into structured samples drawn from a target distribution. Recent theoretical work has shown that this backward dynamics can undergo sharp qualitative transitions, known as speciation transitions, during which trajectories become dynamically committed to data classes. Existing theoretical analyses, however, are limited to settings where classes are identifiable through first moments, such as mixtures of Gaussians with well-separated means. In this work, we develop a general theory of speciation in diffusion models that applies to arbitrary target distributions admitting well-defined classes. We formalize the notion of class structure through Bayes classification and characterize speciation times in terms of free-entropy difference between classes. This criterion recovers known results in previously studied Gaussian-mixture models, while extending to situations in which classes are not distinguishable by first moments and may instead differ through higher-order or collective features. Our framework also accommodates multiple classes and predicts the existence of successive speciation times associated with increasingly fine-grained class commitment. We illustrate the theory on two analytically tractable examples: mixtures of one-dimensional Ising models at different temperatures and mixtures of zero-mean Gaussians with distinct covariance structures. In the Ising case, we obtain explicit expressions for speciation times by mapping the problem onto a random-field Ising model and solving it via the replica method. Our results provide a unified and broadly applicable description of speciation transitions in diffusion-based generative models.
• Abstract（参考訳）: 拡散モデルは確率拡散過程を逆転させてデータを生成し、ノイズを段階的にターゲット分布から引き出された構造化サンプルに変換する。 最近の理論的研究により、この後方のダイナミクスは、スペクトル遷移と呼ばれる鋭い定性的遷移を行え、その間に軌道がデータクラスに動的にコミットされることが示されている。 しかし、既存の理論的分析は、ガウスの混合やよく分断された手段など、最初の瞬間を通じてクラスが特定できるような設定に限られている。 本研究では,クラスを適切に定義した任意の対象分布に適用可能な拡散モデルにおける偏差の一般理論を開発する。 我々はベイズ分類によるクラス構造の概念を定式化し、クラス間の自由エントロピー差の観点から種別時間の特徴付けを行う。 この基準は、以前に研究されたガウス混合モデルの既知の結果を回復する一方で、クラスが第一モーメントによって区別できず、より高い階数や集合的特徴によって異なる状況にまで拡張する。 フレームワークは複数のクラスに対応し、よりきめ細かなクラスコミットメントに関連する連続的な種別時間の存在を予測します。 この理論は、異なる温度での1次元イジングモデルの混合と、異なる共分散構造を持つゼロ平均ガウスの混合である。 イジングの場合、ランダムフィールドのイジングモデルに問題をマッピングし、複製法を用いて解決することで、偏差時間に対する明示的な表現を得る。 本結果は拡散型生成モデルにおける偏差遷移の統一的かつ広く適用可能な記述を提供する。

関連論文リスト

• Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction [54.95522167029998]
  この記事は、一般状態空間上の拡散に関する自己完結プライマーである。 我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。 一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
  論文  参考訳（メタデータ） (2025-12-04T18:55:36Z)
• Can Diffusion Models Disentangle? A Theoretical Perspective [37.21661224725838]
  本稿では,拡散モデルが非交叉表現を学習する方法を理解するための新しい理論的枠組みを提案する。 我々は、一般的な非絡み付き潜在変数モデルの識別可能性条件を確立し、トレーニング力学を解析し、非絡み付き潜在部分空間モデルのサンプル複雑性境界を導出する。
  論文  参考訳（メタデータ） (2025-03-31T20:46:18Z)
• A solvable generative model with a linear, one-step denoiser [0.0]
  本研究では,線形デノイザに基づく解析的抽出可能な単一ステップ拡散モデルを開発し,Kulback-Leibler分散の明示的な公式を示す。 大規模実用拡散モデルでは、拡散段数の増加が生産品質を高める理由を説明する。
  論文  参考訳（メタデータ） (2024-11-26T19:00:01Z)
• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• Convergence Analysis of Discrete Diffusion Model: Exact Implementation through Uniformization [17.535229185525353]
  連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。 我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-02-12T22:26:52Z)
• Renormalizing Diffusion Models [0.7252027234425334]
  拡散モデルを用いて、統計および量子場理論の逆再正規化群フローを学習する。 我々の研究は、多スケール拡散モデルの解釈を提供し、新しい性質を持つべき拡散モデルに対する物理的に着想を得た提案を与える。
  論文  参考訳（メタデータ） (2023-08-23T18:02:31Z)
• On the Strong Correlation Between Model Invariance and Generalization [54.812786542023325]
  一般化は、見えないデータを分類するモデルの能力をキャプチャする。 不変性はデータの変換におけるモデル予測の一貫性を測定する。 データセット中心の視点から、あるモデルの精度と不変性は異なるテストセット上で線形に相関している。
  論文  参考訳（メタデータ） (2022-07-14T17:08:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。