論文の概要: Catastrophic Compositional Generation: Why Vanilla Diffusion Models Fail to Extrapolate

• arxiv url: http://arxiv.org/abs/2606.23920v1
• Date: Mon, 22 Jun 2026 20:34:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.684846
• Title: Catastrophic Compositional Generation: Why Vanilla Diffusion Models Fail to Extrapolate
• Title（参考訳）: カタストロフィックな組成生成:なぜバニラ拡散モデルが外挿に失敗するのか
• Authors: Duncan Soiffer, Chandler Squires, Yuan Guan, Jason Hartford, Pradeep Ravikumar,
• Abstract要約: 提案手法は,特定の動機付けされた環境下で,ターゲット分布から効率的にサンプルを生成できない。 その結果, 目標分布が分布外である場合, スコア推定誤差は性能に破滅的な影響を及ぼすことがわかった。
• 参考スコア（独自算出の注目度）: 16.740457845513358
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The task of compositional generation involves using a conditional generative model, trained only on a subset of the possible conditions, to produce samples from compositionally-defined target distributions such as a geometric combination of the source distributions. In this work, we argue that this task is often infeasible for vanilla conditional diffusion models: we conjecture that no inference-time technique can efficiently produce samples from the target distribution in certain well-motivated settings. This idea is supported by theory-guided generalization arguments and carefully-designed experiments on both synthetic and realistic data. In particular, while recent methods such as Feynman-Kac correction reduce inference-time approximation error, our results show that score estimation error has a more catastrophic effect on performance when the target distribution is out-of-distribution with respect to the sources, highlighting the need for a different approach to this task.
• Abstract（参考訳）: 構成生成の課題は、可能な条件のサブセットのみに基づいて訓練された条件生成モデルを使用して、ソース分布の幾何学的組み合わせのような構成的に定義されたターゲット分布からサンプルを生成することである。 本研究では,この課題がバニラ条件拡散モデルにとってしばしば有効ではないことを論じる。 このアイデアは理論誘導の一般化論と、合成データと現実データの両方について慎重に設計された実験によって支持されている。 特に,Feynman-Kac 補正などの最近の手法では推定時間近似誤差が低減されているが,本研究の結果から,目標分布が分布外である場合,スコア推定誤差が性能に破滅的な影響を及ぼし,この課題に対する別のアプローチの必要性が浮き彫りにされている。

関連論文リスト

• From Scores to Gibbs Correctors: Accelerating Uniform-Rate Discrete Diffusion Models [58.02657021435213]
  我々は、Gibs-Accelerated Discrete Diffusion (GADD)と呼ばれる離散拡散モデルのための新しいGibsベースの修正器を提案する。 我々はGADDが$mathcalO(mathrmpolylog (varepsilon-1)$の総合的なサンプリング複雑性を達成し、均一レートの離散拡散モデルに対する拡散に基づくサンプリング者にとって最初のレートとなることを示す。
  論文  参考訳（メタデータ） (2026-05-26T17:52:28Z)
• Error Propagation and Model Collapse in Diffusion Models: A Theoretical Study [27.894241484593735]
  合成データに対する再帰的なトレーニングは、広範囲なタスクにおいて、性能を著しく低下させる。 我々は,この現象をスコアベース拡散モデルの設定において理論的に解析する。
  論文  参考訳（メタデータ） (2026-02-18T16:56:36Z)
• Adaptive Symmetrization of the KL Divergence [10.632997610787207]
  機械学習における多くのタスクは、有限個のサンプル集合が与えられた確率分布を学習するために記述または縮小することができる。 一般的なアプローチは、(経験的)データ分布とパラメータ化された分布(例えば、正規化フロー(NF)やエネルギーベースモデル(EBM)との統計的分岐を最小化することである。
  論文  参考訳（メタデータ） (2025-11-14T10:41:59Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
  条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。 経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。 本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
  論文  参考訳（メタデータ） (2024-03-18T17:08:24Z)
• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• Flow Away your Differences: Conditional Normalizing Flows as an Improvement to Reweighting [0.0]
  本稿では, 条件分布の所望の変化を考慮に入れた再重み付け手法の代替手法を提案する。 条件付き正規化フローを用いて、完全条件付き確率分布を学習する。 この例では、ソースとターゲットの分布を同一のサンプルサイズで再重み付けする手法よりも、統計精度が最大3倍に向上する。
  論文  参考訳（メタデータ） (2023-04-28T16:33:50Z)
• Bi-Noising Diffusion: Towards Conditional Diffusion Models with Generative Restoration Priors [64.24948495708337]
  本研究では,事前訓練した非条件拡散モデルを用いて,予測サンプルをトレーニングデータ多様体に導入する手法を提案する。 我々は,超解像,着色,乱流除去,画像劣化作業におけるアプローチの有効性を実証するための総合的な実験を行った。
  論文  参考訳（メタデータ） (2022-12-14T17:26:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。