論文の概要: Is Monotonic Sampling Necessary in Diffusion Models?
- arxiv url: http://arxiv.org/abs/2605.11773v1
- Date: Tue, 12 May 2026 08:45:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.724947
- Title: Is Monotonic Sampling Necessary in Diffusion Models?
- Title(参考訳): 拡散モデルにおける単調サンプリングの必要性
- Abstract要約: 拡散モデルは、ガウス先行を反復的に denoising してサンプルを生成し、発行されたサンプルごとに単調に減少する一連のノイズレベルをトラバースする。
ここでは、単調サンプリングが負荷分散であるのか、それとも単に従来のものであるのかを問う。
我々は、構造化された非単調なスケジュールの4つのファミリーを設計し、DDPM、EDM、フローマッチングの3つのアーキテクチャ的に異なる生成モデルに適用する。
- 参考スコア(独自算出の注目度): 26.81598226089532
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models generate samples by iteratively denoising a Gaussian prior, traversing a sequence of noise levels that, in every published sampler, decreases monotonically. Six years of intensive work has refined nearly every aspect of this recipe, including the corruption operator, the training objective, the schedule shape, the architecture, and the ODE solver. Yet the assumption of monotonicity itself has never been systematically tested. Here we ask whether monotonic sampling is load-bearing or merely conventional. We design four families of structured nonmonotonic schedules and apply them to three architecturally distinct generative models, DDPM, EDM, and Flow Matching, across NFE budgets ranging from 10 to 200 function evaluations, plus a 42-cell hyperparameter ablation, on CIFAR-10. Across all 90 tested configurations, no tested nonmonotonic schedule improves on the monotonic baseline. The magnitude of the penalty, however, spans nearly three orders of magnitude: persistent and substantial in DDPM, intermediate in Flow Matching, and indistinguishable from zero in EDM. We show that this variation is not noise but a structural property of each trained denoiser, and we formalize it as the Schedule Sensitivity Coefficient, a cheap, architecture-agnostic diagnostic that provides evidence of non-convergence to the Bayes-optimal denoiser at the critical noise level. Our findings justify the field's tacit reliance on monotonic schedules and supply a new probe of diffusion model quality complementary to sample-quality metrics such as Frechet Inception Distance.
- Abstract(参考訳): 拡散モデルは、ガウス先行を反復的に denoising してサンプルを生成し、発行されたサンプルごとに単調に減少する一連のノイズレベルをトラバースする。
6年間の集中的な作業により、このレシピのほぼすべての側面が洗練され、その中には、汚職演算子、訓練目標、スケジュール形状、アーキテクチャ、ODEソルバが含まれる。
しかし、単調性の仮定自体が体系的にテストされることは一度もない。
ここでは、単調サンプリングが負荷分散であるのか、それとも単に従来のものであるのかを問う。
構造付き非単調なスケジュールの4つのファミリを設計し, DDPM, EDM, Flow Matchingの3つのアーキテクチャ別生成モデルに適用した。
90の試験された構成全体にわたって、テストされた非単調なスケジュールは単調なベースラインで改善されない。
しかし、ペナルティの規模は、DDPMの持続性と実質性、フローマッチングの中間、EDMのゼロと区別できない3つの桁にまたがる。
我々は,この変動は騒音ではなく,訓練された各デノイザの構造特性であり,臨界雑音レベルにおけるベイズ最適デノイザに非収束性を示す,安価でアーキテクチャに依存しない診断であるスケジュール感度係数として定式化する。
本研究は,単調なスケジュールに対するフィールドの暗黙的な依存を正当化し,Frechet Inception Distanceなどのサンプル品質指標を補完する拡散モデル品質の新しいプローブを提供する。
関連論文リスト
- From Atoms to Entropy: Optimal Noise Allocation for Diffusion Training in the Convex Regime [52.459513910242485]
拡散訓練における最適な雑音レベルアロケーションを研究するための一般統計フレームワークを開発する。
最適化されたトレーニングスケジュールは、有限個のノイズレベルに集中した原子最小値を持つことを示す。
次に,大規模実験におけるエントロピック・スケジュールの評価を行った。
論文 参考訳(メタデータ) (2026-07-10T20:59:06Z) - Few-step Cofolding with All-Atom Flow Maps [13.124878986088738]
Denoiser Cofolding All-Atom Flowmap (DeCAF)
我々は,SE(3)剛性アライメントを自然に支持するエンドポイント損失を伴うデノイザに基づくフローマップの定式化に基づいてDeCAFを構築した。
本稿では,報酬誘導探索によるサンプリングを改善するための,目的付き推論時間フレームワークを提案する。
論文 参考訳(メタデータ) (2026-06-07T00:06:15Z) - MIND: Decoupling Model-Induced Label Noise via Latent Manifold Disentanglement [3.626013617212667]
モデルによるラベルノイズは古典的ロバスト学習においてノイズを支配している。
このジレンマに対処する理論的な基盤となるフレームワークであるモデル誘導ノイズデカップリング(MIND)を提案する。
MINDは複雑なベンチマークで最先端の手法を著しく上回っている。
論文 参考訳(メタデータ) (2026-05-15T15:44:19Z) - Rethinking Refinement: Correcting Generative Bias without Noise Injection [7.28668585578288]
拡散モデルやフローベースモデルを含む生成モデルは、しばしばサンプルの品質を低下させる体系的なバイアスを示す。
ノイズインジェクションやマルチステップ再サンプリングを使わずに,効果的なバイアス補正がポストホック法として実現できることを示す。
論文 参考訳(メタデータ) (2026-01-29T02:34:08Z) - Combating Noisy Labels through Fostering Self- and Neighbor-Consistency [120.4394402099635]
ラベルノイズは様々な現実世界のシナリオで広まり、教師付きディープラーニングの課題を提起する。
我々は、Jo-SNC(textbfSelf- と textbfNeighbor-textbfConsistency に基づくサンプル選択とモデル正規化)というノイズロバスト手法を提案する。
我々は、クラスごとの選択閾値を調整するための自己適応型データ駆動しきい値設定方式を設計する。
論文 参考訳(メタデータ) (2026-01-19T07:55:29Z) - Mitigating the Noise Shift for Denoising Generative Models via Noise Awareness Guidance [54.88271057438763]
ノイズアウェアネスガイダンス (NAG) は、事前に定義された騒音スケジュールと整合性を保つために、サンプリング軌道を明示的に制御する補正手法である。
NAGは一貫してノイズシフトを緩和し、主流拡散モデルの生成品質を大幅に改善する。
論文 参考訳(メタデータ) (2025-10-14T13:31:34Z) - Non-stationary Diffusion For Probabilistic Time Series Forecasting [3.7687375904925484]
非定常拡散(NsDiff)と呼ばれる拡散に基づく確率的予測フレームワークを開発する。
NsDiffは、デノナイズド拡散に基づく条件生成モデルと、事前訓練された条件平均と分散推定器を組み合わせる。
9つの実世界および合成データセットで実施された実験は、既存のアプローチと比較して、NsDiffの優れた性能を示している。
論文 参考訳(メタデータ) (2025-05-07T09:29:39Z) - Boosting Diffusion Models with Moving Average Sampling in Frequency Domain [101.43824674873508]
拡散モデルは、現在のサンプルに頼って次のサンプルをノイズ化し、おそらく不安定化を引き起こす。
本稿では,反復的復調過程をモデル最適化として再解釈し,移動平均機構を利用して全ての先行サンプルをアンサンブルする。
周波数領域における平均サンプリング(MASF)の動作」という完全なアプローチを命名する。
論文 参考訳(メタデータ) (2024-03-26T16:57:55Z) - One More Step: A Versatile Plug-and-Play Module for Rectifying Diffusion
Schedule Flaws and Enhancing Low-Frequency Controls [77.42510898755037]
One More Step (OMS) は、推論中に単純だが効果的なステップを付加したコンパクトネットワークである。
OMSは画像の忠実度を高め、トレーニングと推論の二分法を調和させ、元のモデルパラメータを保存する。
トレーニングが完了すると、同じ潜在ドメインを持つ様々な事前訓練された拡散モデルが同じOMSモジュールを共有することができる。
論文 参考訳(メタデータ) (2023-11-27T12:02:42Z) - Common Diffusion Noise Schedules and Sample Steps are Flawed [7.802281665410233]
拡散ノイズスケジュールは、信号対雑音比がゼロになる最後の段階を強制しない。
拡散サンプリングの実装は、最後の段階から始まりません。
既存の実装において、欠陥のある設計が真の問題を引き起こすことを示す。
論文 参考訳(メタデータ) (2023-05-15T12:21:08Z) - DiffusionAD: Norm-guided One-step Denoising Diffusion for Anomaly Detection [80.20339155618612]
DiffusionADは、再構成サブネットワークとセグメンテーションサブネットワークからなる、新しい異常検出パイプラインである。
高速なワンステップデノゲーションパラダイムは、同等の再現品質を維持しながら、数百倍の加速を達成する。
異常の出現の多様性を考慮し、複数のノイズスケールの利点を統合するためのノルム誘導パラダイムを提案する。
論文 参考訳(メタデータ) (2023-03-15T16:14:06Z) - Conditioning Trick for Training Stable GANs [70.15099665710336]
本稿では,GANトレーニング中の不安定性問題に対応するため,ジェネレータネットワークに正規性から逸脱する条件付け手法を提案する。
我々は、生成元をシュア分解のスペクトル領域で計算された実サンプルの正規化関数から逸脱するように強制する。
論文 参考訳(メタデータ) (2020-10-12T16:50:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。