論文の概要: An Elementary Approach to Scheduling in Generative Diffusion Models

• arxiv url: http://arxiv.org/abs/2601.13602v1
• Date: Tue, 20 Jan 2026 05:06:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-21 22:47:23.161347
• Title: An Elementary Approach to Scheduling in Generative Diffusion Models
• Title（参考訳）: 生成拡散モデルにおけるスケジューリングに関する基礎的アプローチ
• Authors: Qiang Sun, H. Vincent Poor, Wenyi Zhang,
• Abstract要約: 生成拡散モデルにおけるノイズスケジューリングと時間離散化の影響を特徴付けるための基礎的手法を開発した。 異なるデータセットと事前訓練されたモデルにわたる実験により、我々のアプローチによって選択された時間離散化戦略が、ベースラインとサーチベースの戦略を一貫して上回ることを示した。
• 参考スコア（独自算出の注目度）: 55.171367482496755
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An elementary approach to characterizing the impact of noise scheduling and time discretization in generative diffusion models is developed. Considering a simplified model where the source distribution is multivariate Gaussian with a given covariance matrix, the explicit closed-form evolution trajectory of the distributions across reverse sampling steps is derived, and consequently, the Kullback-Leibler (KL) divergence between the source distribution and the reverse sampling output is obtained. The effect of the number of time discretization steps on the convergence of this KL divergence is studied via the Euler-Maclaurin expansion. An optimization problem is formulated, and its solution noise schedule is obtained via calculus of variations, shown to follow a tangent law whose coefficient is determined by the eigenvalues of the source covariance matrix. For an alternative scenario, more realistic in practice, where pretrained models have been obtained for some given noise schedules, the KL divergence also provides a measure to compare different time discretization strategies in reverse sampling. Experiments across different datasets and pretrained models demonstrate that the time discretization strategy selected by our approach consistently outperforms baseline and search-based strategies, particularly when the budget on the number of function evaluations is very tight.
• Abstract（参考訳）: 生成拡散モデルにおけるノイズスケジューリングと時間離散化の影響を特徴付けるための基礎的手法を開発した。 ソース分布が与えられた共分散行列と多変量ガウスである単純化モデルを考えると、逆サンプリングステップ間の分布の明示的な閉形式進化軌道が導出され、ソース分布と逆サンプリング出力とのクルバック・リーブラー(KL)ばらつきが得られる。 このKL分散の収束に対する時間離散化ステップの数の影響は、オイラー・マクローリン展開を通じて研究される。 最適化問題を定式化し、その解ノイズスケジュールは変分計算によって得られ、原共分散行列の固有値によって係数が決定される接法則に従うように示される。 より現実的なシナリオでは、特定のノイズスケジュールに対して事前訓練されたモデルが得られた場合、KL発散は、逆サンプリングにおいて異なる時間離散化戦略を比較する尺度も提供する。 異なるデータセットと事前学習モデルによる実験により、我々のアプローチによって選択された時間離散化戦略は、特に関数評価の予算が非常に厳しい場合に、ベースラインと検索ベースの戦略を一貫して上回っていることが示された。

関連論文リスト

• A Stein Gradient Descent Approach for Doubly Intractable Distributions [5.63014864822787]
  そこで本研究では,2重に抽出可能な分布を推定するために,モンテカルロ・スタイン変分勾配勾配(MC-SVGD)法を提案する。 提案手法は,後続分布に匹敵する推論性能を提供しながら,既存のアルゴリズムよりもかなりの計算ゲインを達成する。
  論文  参考訳（メタデータ） (2024-10-28T13:42:27Z)
• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
  ポテンシャル関数が支配する分布からサンプリングする問題を考察する。 本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
  論文  参考訳（メタデータ） (2023-08-28T23:51:33Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。