論文の概要: Sublinear iterations can suffice even for DDPMs

• arxiv url: http://arxiv.org/abs/2511.04844v1
• Date: Thu, 06 Nov 2025 22:15:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-10 21:00:44.60352
• Title: Sublinear iterations can suffice even for DDPMs
• Title（参考訳）: DDPMでもサブ線形反復は十分である
• Authors: Matthew S. Zhang, Stephen Huan, Jerry Huang, Nicholas M. Boffi, Sitan Chen, Sinho Chewi,
• Abstract要約: 本研究では,「シフト合成規則」アルゴリズムが適切な仮定の下で良好な離散化特性を持つことを示す。 これは純粋なDDPMサンプリングに束縛された最初のサブ線形複雑性である。 また,本手法の利点を実験的に検証し,事前学習した画像合成モデルを用いて実運用で有効であることを示す。
• 参考スコア（独自算出の注目度）: 20.394390032998036
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: SDE-based methods such as denoising diffusion probabilistic models (DDPMs) have shown remarkable success in real-world sample generation tasks. Prior analyses of DDPMs have been focused on the exponential Euler discretization, showing guarantees that generally depend at least linearly on the dimension or initial Fisher information. Inspired by works in log-concave sampling (Shen and Lee, 2019), we analyze an integrator -- the denoising diffusion randomized midpoint method (DDRaM) -- that leverages an additional randomized midpoint to better approximate the SDE. Using a recently-developed analytic framework called the "shifted composition rule", we show that this algorithm enjoys favorable discretization properties under appropriate smoothness assumptions, with sublinear $\widetilde{O}(\sqrt{d})$ score evaluations needed to ensure convergence. This is the first sublinear complexity bound for pure DDPM sampling -- prior works which obtained such bounds worked instead with ODE-based sampling and had to make modifications to the sampler which deviate from how they are used in practice. We also provide experimental validation of the advantages of our method, showing that it performs well in practice with pre-trained image synthesis models.
• Abstract（参考訳）: 拡散確率モデル(DDPM)のようなSDEに基づく手法は,実世界のサンプル生成タスクにおいて顕著な成功を収めている。 DDPMの以前の分析は指数的オイラーの離散化に焦点を合わせており、一般に寸法や初期フィッシャー情報に依存する保証を示す。 ログコンケーブサンプリングの研究(Shen and Lee, 2019)に触発された我々は、SDEをよりよく近似するために追加のランダム化中間点を利用するインテグレータ、DDRaM(denoising diffusion randomized midpoint method)を分析した。 最近開発された「シフト合成規則」と呼ばれる分析フレームワークを用いて、このアルゴリズムは、収束を保証するために必要なスコア評価をサブ線形$\widetilde{O}(\sqrt{d})$で、適切な滑らかさ仮定の下で良好な離散化特性を享受することを示した。 これは純粋なDDPMサンプリングに束縛された最初のサブ線形複雑性である -- このような境界を得た以前の作業は、ODEベースのサンプリングに代えて動作し、実際に使用される方法から逸脱したサンプルラに修正を加える必要があった。 また,本手法の利点を実験的に検証し,事前学習した画像合成モデルを用いて実運用で有効であることを示す。

関連論文リスト

• Beyond Scores: Proximal Diffusion Models [10.27283386401996]
  対数密度の近似演算子を学習するために, 近似拡散モデル (ProxDM) を開発した。 ProxDMの2つの変種は,従来のスコアマッチング法と比較して,わずか数ステップで大幅に高速化された。
  論文  参考訳（メタデータ） (2025-07-11T18:30:09Z)
• Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
  我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。 従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。 本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
  論文  参考訳（メタデータ） (2025-07-11T08:00:47Z)
• Feynman-Kac Correctors in Diffusion: Annealing, Guidance, and Product of Experts [64.34482582690927]
  事前学習したスコアベースモデルから得られた熱処理, 幾何平均, 製品分布の配列から, 効率的かつ原理的に抽出する方法を提供する。 本稿では,サンプリング品質を向上させるために,推論時間スケーリングを利用する逐次モンテカルロ(SMC)再サンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-03-04T17:46:51Z)
• Dimension-free Score Matching and Time Bootstrapping for Diffusion Models [19.62665684173391]
  拡散モデルは、様々な雑音レベルにおける対象分布のスコア関数を推定してサンプルを生成する。 本稿では,マーチンゲールに基づく誤り分解とシャープな分散境界を導入し,従属データから効率的な学習を可能にする。 これらの知見に基づいて,より高い雑音レベルにおいて精度を向上させるために,事前学習したスコアを活用する分散低減手法であるBootstrapped Score Matching (BSM)を提案する。
  論文  参考訳（メタデータ） (2025-02-14T18:32:22Z)
• Parallel Simulation for Log-concave Sampling and Score-based Diffusion Models [55.07411490538404]
  本稿では,次元$d$の適応的複雑性依存性を改善する並列サンプリング手法を提案する。 我々の手法は科学計算による並列シミュレーション技術に基づいている。
  論文  参考訳（メタデータ） (2024-12-10T11:50:46Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Plug-and-Play split Gibbs sampler: embedding deep generative priors in Bayesian inference [12.91637880428221]
  本稿では, 後方分布から効率的にサンプリングするために, 可変分割を利用したプラグアンドプレイサンプリングアルゴリズムを提案する。 後方サンプリングの課題を2つの単純なサンプリング問題に分割する。 その性能は最近の最先端の最適化とサンプリング手法と比較される。
  論文  参考訳（メタデータ） (2023-04-21T17:17:51Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)
• Convergence for score-based generative modeling with polynomial complexity [9.953088581242845]
  我々は、Scoreベースの生成モデルの背後にあるコアメカニックに対する最初の収束保証を証明した。 以前の作品と比較すると、時間的に指数関数的に増加するエラーや、次元の呪いに苦しむエラーは発生しない。 予測器・相関器はどちらの部分のみを使用するよりも収束性が高いことを示す。
  論文  参考訳（メタデータ） (2022-06-13T14:57:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。