論文の概要: Covariance-aware sampling for Diffusion Models
- arxiv url: http://arxiv.org/abs/2605.13910v1
- Date: Wed, 13 May 2026 07:46:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:34.412392
- Title: Covariance-aware sampling for Diffusion Models
- Title(参考訳): 拡散モデルのための共分散対応サンプリング
- Authors: Andrea Schioppa, Tim Salimans,
- Abstract要約: 画素空間拡散モデル(DM)サンプリングの品質を数ステップで向上する,協調型サンプリング器を提案する。
本手法は, 画素ベースのDMに対して, 最先端の2次サンプリング器と比較して, 常に優れたサンプルを生成できることを実証する。
- 参考スコア(独自算出の注目度): 18.719332889440675
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a covariance-aware sampler that improves the quality of pixel-space Diffusion Model (DM) sampling in the few-step regime. We hypothesize that in the few-step regime samplers fail because they rely solely on the predicted mean of the reverse distribution, while our solution explicitly models the reverse-process covariance. Our method combines Tweedie's formula to estimate the covariance with an efficient, structured Fourier-space decomposition of the covariance matrix. Implemented as an extension of DDIM, our method requires only a minimal overhead: one extra Jacobian-Vector Product (JVP) per step. We demonstrate that for pixel-based DMs, our method consistently produces superior samples compared to state-of-the-art second order samplers (Heun, DPM-Solver++) and the recent aDDIM sampler, at an identical number of function evaluations (NFE).
- Abstract(参考訳): 画素空間拡散モデル(DM)サンプリングの品質を数ステップで向上する共分散対応サンプリング器を提案する。
逆分布の予測平均にのみ依存するため、数段階の規則サンプリングでは失敗するが、我々の解は逆過程の共分散を明示的にモデル化する。
この手法はツイーディの公式と、共分散行列の効率的で構造化されたフーリエ空間分解とを結合して、共分散を推定する。
DDIMの拡張として実装された当社の方法は,最小限のオーバーヘッド – ステップ毎に1つのJacobian-Vector Product (JVP) を追加するだけでよい。
我々は,画素ベースのDMに対して,最新2次検定器(Heun, DPM-Solver++)と最近のADIM検定器(NFE)とを同一数の関数評価(NFE)で連続的に生成することを示した。
関連論文リスト
- Corrected Samplers for Discrete Flow Models [36.348940136801296]
近年の研究では、タウ・リーピングやオイラー・ソルバのような離散拡散モデルのサンプルについて研究されている。
遷移率やソース分布に制限を加えることなく,非漸近的離散化誤差境界を確立する。
位置補正されたサンプリング器は,既存の並列サンプリング器よりも複雑さが低いことを厳密に示す。
論文 参考訳(メタデータ) (2026-01-30T03:53:22Z) - Feynman-Kac Correctors in Diffusion: Annealing, Guidance, and Product of Experts [64.34482582690927]
事前学習したスコアベースモデルから得られた熱処理, 幾何平均, 製品分布の配列から, 効率的かつ原理的に抽出する方法を提供する。
本稿では,サンプリング品質を向上させるために,推論時間スケーリングを利用する逐次モンテカルロ(SMC)再サンプリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-03-04T17:46:51Z) - Neural Flow Samplers with Shortcut Models [19.81513273510523]
連続フローベースのニューラルサンプリングは、非正規化された密度からサンプルを生成するための有望なアプローチを提供する。
速度駆動型Sequential Monte Carlo法を用いて,これらの課題量に対する改良された推定器を提案する。
提案するニューラルフローショートカットサンプリングは,合成データセットと複雑なnボディシステムターゲットの両方において,既存のフローベースニューラルサンプリングよりも経験的に優れている。
論文 参考訳(メタデータ) (2025-02-11T07:55:41Z) - Enhancing Diffusion Models for Inverse Problems with Covariance-Aware Posterior Sampling [3.866047645663101]
例えば、コンピュータビジョンでは、インペイント、デブロアリング、超解像といったタスクは、逆問題として効果的にモデル化できる。
DDPMは、追加のタスク固有のトレーニングを必要とせずに、線形逆問題に対する有望な解決策を提供する。
論文 参考訳(メタデータ) (2024-12-28T06:17:44Z) - Self-Refining Diffusion Samplers: Enabling Parallelization via Parareal Iterations [53.180374639531145]
自己精製拡散サンプリング(SRDS)は、サンプル品質を維持し、追加の並列計算コストでレイテンシを向上させることができる。
微分方程式の並列時間積分法であるPararealアルゴリズムから着想を得た。
論文 参考訳(メタデータ) (2024-12-11T11:08:09Z) - Semi-Implicit Denoising Diffusion Models (SIDDMs) [50.30163684539586]
Denoising Diffusion Probabilistic Models (DDPM)のような既存のモデルは、高品質で多様なサンプルを提供するが、本質的に多くの反復的なステップによって遅くなる。
暗黙的要因と明示的要因を一致させることにより、この問題に対処する新しいアプローチを導入する。
提案手法は拡散モデルに匹敵する生成性能と,少数のサンプリングステップを持つモデルに比較して非常に優れた結果が得られることを示す。
論文 参考訳(メタデータ) (2023-06-21T18:49:22Z) - Stochastic Approximation Approaches to Group Distributionally Robust Optimization and Beyond [89.72693227960274]
本稿では,グループ分散ロバスト最適化 (GDRO) を,$m$以上の異なる分布をうまく処理するモデルを学習する目的で検討する。
各ラウンドのサンプル数を$m$から1に抑えるため、GDROを2人でプレイするゲームとして、一方のプレイヤーが実行し、他方のプレイヤーが非公開のマルチアームバンディットのオンラインアルゴリズムを実行する。
第2のシナリオでは、最大リスクではなく、平均的最上位k$リスクを最適化し、分散の影響を軽減することを提案する。
論文 参考訳(メタデータ) (2023-02-18T09:24:15Z) - Pseudo Numerical Methods for Diffusion Models on Manifolds [77.40343577960712]
Denoising Diffusion Probabilistic Models (DDPM) は、画像やオーディオサンプルなどの高品質なサンプルを生成することができる。
DDPMは最終的なサンプルを生成するために数百から数千のイテレーションを必要とする。
拡散モデル(PNDM)の擬似数値法を提案する。
PNDMは、1000段DDIM(20倍の高速化)と比較して、50段の精度で高品質な合成画像を生成することができる
論文 参考訳(メタデータ) (2022-02-20T10:37:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。