論文の概要: Metropolis-Adjusted Diffusion Models
- arxiv url: http://arxiv.org/abs/2605.09654v1
- Date: Sun, 10 May 2026 16:57:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.352276
- Title: Metropolis-Adjusted Diffusion Models
- Title(参考訳): 都市調整拡散モデル
- Authors: Kevin H. Lam, Tyler Farghly, Christopher Williams, Jun Yang, Yee Whye Teh, Arnaud Doucet,
- Abstract要約: スコアベース拡散モデルからのサンプリングは、時間離散化とスコア関数の近似によるバイアスを引き起こす。
拡散モデルにおけるLangevin補正の正確な補正法を, 2つの係数のBernoulliファクトリアルゴリズムに基づいて提案する。
- 参考スコア(独自算出の注目度): 39.6979566317926
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sampling from score-based diffusion models incurs bias due to both time discretisation and the approximation of the score function. A common strategy for reducing this bias is to apply corrector steps based on the unadjusted Langevin algorithm (ULA) at each noise level within a predictor-corrector framework. However, ULA is itself a biased sampler, as it discretises a continuous diffusion process. In this work, we consider adjusted Langevin correctors that employ Metropolis--Hastings (MH) or Barker's accept-reject steps to correct for this bias. Since the target density ratio typically required by MH-based algorithms is unavailable, we propose methods that instead utilise the score function to compute the correct acceptance probability. We introduce the first exact method for adjusting Langevin corrections in diffusion models, based on a two-coin Bernoulli factory algorithm. We also propose an efficient approximation based on Simpson's rule that achieves accuracy of order $5/2$ in the step size at near-zero marginal cost. We demonstrate that these procedures improve sample quality on both synthetic and image datasets, yielding consistent gains in Fréchet Inception Distance (FID) on the latter.
- Abstract(参考訳): スコアベース拡散モデルからのサンプリングは、時間離散化とスコア関数の近似の両方によるバイアスを引き起こす。
このバイアスを減らすための一般的な戦略は、予測器・相関器フレームワーク内の各ノイズレベルにおいて、未調整のランゲヴィンアルゴリズム(ULA)に基づいて修正器ステップを適用することである。
しかし、ULAは連続拡散過程を判断するため、それ自体は偏りのあるサンプルである。
本研究では,このバイアスを補正するために,メトロポリス・ハスティングス(MH)やバーカーのアセプション・リジェクトを利用する調整されたランゲヴィン補正器を検討する。
MHに基づくアルゴリズムで通常必要とされるターゲット密度比は利用できないため、スコア関数を利用して正しい受け入れ確率を計算する手法を提案する。
拡散モデルにおけるLangevin補正の正確な補正法を, 2つの係数のBernoulliファクトリアルゴリズムに基づいて提案する。
また,Simpsonの法則に基づく効率的な近似を提案し,ほぼゼロの限界コストでステップサイズ5/2$の精度を実現する。
これらの手法により, 合成データセットと画像データセットの両方のサンプル品質が向上し, Fréchet Inception Distance (FID) において一貫した利得が得られることを示した。
関連論文リスト
- Matching the Optimal Denoiser in Point Cloud Diffusion with (Improved) Rotational Alignment [5.8069334875117775]
拡散モデルのトレーニングは、ノイズレベルの異なるサンプルをノイズにする方法を学ぶことで構成される。
最適デノイザは行列フィッシャー分布を$SO(3)$で表現できることを示す。
我々はこの視点に基づいて、小さな雑音の限界において最適なデノイザにより良い近似器を導出する。
論文 参考訳(メタデータ) (2025-10-02T05:55:22Z) - Distributional Diffusion Models with Scoring Rules [83.38210785728994]
拡散モデルは高品質な合成データを生成する。
高品質な出力を生成するには、多くの離散化ステップが必要です。
クリーンデータサンプルの後部エム分布を学習し,サンプル生成を実現することを提案する。
論文 参考訳(メタデータ) (2025-02-04T16:59:03Z) - High-accuracy sampling from constrained spaces with the Metropolis-adjusted Preconditioned Langevin Algorithm [12.405427902037971]
本稿では,$mathbbRd$の適切な凸部分集合である対象分布から近似サンプリングを行う1次サンプリング法を提案する。
提案手法は,事前条件付きLangevinアルゴリズムの単一ステップで生成したマルコフ連鎖にメトロポリス・ハスティングスフィルタを適用した結果である。
論文 参考訳(メタデータ) (2024-12-24T23:21:23Z) - On the Wasserstein Convergence and Straightness of Rectified Flow [54.580605276017096]
Rectified Flow (RF) は、ノイズからデータへの直流軌跡の学習を目的とした生成モデルである。
RFのサンプリング分布とターゲット分布とのワッサーシュタイン距離に関する理論的解析を行った。
本稿では,従来の経験的知見と一致した1-RFの特異性と直線性を保証する一般的な条件について述べる。
論文 参考訳(メタデータ) (2024-10-19T02:36:11Z) - Accelerated Bayesian imaging by relaxed proximal-point Langevin sampling [4.848683707039751]
本稿では, 画像逆問題におけるベイズ推定を行うために, マルコフ近位連鎖モンテカルロ法を提案する。
モロー・ヨシダの滑らか化によって滑らかにあるいは正規化されるモデルに対しては、中間点は過度に損傷されたランゲヴィン拡散の暗黙の離散化と等価である。
kappa$-strongly log-concaveのターゲットに対しては、提供された非漸近収束解析も最適な時間ステップを特定する。
論文 参考訳(メタデータ) (2023-08-18T10:55:49Z) - On the Practicality of Differential Privacy in Federated Learning by
Tuning Iteration Times [51.61278695776151]
フェデレートラーニング(FL)は、分散クライアント間で機械学習モデルを協調的にトレーニングする際のプライバシ保護でよく知られている。
最近の研究では、naive flは勾配リーク攻撃の影響を受けやすいことが指摘されている。
ディファレンシャルプライバシ(dp)は、勾配漏洩攻撃を防御するための有望な対策として現れる。
論文 参考訳(メタデータ) (2021-01-11T19:43:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。