論文の概要: Markov Chain Monte Carlo with Diffusion Paths
- arxiv url: http://arxiv.org/abs/2607.11631v1
- Date: Mon, 13 Jul 2026 14:48:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 17:47:21.507469
- Title: Markov Chain Monte Carlo with Diffusion Paths
- Title(参考訳): 拡散経路を持つマルコフ連鎖モンテカルロ
- Abstract要約: マルチモーダル分布からのサンプリングは、局所マルコフ連鎖モンテカルロ法における長年の挑戦である。
本稿では,拡散経路に沿って補間すること,すなわちガウスに向かって対象を輸送するノイズ発生拡散過程の限界について提案する。
我々は,MAD-PathがMCMC法と非調整拡散サンプリング器と比較して,グローバル探索とモードウェイト推定を改善したことを示す。
- 参考スコア(独自算出の注目度): 16.16991829228785
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sampling from multimodal distributions is a longstanding challenge for classical local Markov chain Monte Carlo (MCMC) methods. A popular remedy is to introduce a sequence of intermediate distributions that interpolate between the target and a simpler reference. The classical choice, tempering, raises the density to a power, but distorts the relative weights of asymmetric modes and can lead to poor mixing. We instead propose interpolating along the diffusion path, the marginals of a noising diffusion process that carries the target toward a Gaussian. This path preserves the relative weights of the modes and enjoys favorable mixing properties, which we make precise through a spectral-gap analysis of the corresponding ideal transition kernel. Sampling along the path requires its intermediate scores, which can be estimated from the unnormalized target through variational approaches, yielding only an approximate sampler. To remove the resulting bias, we introduce the Metropolis-adjusted diffusion path (MAD-Path) sampler, which corrects the diffusion-path proposal in an augmented path space and leaves the target invariant regardless of the accuracy of the learned score or the discretization error. We further quantify how these two errors affect the acceptance probability, providing guidance for practical tuning. Experiments on a range of Bayesian posteriors show that MAD-Path improves global exploration and mode-weight estimation relative to tempering-based MCMC methods and unadjusted diffusion samplers.
- Abstract(参考訳): マルチモーダル分布からのサンプリングは、古典的局所マルコフ連鎖モンテカルロ法(MCMC)の長年の挑戦である。
一般的な治療法は、ターゲットと単純な参照を補間する中間分布列を導入することである。
古典的な選択は、テンパリングは密度をパワーに高めるが、非対称モードの相対的な重みを歪め、混合が弱くなる。
代わりに、ターゲットをガウスへ運ぶノイズ発生拡散過程の限界である拡散経路に沿って補間することを提案する。
この経路はモードの相対重みを保ち、適切な混合特性を享受し、対応する理想遷移核のスペクトルギャップ解析により精度を向上する。
経路に沿ってサンプリングするには中間スコアが必要で、これは変分アプローチによって非正規化対象から推定できる。
得られたバイアスを除去するために,拡張パス空間における拡散パス提案を補正し,学習したスコアの精度や離散化誤差に関わらず,対象を不変にしておくメトロポリス調整拡散パス(MAD-Path)サンプリング装置を導入する。
さらに,これらの2つの誤りが受容確率にどのように影響するかを定量化し,実践的なチューニングのガイダンスを提供する。
ベイズの後部実験により,MAD-Pathは温暖化によるMCMC法や非調整拡散サンプリング器と比較して,大域的な探索とモードウェイト推定を改善することが示された。
関連論文リスト
- Exact Global MCMC with Denoising Diffusion [3.763882712747131]
我々は、局所収束MALAサンプル上で拡散モデルを訓練し、グローバルMCMCの提案を学習する。
Denoising Diffusion Monte Carlo (DDMC) は、様々な複雑なターゲット密度に対して高い受理性を持つグローバルな提案を提供できることを示す実験である。
論文 参考訳(メタデータ) (2026-08-31T19:24:36Z) - A Unified View of Drifting and Score-Based Models [92.51878018325031]
ドリフトがカーネル平滑分布にスコアベースの定式化を許すことを示すことにより,拡散モデルの背後にあるスコアマッチング原理との関係を正確にする。
一般的なラプラス核に対して正確な分解を導出し、ラプラス核に対してドリフトが低温および高次元状態におけるスコアマッチングの正確なプロキシであることを示す厳密な誤差境界を証明した。
論文 参考訳(メタデータ) (2026-03-08T07:41:36Z) - Diffusion Alignment Beyond KL: Variance Minimisation as Effective Policy Optimiser [35.260598916253635]
可変最小化政策最適化(VMPO)について紹介する。
VMPOは、ログの重みの分散を最小限に抑えるために拡散アライメントを定式化する。
ポテンシャル関数と分散最小化戦略の異なる選択の下で、VMPOは様々な既存メソッドを復元する。
論文 参考訳(メタデータ) (2026-02-12T18:06:03Z) - Diffusion Path Samplers via Sequential Monte Carlo [0.31690235522182103]
正規化定数まで既知のターゲット分布に対する拡散型サンプリング器を開発した。
我々のアプローチは拡散アニール型ランゲバンモンテカルロの実践的実装に基づいている。
提案手法の有効性を理論的に検証し,いくつかの合成および実世界のデータセット上で実証する。
論文 参考訳(メタデータ) (2026-01-29T16:32:12Z) - Feynman-Kac Correctors in Diffusion: Annealing, Guidance, and Product of Experts [64.34482582690927]
事前学習したスコアベースモデルから得られた熱処理, 幾何平均, 製品分布の配列から, 効率的かつ原理的に抽出する方法を提供する。
本稿では,サンプリング品質を向上させるために,推論時間スケーリングを利用する逐次モンテカルロ(SMC)再サンプリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-03-04T17:46:51Z) - Amortized Posterior Sampling with Diffusion Prior Distillation [55.03585818289934]
Amortized Posterior Smplingは、逆問題における効率的な後方サンプリングのための新しい変分推論手法である。
本手法は,拡散モデルにより暗黙的に定義された変動分布と後続分布とのばらつきを最小限に抑えるために条件付き流れモデルを訓練する。
既存の手法とは異なり、我々のアプローチは教師なしであり、ペア化されたトレーニングデータを必要としておらず、ユークリッドと非ユークリッドの両方のドメインに適用できる。
論文 参考訳(メタデータ) (2024-07-25T09:53:12Z) - Sequential Monte Carlo for Inclusive KL Minimization in Amortized Variational Inference [3.126959812401426]
SMC-Wakeは,モンテカルロの連続検層を用いて包摂的KL偏差の勾配を推定する補正式である。
シミュレーションと実データの両方を用いた実験では、SMC-Wakeは既存の手法よりも後方を正確に近似する変動分布に適合する。
論文 参考訳(メタデータ) (2024-03-15T18:13:48Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Differentiating Metropolis-Hastings to Optimize Intractable Densities [51.16801956665228]
我々はメトロポリス・ハスティングス検層の自動識別アルゴリズムを開発した。
難解な対象密度に対する期待値として表現された目的に対して勾配に基づく最適化を適用する。
論文 参考訳(メタデータ) (2023-06-13T17:56:02Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Sampling from high-dimensional, multimodal distributions using automatically tuned, tempered Hamiltonian Monte Carlo [0.0]
ハミルトニアン・モンテカルロ (HMC) は、比例性で知られている密度を持つ高次元ターゲット分布のサンプリングに広く用いられている。
本研究では,高次元の強いマルチモーダル分布からの効率的なサンプリングを可能にするため,高温超伝導体とテンパリングを組み合わせた手法を提案する。
論文 参考訳(メタデータ) (2021-11-12T18:48:36Z) - Variational Refinement for Importance Sampling Using the Forward
Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。
重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。
近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文 参考訳(メタデータ) (2021-06-30T11:00:24Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。