論文の概要: Dimension-Free Multimodal Sampling via Preconditioned Annealed Langevin Dynamics
- arxiv url: http://arxiv.org/abs/2602.01449v1
- Date: Sun, 01 Feb 2026 21:37:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-03 19:28:33.790722
- Title: Dimension-Free Multimodal Sampling via Preconditioned Annealed Langevin Dynamics
- Title(参考訳): プレコンディショニングによる無次元マルチモーダルサンプリング
- Authors: Lorenzo Baldassari, Josselin Garnier, Knut Solna, Maarten V. de Hoop,
- Abstract要約: Annealed Langevin dynamics (ALD) は古典的なランゲヴィンの代替として広く用いられている。
我々は,マルチモーダル目標に対する連続時間ALDの一様次元解析を提供することにより,このギャップを埋める手助けをする。
- 参考スコア(独自算出の注目度): 10.631439631816166
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Designing algorithms that can explore multimodal target distributions accurately across successive refinements of an underlying high-dimensional problem is a central challenge in sampling. Annealed Langevin dynamics (ALD) is a widely used alternative to classical Langevin since it often yields much faster mixing on multimodal targets, but there is still a gap between this empirical success and existing theory: when, and under which design choices, can ALD be guaranteed to remain stable as dimension increases? In this paper, we help bridge this gap by providing a uniform-in-dimension analysis of continuous-time ALD for multimodal targets that can be well-approximated by Gaussian mixture models. Along an explicit annealing path obtained by progressively removing Gaussian smoothing of the target, we identify sufficient spectral conditions - linking smoothing covariance and the covariances of the Gaussian components of the mixture - under which ALD achieves a prescribed accuracy within a single, dimension-uniform time horizon. We then establish dimension-robustness to imperfect initialization and score approximation: under a misspecified-mixture score model, we derive explicit conditions showing that preconditioning the ALD algorithm with a sufficiently decaying spectrum is necessary to prevent error terms from accumulating across coordinates and destroying dimension-uniform control. Finally, numerical experiments illustrate and validate the theory.
- Abstract(参考訳): 基礎となる高次元問題の連続的な洗練を経たマルチモーダルなターゲット分布を正確に探索できるアルゴリズムの設計は、サンプリングにおける中心的な課題である。
Annealed Langevin dynamics (ALD) は、古典的なランゲヴィンの代用として広く使われているが、これは、しばしばより高速な混合をもたらすためであるが、この経験的成功と既存の理論の間にはまだギャップがある。
本稿では,ガウス混合モデルによりよく近似できるマルチモーダルターゲットに対する連続時間ALDの一様次元解析を提供することにより,このギャップを埋める手助けをする。
ターゲットのガウス的滑らか化を段階的に除去して得られる明示的アニーリング経路に沿って, ALDが1次元一様時間地平線内で所定の精度で達成する混合のガウス的成分とガウス的成分の共分散をリンクする十分なスペクトル条件を同定する。
そこで我々は,不特定混合スコアモデルを用いて,ALDアルゴリズムを十分な減衰スペクトルでプレコンディショニングする必要があることを示す明示的な条件を導出することにより,座標間の誤差項の蓄積や次元一様制御の破壊を防止する。
最後に、数値実験は理論を実証し、検証する。
関連論文リスト
- Score-based Metropolis-Hastings for Fractional Langevin Algorithms [13.572557872292]
本稿では,MHにインスパイアされた完全スコアに基づく補正機構であるMetropolis-Adjusted Fractional Langevin Algorithm (MAFLA)を紹介する。
我々は,MAFLAが未調整のLangevinダイナミクスに対して,有限時間サンプリング精度を著しく向上させることを示した。
論文 参考訳(メタデータ) (2026-01-31T17:59:22Z) - A Computable Measure of Suboptimality for Entropy-Regularised Variational Objectives [17.212481754312048]
ベイズ以降のいくつかの手法は、エントロピー規則化された変分目的が最小化される確率分布をターゲットにしている。
この柔軟性の向上は、目標に対する明示的な非正規化密度へのアクセスを失うことにより、計算上の課題をもたらす。
我々は「漸進的不一致」と呼ばれる新たな準最適度尺度、特に明示的に計算できる「カーネル勾配不一致」を導入する。
論文 参考訳(メタデータ) (2025-09-12T16:38:41Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - An Improved Analysis of Langevin Algorithms with Prior Diffusion for
Non-Log-Concave Sampling [27.882407333690267]
本研究では, 先行拡散を用いた改良型ランゲヴィンアルゴリズムが, 強対数対数対象分布に対して独立に次元を収束させることができることを示す。
また、修正したランゲヴィンアルゴリズムは、異なるステップサイズスケジュールを持つKL発散の次元非依存収束も得ることを証明した。
論文 参考訳(メタデータ) (2024-03-10T11:50:34Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Mean-Square Analysis with An Application to Optimal Dimension Dependence
of Langevin Monte Carlo [60.785586069299356]
この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。
我々の理論解析は数値実験によってさらに検証される。
論文 参考訳(メタデータ) (2021-09-08T18:00:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。