論文の概要: Transport map unadjusted Langevin algorithms: learning and discretizing perturbed samplers
- arxiv url: http://arxiv.org/abs/2302.07227v4
- Date: Wed, 23 Oct 2024 03:18:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-24 13:52:28.000253
- Title: Transport map unadjusted Langevin algorithms: learning and discretizing perturbed samplers
- Title(参考訳): トランスポートマップ非調整ランゲヴィンアルゴリズム--摂動型サンプリング器の学習と離散化
- Authors: Benjamin J. Zhang, Youssef M. Marzouk, Konstantinos Spiliopoulos,
- Abstract要約: 本研究では, 対象分布の正規化を前提条件とし, ランゲヴィン力学の収束を加速する輸送写像の利用について検討する。
また, トランスポートマップを非可逆摂動型 ULA に適用すると, 元の力学の幾何的不変摂動 (GiIrr) が得られることを示す。
- 参考スコア(独自算出の注目度): 1.993607565985189
- License:
- Abstract: Langevin dynamics are widely used in sampling high-dimensional, non-Gaussian distributions whose densities are known up to a normalizing constant. In particular, there is strong interest in unadjusted Langevin algorithms (ULA), which directly discretize Langevin dynamics to estimate expectations over the target distribution. We study the use of transport maps that approximately normalize a target distribution as a way to precondition and accelerate the convergence of Langevin dynamics. We show that in continuous time, when a transport map is applied to Langevin dynamics, the result is a Riemannian manifold Langevin dynamics (RMLD) with metric defined by the transport map. We also show that applying a transport map to an irreversibly-perturbed ULA results in a geometry-informed irreversible perturbation (GiIrr) of the original dynamics. These connections suggest more systematic ways of learning metrics and perturbations, and also yield alternative discretizations of the RMLD described by the map, which we study. Under appropriate conditions, these discretized processes can be endowed with non-asymptotic bounds describing convergence to the target distribution in 2-Wasserstein distance. Illustrative numerical results complement our theoretical claims.
- Abstract(参考訳): ランゲヴィン力学は、密度が正規化定数まで知られている高次元非ガウス分布のサンプリングに広く用いられている。
特に、未調整ランゲヴィンアルゴリズム(ULA)には強い関心があり、このアルゴリズムはランゲヴィン力学を直接離散化し、目標分布に対する期待を推定する。
本研究では,ランゲヴィン力学の収束を早める手段として,対象分布を大まかに正規化する輸送写像の利用について検討する。
連続時間において、輸送写像がランゲヴィン力学に適用されたとき、結果は輸送写像によって定義される計量を持つリーマン多様体ランゲヴィン力学(RMLD)であることを示す。
また, トランスポートマップを非可逆摂動型 ULA に適用すると, 元の力学の幾何的不変摂動 (GiIrr) が得られることを示す。
これらの関係は、より体系的なメトリクスと摂動の学習方法を示し、また、我々が研究した地図で記述されたRMLDの別の離散化をもたらすことを示唆している。
適切な条件下では、これらの離散化された過程には、2-ワッサーシュタイン距離における目標分布への収束を記述する非漸近境界が与えられる。
図解的な数値結果は我々の理論的な主張を補完する。
関連論文リスト
- Probing hydrodynamic crossovers with dissipation-assisted operator evolution [0.0]
様々なU(1)電荷密度に対する一般相互作用格子モデルにおける拡散の出現をグラフ化する。
本研究は, 保存密度の流体力学的相関関数に対する支配的寄与を明らかにし, 低温輸送への一般化のガイドとなる。
論文 参考訳(メタデータ) (2024-08-15T16:39:10Z) - An Improved Analysis of Langevin Algorithms with Prior Diffusion for
Non-Log-Concave Sampling [27.882407333690267]
本研究では, 先行拡散を用いた改良型ランゲヴィンアルゴリズムが, 強対数対数対象分布に対して独立に次元を収束させることができることを示す。
また、修正したランゲヴィンアルゴリズムは、異なるステップサイズスケジュールを持つKL発散の次元非依存収束も得ることを証明した。
論文 参考訳(メタデータ) (2024-03-10T11:50:34Z) - Fisher information dissipation for time inhomogeneous stochastic
differential equations [7.076726009680242]
時間不均一な変数微分方程式に対するリアプノフ収束解析を提供する。
3つの典型的な例は、過度に破壊された、不可逆的なドリフト、および過度に破壊されたランゲヴィン力学である。
論文 参考訳(メタデータ) (2024-02-01T21:49:50Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Proximal Algorithms for Accelerated Langevin Dynamics [57.08271964961975]
我々は,確率化Nesterovスキームに基づくMCMCアルゴリズムの新たなクラスを開発する。
統計処理と画像処理の異なるモデルに対して,Langevinサンプルよりも提案手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-11-24T19:56:01Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳(メタデータ) (2022-06-29T22:19:03Z) - Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。
ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文 参考訳(メタデータ) (2022-01-25T17:13:56Z) - Wasserstein Control of Mirror Langevin Monte Carlo [2.7145834528620236]
離散化ランゲヴィン拡散は高次元ターゲット密度からサンプリングする効率的なモンテカルロ法である。
ヘッセン型多様体上のランゲヴィン拡散を考察し、ミラー・ドネサンススキームと密接な関係を持つ離散化を研究する。
論文 参考訳(メタデータ) (2020-02-11T13:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。