論文の概要: Accelerating Langevin Monte Carlo Sampling: A Large Deviations Analysis
- arxiv url: http://arxiv.org/abs/2503.19066v1
- Date: Mon, 24 Mar 2025 18:52:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-26 16:54:42.604795
- Title: Accelerating Langevin Monte Carlo Sampling: A Large Deviations Analysis
- Title(参考訳): Langevin Monte Carloのサンプリングを高速化する - 大規模な偏差解析
- Authors: Nian Yao, Pervez Ali, Xihua Tao, Lingjiong Zhu,
- Abstract要約: 最も古典的なランゲヴィンモンテカルロアルゴリズムは、過度に破壊されたランゲヴィン力学に基づいている。
ランゲヴィン力学には多くの変種があり、実際は優れた性能を示すことが多い。
- 参考スコア(独自算出の注目度): 5.319445868401784
- License:
- Abstract: Langevin algorithms are popular Markov chain Monte Carlo methods that are often used to solve high-dimensional large-scale sampling problems in machine learning. The most classical Langevin Monte Carlo algorithm is based on the overdamped Langevin dynamics. There are many variants of Langevin dynamics that often show superior performance in practice. In this paper, we provide a unified approach to study the acceleration of the variants of the overdamped Langevin dynamics through the lens of large deviations theory. Numerical experiments using both synthetic and real data are provided to illustrate the efficiency of these variants.
- Abstract(参考訳): ランゲヴィンアルゴリズムはマルコフ連鎖モンテカルロ法としてよく知られており、機械学習における大規模サンプリング問題を解くためにしばしば用いられる。
最も古典的なランゲヴィンモンテカルロアルゴリズムは、過度に破壊されたランゲヴィン力学に基づいている。
ランゲヴィン力学には多くの変種があり、実際は優れた性能を示すことが多い。
本稿では,大偏差理論のレンズを通して過度に損傷したランゲヴィン力学の変分を加速させる統一的な手法を提案する。
これらの変種の有効性を説明するために, 合成データと実データの両方を用いた数値実験を行った。
関連論文リスト
- Learnable Infinite Taylor Gaussian for Dynamic View Rendering [55.382017409903305]
本稿では,ガウスの時間的進化をモデル化するための学習可能なテイラー式に基づく新しいアプローチを提案する。
提案手法は,本領域における最先端性能を実現する。
論文 参考訳(メタデータ) (2024-12-05T16:03:37Z) - On the Mode-Seeking Properties of Langevin Dynamics [9.831489366502302]
Langevin Dynamicsは確率分布のスコア関数からサンプルを生成することを目的としている。
マルチモーダル分布からのサンプル生成におけるLangevin Dynamicsについて検討する。
本稿では,データベクトルを一定サイズのパッチに分割し,前回のパッチで逐次条件付きパッチを生成するChained Langevin Dynamicsを提案する。
論文 参考訳(メタデータ) (2024-06-04T06:57:12Z) - Accelerating Approximate Thompson Sampling with Underdamped Langevin Monte Carlo [7.968641076961955]
本稿では,Langevin Monte Carlo を用いた近似トンプソンサンプリング手法を提案する。
標準スムーズ性および対数凹凸性条件に基づき,加速後濃度およびサンプリングについて検討した。
提案アルゴリズムは,高次元バンディット問題における合成実験により実験的に検証される。
論文 参考訳(メタデータ) (2024-01-22T02:54:58Z) - Proximal Algorithms for Accelerated Langevin Dynamics [57.08271964961975]
我々は,確率化Nesterovスキームに基づくMCMCアルゴリズムの新たなクラスを開発する。
統計処理と画像処理の異なるモデルに対して,Langevinサンプルよりも提案手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-11-24T19:56:01Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Non-Log-Concave and Nonsmooth Sampling via Langevin Monte Carlo Algorithms [15.718514510878896]
マルチモーダル性により低次元でもしばしば困難となるガウス混合などの非対数圏分布からの近似サンプリング問題について検討する。
我々はマルコフ連鎖モンテカルロ法(MCMC)を用いてこの課題を実行することに集中する。
論文 参考訳(メタデータ) (2023-05-25T12:28:26Z) - Transport map unadjusted Langevin algorithms: learning and discretizing perturbed samplers [1.993607565985189]
本研究では, 対象分布の正規化を前提条件とし, ランゲヴィン力学の収束を加速する輸送写像の利用について検討する。
また, トランスポートマップを非可逆摂動型 ULA に適用すると, 元の力学の幾何的不変摂動 (GiIrr) が得られることを示す。
論文 参考訳(メタデータ) (2023-02-14T18:13:19Z) - Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with
Variance Reduction and its Application to Optimization [50.83356836818667]
勾配ランゲヴィン・ダイナミクスは非エプス最適化問題を解くための最も基本的なアルゴリズムの1つである。
本稿では、このタイプの2つの変種、すなわち、分散還元ランジュバンダイナミクスと再帰勾配ランジュバンダイナミクスを示す。
論文 参考訳(メタデータ) (2022-03-30T11:39:00Z) - Benchmarking quantum annealing dynamics: the spin-vector Langevin model [58.720142291102135]
本稿では,スピンベクトルLangevin(SVL)モデルを,時間進化をLangevin dynamicsによって記述した代替ベンチマークとして紹介する。
SVLモデルは、量子シグネチャの同定のためのSVMCモデルよりも厳密なテストを提供する。
論文 参考訳(メタデータ) (2021-09-20T18:00:01Z) - Fast Mixing of Multi-Scale Langevin Dynamics under the Manifold
Hypothesis [85.65870661645823]
我々は,Langevin次元のアルゴリズムによって,より小さなデータに依存する時間を大幅に短縮できることを示す。
第二に、サンプリング空間の高さはランゲヴィン・ダイナミクスの性能を著しく損なう。
論文 参考訳(メタデータ) (2020-06-19T14:52:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。