論文の概要: Proximal Algorithms for Accelerated Langevin Dynamics
- arxiv url: http://arxiv.org/abs/2311.14829v2
- Date: Tue, 28 Nov 2023 15:27:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-29 23:22:24.975601
- Title: Proximal Algorithms for Accelerated Langevin Dynamics
- Title(参考訳): 加速ランジュバンダイナミクスのための近位アルゴリズム
- Authors: Duy H. Thai, Alexander L. Young, David B. Dunson
- Abstract要約: 我々は,確率化Nesterovスキームに基づくMCMCアルゴリズムの新たなクラスを開発する。
統計処理と画像処理の異なるモデルに対して,Langevinサンプルよりも提案手法の優れた性能を示す。
- 参考スコア(独自算出の注目度): 57.08271964961975
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We develop a novel class of MCMC algorithms based on a stochastized Nesterov
scheme. With an appropriate addition of noise, the result is a
time-inhomogeneous underdamped Langevin equation, which we prove emits a
specified target distribution as its invariant measure. Convergence rates to
stationarity under Wasserstein-2 distance are established as well.
Metropolis-adjusted and stochastic gradient versions of the proposed Langevin
dynamics are also provided. Experimental illustrations show superior
performance of the proposed method over typical Langevin samplers for different
models in statistics and image processing including better mixing of the
resulting Markov chains.
- Abstract(参考訳): 我々は,確率化Nesterovスキームに基づくMCMCアルゴリズムの新たなクラスを開発する。
ノイズを適切に加えることで、結果は時間的不均一なアンダーダムングランゲヴィン方程式となり、そこでは特定の目標分布をその不変測度として出力することが証明される。
Wasserstein-2 距離での定常性への収束率も確立されている。
提案したランゲヴィン力学のメトロポリス調整および確率勾配版も提供される。
実験例では, マルコフ連鎖のより優れた混合を含む, 統計および画像処理の異なるモデルに対して, 典型的なランゲヴィンサンプルよりも優れた性能を示す。
関連論文リスト
- High-accuracy sampling from constrained spaces with the Metropolis-adjusted Preconditioned Langevin Algorithm [12.405427902037971]
本稿では,$mathbbRd$の適切な凸部分集合である対象分布から近似サンプリングを行う1次サンプリング法を提案する。
提案手法は,事前条件付きLangevinアルゴリズムの単一ステップで生成したマルコフ連鎖にメトロポリス・ハスティングスフィルタを適用した結果である。
論文 参考訳(メタデータ) (2024-12-24T23:21:23Z) - Sampling from Boltzmann densities with physics informed low-rank formats [1.1650821883155187]
提案手法は,低ランクテンソルトレイン (TT) 形式の基礎となる連続性方程式を解くことにより,非正規化ボルツマン密度から試料を効率よく生成する。
シークエンシャルモンテカルロにインスパイアされ、フロー場のTT表現とランゲヴィンや再サンプリングステップを含むステップから決定論的時間ステップを交互に置き換える。
論文 参考訳(メタデータ) (2024-12-10T16:17:03Z) - AdamMCMC: Combining Metropolis Adjusted Langevin with Momentum-based Optimization [0.0]
科学と工学におけるディープニューラルネットワーク手法の適用を考える場合、不確実性推定は重要な問題である。
本稿では,モンテカルロ法を用いて後部分布から不確かさを定量化するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-21T16:58:49Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Differentiating Metropolis-Hastings to Optimize Intractable Densities [51.16801956665228]
我々はメトロポリス・ハスティングス検層の自動識別アルゴリズムを開発した。
難解な対象密度に対する期待値として表現された目的に対して勾配に基づく最適化を適用する。
論文 参考訳(メタデータ) (2023-06-13T17:56:02Z) - Score-Guided Intermediate Layer Optimization: Fast Langevin Mixing for
Inverse Problem [97.64313409741614]
ランダム重み付きDNNジェネレータを反転させるため,Langevinアルゴリズムの定常分布を高速に混合し,特徴付ける。
本稿では,事前学習した生成モデルの潜時空間における後部サンプリングを提案する。
論文 参考訳(メタデータ) (2022-06-18T03:47:37Z) - Hessian-Free High-Resolution Nesterov Acceleration for Sampling [55.498092486970364]
最適化のためのNesterovのAccelerated Gradient(NAG)は、有限のステップサイズを使用する場合の連続時間制限(ノイズなしの運動的ランゲヴィン)よりも優れたパフォーマンスを持つ。
本研究は, この現象のサンプリング法について検討し, 離散化により加速勾配に基づくMCMC法が得られる拡散過程を提案する。
論文 参考訳(メタデータ) (2020-06-16T15:07:37Z) - Stochastic Optimization with Heavy-Tailed Noise via Accelerated Gradient
Clipping [69.9674326582747]
そこで本研究では,重み付き分散雑音を用いたスムーズな凸最適化のための,クリップ付きSSTMと呼ばれる新しい1次高速化手法を提案する。
この場合、最先端の結果を上回る新たな複雑さが証明される。
本研究は,SGDにおいて,ノイズに対する光細かな仮定を伴わずにクリッピングを施した最初の非自明な高確率複雑性境界を導出した。
論文 参考訳(メタデータ) (2020-05-21T17:05:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。