論文の概要: Bregman Proximal Langevin Monte Carlo via Bregman--Moreau Envelopes
- arxiv url: http://arxiv.org/abs/2207.04387v1
- Date: Sun, 10 Jul 2022 05:33:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-13 08:01:20.880920
- Title: Bregman Proximal Langevin Monte Carlo via Bregman--Moreau Envelopes
- Title（参考訳）: Bregman Proximal Langevin Monte Carlo via Bregman--Moreau Envelopes
- Authors: Tim Tsz-Kit Lau, Han Liu
- Abstract要約: 非平滑凸複合ポテンシャルを持つ分布をサンプリングするための効率的なランゲヴィンモンテカルロアルゴリズムを提案する。
提案アルゴリズムは既存のランゲヴィン・モンテカルロアルゴリズムを2つの側面で拡張し、ミラー降下のようなアルゴリズムで非滑らかな分布をサンプリングし、モローエンベロープの代わりにより一般的なブレグマン-モローエンベロープをポテンシャルの非滑らかな部分の滑らかな近似として用いる。
- 参考スコア（独自算出の注目度）: 10.103413548140848
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose efficient Langevin Monte Carlo algorithms for sampling
distributions with nonsmooth convex composite potentials, which is the sum of a
continuously differentiable function and a possibly nonsmooth function. We
devise such algorithms leveraging recent advances in convex analysis and
optimization methods involving Bregman divergences, namely the Bregman--Moreau
envelopes and the Bregman proximity operators, and in the Langevin Monte Carlo
algorithms reminiscent of mirror descent. The proposed algorithms extend
existing Langevin Monte Carlo algorithms in two aspects -- the ability to
sample nonsmooth distributions with mirror descent-like algorithms, and the use
of the more general Bregman--Moreau envelope in place of the Moreau envelope as
a smooth approximation of the nonsmooth part of the potential. A particular
case of the proposed scheme is reminiscent of the Bregman proximal gradient
algorithm. The efficiency of the proposed methodology is illustrated with
various sampling tasks at which existing Langevin Monte Carlo methods are known
to perform poorly.
- Abstract（参考訳）: 連続微分可能関数と潜在的に非スムース関数の和である非スムース凸複合ポテンシャルを持つ分布をサンプリングするための効率的なランジュバンモンテカルロアルゴリズムを提案する。
We devise such algorithms leveraging recent advances in convex analysis and optimization methods involving Bregman divergences, namely the Bregman--Moreau envelopes and the Bregman proximity operators, and in the Langevin Monte Carlo algorithms reminiscent of mirror descent. The proposed algorithms extend existing Langevin Monte Carlo algorithms in two aspects -- the ability to sample nonsmooth distributions with mirror descent-like algorithms, and the use of the more general Bregman--Moreau envelope in place of the Moreau envelope as a smooth approximation of the nonsmooth part of the potential.
提案手法の特定の例は、ブレグマン近位勾配アルゴリズムを思い起こさせるものである。
提案手法の効率性は, 既存のLangevin Monte Carlo法が低性能であることが知られている様々なサンプリングタスクで示される。
関連論文リスト
- Moreau Envelope ADMM for Decentralized Weakly Convex Optimization [55.2289666758254]
本稿では,分散最適化のための乗算器の交互方向法(ADMM)の近位変種を提案する。
数値実験の結果,本手法は広く用いられている手法よりも高速かつ堅牢であることが示された。
論文 参考訳（メタデータ） (2023-08-31T14:16:30Z) - Convergent Bregman Plug-and-Play Image Restoration for Poisson Inverse
Problems [8.673558396669806]
Plug-noise-and-Play (Play) 法は画像逆問題に対する効率的な反復アルゴリズムである。
2つ提案する。
Bregman Score gradient Denoise 逆問題に基づくアルゴリズム。
論文 参考訳（メタデータ） (2023-06-06T07:36:47Z) - Gradient-free optimization of highly smooth functions: improved analysis
and a new algorithm [87.22224691317766]
この研究は、目的関数が極めて滑らかであるという仮定の下で、ゼロ次ノイズオラクル情報による問題を研究する。
ゼロオーダー射影勾配勾配アルゴリズムを2種類検討する。
論文 参考訳（メタデータ） (2023-06-03T17:05:13Z) - Non-Log-Concave and Nonsmooth Sampling via Langevin Monte Carlo Algorithms [15.718514510878896]
マルチモーダル性により低次元でもしばしば困難となるガウス混合などの非対数圏分布からの近似サンプリング問題について検討する。
我々はマルコフ連鎖モンテカルロ法(MCMC)を用いてこの課題を実行することに集中する。
論文 参考訳（メタデータ） (2023-05-25T12:28:26Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳（メタデータ） (2023-01-30T15:46:39Z) - Monte Carlo Tree Descent for Black-Box Optimization [10.698553177585973]
我々は、より高速な最適化のためにサンプルベース降下をさらに統合する方法を研究する。
我々は,モンテカルロ探索木の拡張手法を,頂点における新しい降下法を用いて設計する。
提案アルゴリズムは,多くの挑戦的ベンチマーク問題において,最先端の手法より優れていることを示す。
論文 参考訳（メタデータ） (2022-11-01T22:45:10Z) - Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。
提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
論文 参考訳（メタデータ） (2022-06-22T17:58:23Z) - Bayesian imaging using Plug & Play priors: when Langevin meets Tweedie [13.476505672245603]
本稿では,ベイズ推定を事前に行うための理論,方法,および証明可能な収束アルゴリズムを開発する。
モンテカルロサンプリングとMMSEに対する-ULA(Unadjusted Langevin)アルゴリズム推論と、推論のための定量的SGD(Stochastic Gradient Descent)の2つのアルゴリズムを紹介します。
このアルゴリズムは、点推定や不確実性の可視化や規則性に使用される画像のノイズ除去、インペインティング、ノイズ除去などのいくつかの問題で実証されています。
論文 参考訳（メタデータ） (2021-03-08T12:46:53Z) - Plug-And-Play Learned Gaussian-mixture Approximate Message Passing [71.74028918819046]
そこで本研究では,従来のi.i.d.ソースに適した圧縮圧縮センシング(CS)リカバリアルゴリズムを提案する。
我々のアルゴリズムは、Borgerdingの学習AMP(LAMP)に基づいて構築されるが、アルゴリズムに普遍的な復調関数を採用することにより、それを大幅に改善する。
数値評価により,L-GM-AMPアルゴリズムは事前の知識を必要とせず,最先端の性能を実現する。
論文 参考訳（メタデータ） (2020-11-18T16:40:45Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳（メタデータ） (2020-06-11T19:40:38Z) - Connecting the Dots: Numerical Randomized Hamiltonian Monte Carlo with
State-Dependent Event Rates [0.0]
連続目標分布に対するマルコフ連鎖モンテカルロ法に代わる,頑健で,使いやすく,計算的に高速な手法を提案する。
提案アルゴリズムは、関連するベンチマークと比較して大きなスピードアップと安定性の向上をもたらす可能性がある。
高品質なODEコードへのアクセスが保証され、提案手法は実装も使用も容易であり、高度に困難で高次元のターゲット分布に対しても有効である。
論文 参考訳（メタデータ） (2020-05-04T06:23:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。