論文の概要: A Proximal Algorithm for Sampling from Non-smooth Potentials
- arxiv url: http://arxiv.org/abs/2110.04597v1
- Date: Sat, 9 Oct 2021 15:26:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-16 22:47:26.428800
- Title: A Proximal Algorithm for Sampling from Non-smooth Potentials
- Title（参考訳）: 非滑らかなポテンシャルからサンプリングする近似アルゴリズム
- Authors: Jiaming Liang, Yongxin Chen
- Abstract要約: 非滑らかなポテンシャルからのサンプリングのための新しいMCMCアルゴリズムを提案する。
本手法は, 近似バンドル法と交互サンプリングフレームワークに基づく。
この研究の重要な貢献は、任意の凸非滑らかポテンシャルに対して制限されたガウスオラクルを実現する高速アルゴリズムである。
- 参考スコア（独自算出の注目度）: 10.980294435643398
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Markov chain Monte Carlo (MCMC) is an effective and dominant method to sample
from high-dimensional complex distributions. Yet, most existing MCMC methods
are only applicable to settings with smooth potentials (log-densities). In this
work, we examine sampling problems with non-smooth potentials. We propose a
novel MCMC algorithm for sampling from non-smooth potentials. We provide a
non-asymptotical analysis of our algorithm and establish a polynomial-time
complexity $\tilde {\cal O}(d\varepsilon^{-1})$ to obtain $\varepsilon$ total
variation distance to the target density, better than all existing results
under the same assumptions. Our method is based on the proximal bundle method
and an alternating sampling framework. This framework requires the so-called
restricted Gaussian oracle, which can be viewed as a sampling counterpart of
the proximal mapping in convex optimization. One key contribution of this work
is a fast algorithm that realizes the restricted Gaussian oracle for any convex
non-smooth potential with bounded Lipschitz constant.
- Abstract（参考訳）: マルコフ連鎖モンテカルロ(MCMC)は、高次元の複素分布から試料を採取するための有効で支配的な方法である。
しかし、既存のMCMC手法のほとんどは、スムーズなポテンシャル(ログ密度)を持つ設定にのみ適用可能である。
本研究では,非スムースポテンシャルを用いたサンプリング問題について検討する。
非スムースポテンシャルからサンプリングする新しいmcmcアルゴリズムを提案する。
我々はアルゴリズムの非漸近解析を行い、多項式時間複雑性$\tilde {\cal O}(d\varepsilon^{-1})$を確立し、同じ仮定の下で既存のすべての結果よりも、ターゲット密度への総変量距離$\varepsilon$を得る。
本手法は,近似バンドル法と交互サンプリングフレームワークに基づく。
このフレームワークは、いわゆる制限ガウスオラクルを必要とし、凸最適化における近位写像のサンプリング版と見なすことができる。
この研究の重要な貢献は、有界リプシッツ定数を持つ凸非滑らかポテンシャルに対して制限されたガウスオラクルを実現する高速アルゴリズムである。
関連論文リスト
- Harmonic Path Integral Diffusion [0.4527270266697462]
本稿では,連続多変量確率分布から抽出する新しい手法を提案する。
本手法では,状態空間の起点を中心とするデルタ関数を$t=0$とし,ターゲット分布に$t=1$で変換する。
これらのアルゴリズムは他のサンプリング手法、特にシミュレートおよびパス積分サンプリングと対比し、解析制御、精度、計算効率の点でそれらの利点を強調した。
論文 参考訳（メタデータ） (2024-09-23T16:20:21Z) - A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳（メタデータ） (2024-09-07T06:37:23Z) - Faster Sampling via Stochastic Gradient Proximal Sampler [28.422547264326468]
非log-concave分布からのサンプリングのための近位サンプリング器 (SPS) について検討した。
対象分布への収束性は,アルゴリズムの軌道が有界である限り保証可能であることを示す。
我々は、Langevin dynamics(SGLD)とLangevin-MALAの2つの実装可能な変種を提供し、SPS-SGLDとSPS-MALAを生み出した。
論文 参考訳（メタデータ） (2024-05-27T00:53:18Z) - Proximal Oracles for Optimization and Sampling [18.77973093341588]
非滑らかな目的関数による凸最適化と非滑らかなポテンシャルによる対数凹型サンプリングについて検討する。
非滑らか性による課題を克服するため、アルゴリズムは最適化とサンプリングに2つの強力な近位フレームワークを用いる。
論文 参考訳（メタデータ） (2024-04-02T18:52:28Z) - Sample Complexity for Quadratic Bandits: Hessian Dependent Bounds and
Optimal Algorithms [64.10576998630981]
最適なヘッセン依存型サンプルの複雑さを, 初めて厳密に評価した。
ヘシアン非依存のアルゴリズムは、すべてのヘシアンインスタンスに対して最適なサンプル複雑さを普遍的に達成する。
本アルゴリズムにより得られたサンプルの最適複雑さは,重み付き雑音分布においても有効である。
論文 参考訳（メタデータ） (2023-06-21T17:03:22Z) - Stochastic Inexact Augmented Lagrangian Method for Nonconvex Expectation
Constrained Optimization [88.0031283949404]
多くの実世界の問題は複雑な非機能的制約を持ち、多くのデータポイントを使用する。
提案手法は,従来最もよく知られた結果で既存手法よりも優れた性能を示す。
論文 参考訳（メタデータ） (2022-12-19T14:48:54Z) - A Proximal Algorithm for Sampling from Non-convex Potentials [14.909442791255042]
滑らかさに欠ける非滑らかなポテンシャルの問題を考察する。
滑らかではなく、ポテンシャルは半滑らかあるいは多重多重滑らか関数であると仮定される。
我々は、交互サンプリングフレームワークとして知られるGibbsサンプリングの特殊なケースを開発する。
論文 参考訳（メタデータ） (2022-05-20T13:58:46Z) - A Proximal Algorithm for Sampling [14.909442791255042]
我々は、滑らかさに欠けるポテンシャルに関連する問題を研究する。
ポテンシャルは凸か非滑らかである。
本アルゴリズムは, 拒絶サンプリングの特殊な事例に基づく。
論文 参考訳（メタデータ） (2022-02-28T17:26:09Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳（メタデータ） (2021-02-04T02:21:08Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳（メタデータ） (2020-09-28T15:22:24Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳（メタデータ） (2020-06-11T19:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。