論文の概要: Unadjusted Langevin algorithm for sampling a mixture of weakly smooth
potentials
- arxiv url: http://arxiv.org/abs/2112.09311v1
- Date: Fri, 17 Dec 2021 04:10:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-21 02:38:04.403698
- Title: Unadjusted Langevin algorithm for sampling a mixture of weakly smooth
potentials
- Title(参考訳): 弱滑らかなポテンシャルの混合をサンプリングするための非調整ランゲヴィンアルゴリズム
- Authors: Dao Nguyen
- Abstract要約: 我々は,ポアンカーの不等式や球体の外側の非強凸の下での収束保証を証明した。
また、滑らかなポテンシャルに対する$L_beta$-Wasserstein 計量の収束も提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Discretization of continuous-time diffusion processes is a widely recognized
method for sampling. However, it seems to be a considerable restriction when
the potentials are often required to be smooth (gradient Lipschitz). This paper
studies the problem of sampling through Euler discretization, where the
potential function is assumed to be a mixture of weakly smooth distributions
and satisfies weakly dissipative. We establish the convergence in
Kullback-Leibler (KL) divergence with the number of iterations to reach
$\epsilon$-neighborhood of a target distribution in only polynomial dependence
on the dimension. We relax the degenerated convex at infinity conditions of
\citet{erdogdu2020convergence} and prove convergence guarantees under
Poincar\'{e} inequality or non-strongly convex outside the ball. In addition,
we also provide convergence in $L_{\beta}$-Wasserstein metric for the smoothing
potential.
- Abstract(参考訳): 連続時間拡散過程の離散化はサンプリング法として広く知られている。
しかし、ポテンシャルが滑らかであることがしばしば要求されるとき(勾配リプシッツ)、これはかなりの制限であると考えられる。
本稿では, ポテンシャル関数が弱滑らかな分布の混合であり, 弱散逸性を満たすと仮定したオイラー離散化によるサンプリング問題について検討する。
kullback-leibler (kl) における反復数との収束を定め、その次元に対する多項式依存性のみにおいて対象分布の$\epsilon$-neighborhoodに達する。
また, 球面外におけるポアンカーの不等式や非強凸の下での収束保証を証明し, 無限条件下でのデジェネレーション凸を緩和する。
さらに、平滑化ポテンシャルに対する$l_{\beta}$-wasserstein計量の収束も提供する。
関連論文リスト
- Provable Convergence and Limitations of Geometric Tempering for Langevin Dynamics [8.683011785637824]
幾何的テンパリングは、挑戦的な多モード確率分布からサンプリングする一般的なアプローチである。
本稿では,サンプリングアルゴリズムがランゲヴィン力学である場合のこのアプローチの音質について理論的に検討する。
以上の結果から,幾何的テンパリングは役に立たず,収束に有害である可能性が示唆された。
論文 参考訳(メタデータ) (2024-10-13T02:24:31Z) - Tamed Langevin sampling under weaker conditions [27.872857402255775]
ログコンケーブではなく,弱い散逸性しか持たない分布から抽出する問題について検討する。
そこで本研究では,対象分布の成長と崩壊特性に合わせたテイミング手法を提案する。
提案したサンプルに対して,Kulback-Leiblerの発散,全変動,ワッサーシュタイン距離といった条件で明確な非漸近保証を与える。
論文 参考訳(メタデータ) (2024-05-27T23:00:40Z) - In-and-Out: Algorithmic Diffusion for Sampling Convex Bodies [7.70133333709347]
高次元凸体を一様にサンプリングするための新しいランダムウォークを提案する。
出力をより強力な保証で、最先端のランタイムの複雑さを実現する。
論文 参考訳(メタデータ) (2024-05-02T16:15:46Z) - Breaking the Heavy-Tailed Noise Barrier in Stochastic Optimization Problems [56.86067111855056]
構造密度の重み付き雑音によるクリップ最適化問題を考察する。
勾配が有限の順序モーメントを持つとき、$mathcalO(K-(alpha - 1)/alpha)$よりも高速な収束率が得られることを示す。
得られた推定値が無視可能なバイアスと制御可能な分散を持つことを示す。
論文 参考訳(メタデータ) (2023-11-07T17:39:17Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Convergence of Adam Under Relaxed Assumptions [72.24779199744954]
我々は、アダムがより現実的な条件下で、$O(epsilon-4)$勾配複雑性で$epsilon$-定常点に収束することを示している。
また、Adamの分散還元版を$O(epsilon-3)$の加速勾配複雑性で提案する。
論文 参考訳(メタデータ) (2023-04-27T06:27:37Z) - High-Probability Bounds for Stochastic Optimization and Variational
Inequalities: the Case of Unbounded Variance [59.211456992422136]
制約の少ない仮定の下で高確率収束結果のアルゴリズムを提案する。
これらの結果は、標準機能クラスに適合しない問題を最適化するために検討された手法の使用を正当化する。
論文 参考訳(メタデータ) (2023-02-02T10:37:23Z) - Concentration analysis of multivariate elliptic diffusion processes [0.0]
連続時間および離散時間付加関数に対する濃度不等式と関連するPAC境界を証明した。
我々の分析はポアソン方程式によるアプローチに依存しており、非常に幅広い指数的エルゴード過程のクラスを考えることができる。
論文 参考訳(メタデータ) (2022-06-07T14:15:05Z) - Minibatch vs Local SGD with Shuffling: Tight Convergence Bounds and
Beyond [63.59034509960994]
シャッフルに基づく変種(ミニバッチと局所ランダムリシャッフル)について検討する。
ポリアック・ロジャシエヴィチ条件を満たす滑らかな函数に対して、これらのシャッフル型不変量(英語版)(shuffling-based variants)がそれらの置換式よりも早く収束することを示す収束境界を得る。
我々は, 同期シャッフル法と呼ばれるアルゴリズムの修正を提案し, ほぼ均一な条件下では, 下界よりも収束速度が速くなった。
論文 参考訳(メタデータ) (2021-10-20T02:25:25Z) - Faster Convergence of Stochastic Gradient Langevin Dynamics for
Non-Log-Concave Sampling [110.88857917726276]
我々は,非log-concaveとなる分布のクラスからサンプリングするために,勾配ランゲヴィンダイナミクス(SGLD)の新たな収束解析を行う。
我々のアプローチの核心は、補助的時間反転型マルコフ連鎖を用いたSGLDのコンダクタンス解析である。
論文 参考訳(メタデータ) (2020-10-19T15:23:18Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳(メタデータ) (2020-06-11T19:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。