論文の概要: Unadjusted Langevin algorithm for sampling a mixture of weakly smooth
potentials
- arxiv url: http://arxiv.org/abs/2112.09311v1
- Date: Fri, 17 Dec 2021 04:10:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2021-12-21 02:38:04.403698
- Title: Unadjusted Langevin algorithm for sampling a mixture of weakly smooth
potentials
- Title(参考訳): 弱滑らかなポテンシャルの混合をサンプリングするための非調整ランゲヴィンアルゴリズム
- Authors: Dao Nguyen
- Abstract要約: 我々は,ポアンカーの不等式や球体の外側の非強凸の下での収束保証を証明した。
また、滑らかなポテンシャルに対する$L_beta$-Wasserstein 計量の収束も提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Discretization of continuous-time diffusion processes is a widely recognized
method for sampling. However, it seems to be a considerable restriction when
the potentials are often required to be smooth (gradient Lipschitz). This paper
studies the problem of sampling through Euler discretization, where the
potential function is assumed to be a mixture of weakly smooth distributions
and satisfies weakly dissipative. We establish the convergence in
Kullback-Leibler (KL) divergence with the number of iterations to reach
$\epsilon$-neighborhood of a target distribution in only polynomial dependence
on the dimension. We relax the degenerated convex at infinity conditions of
\citet{erdogdu2020convergence} and prove convergence guarantees under
Poincar\'{e} inequality or non-strongly convex outside the ball. In addition,
we also provide convergence in $L_{\beta}$-Wasserstein metric for the smoothing
potential.
- Abstract(参考訳): 連続時間拡散過程の離散化はサンプリング法として広く知られている。
しかし、ポテンシャルが滑らかであることがしばしば要求されるとき(勾配リプシッツ)、これはかなりの制限であると考えられる。
本稿では, ポテンシャル関数が弱滑らかな分布の混合であり, 弱散逸性を満たすと仮定したオイラー離散化によるサンプリング問題について検討する。
kullback-leibler (kl) における反復数との収束を定め、その次元に対する多項式依存性のみにおいて対象分布の$\epsilon$-neighborhoodに達する。
また, 球面外におけるポアンカーの不等式や非強凸の下での収束保証を証明し, 無限条件下でのデジェネレーション凸を緩和する。
さらに、平滑化ポテンシャルに対する$l_{\beta}$-wasserstein計量の収束も提供する。
関連論文リスト
- Revisiting Convergence: Shuffling Complexity Beyond Lipschitz Smoothness [50.78508362183774]
シャッフル型勾配法はその単純さと迅速な経験的性能のために実践的に好まれる。
リプシッツ条件は一般的な機械学習スキームでは満たされないことが多い。
論文 参考訳(メタデータ) (2025-07-11T15:36:48Z) - Poisson Midpoint Method for Log Concave Sampling: Beyond the Strong Error Lower Bounds [6.138671548064356]
過度に損傷/破壊されたランゲヴィン力学の中間点離散化を用いた$mathbbRd$上の強対数分布からのサンプリング問題について検討する。
2-ワッサーシュタイン距離(W$)における収束性を証明し、オイラー・丸山離散化に対する目標精度(epsilon$)に依存して立方体スピードアップを達成する。
特に、アンダーダムングランゲヴィン力学の場合、$W$収束の複雑さは$L2$の収束の複雑さの下限よりもはるかに小さいことを示す。
論文 参考訳(メタデータ) (2025-06-09T10:27:15Z) - Entropic Mirror Descent for Linear Systems: Polyak's Stepsize and Implicit Bias [55.72269695392027]
本稿では,線形系を解くためにエントロピックミラー降下を適用することに焦点を当てる。
収束解析の主な課題は、領域の非有界性に起因する。
制限的な仮定を課さずにこれを克服するために、Polyak型階段の変種を導入する。
論文 参考訳(メタデータ) (2025-05-05T12:33:18Z) - Provable Convergence and Limitations of Geometric Tempering for Langevin Dynamics [8.683011785637824]
幾何的テンパリングは、挑戦的な多モード確率分布からサンプリングする一般的なアプローチである。
本稿では,サンプリングアルゴリズムがランゲヴィン力学である場合のこのアプローチの音質について理論的に検討する。
以上の結果から,幾何的テンパリングは役に立たず,収束に有害である可能性が示唆された。
論文 参考訳(メタデータ) (2024-10-13T02:24:31Z) - Tamed Langevin sampling under weaker conditions [27.872857402255775]
ログコンケーブではなく,弱い散逸性しか持たない分布から抽出する問題について検討する。
そこで本研究では,対象分布の成長と崩壊特性に合わせたテイミング手法を提案する。
提案したサンプルに対して,Kulback-Leiblerの発散,全変動,ワッサーシュタイン距離といった条件で明確な非漸近保証を与える。
論文 参考訳(メタデータ) (2024-05-27T23:00:40Z) - In-and-Out: Algorithmic Diffusion for Sampling Convex Bodies [7.70133333709347]
高次元凸体を一様にサンプリングするための新しいランダムウォークを提案する。
出力をより強力な保証で、最先端のランタイムの複雑さを実現する。
論文 参考訳(メタデータ) (2024-05-02T16:15:46Z) - Breaking the Heavy-Tailed Noise Barrier in Stochastic Optimization Problems [56.86067111855056]
構造密度の重み付き雑音によるクリップ最適化問題を考察する。
勾配が有限の順序モーメントを持つとき、$mathcalO(K-(alpha - 1)/alpha)$よりも高速な収束率が得られることを示す。
得られた推定値が無視可能なバイアスと制御可能な分散を持つことを示す。
論文 参考訳(メタデータ) (2023-11-07T17:39:17Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Convergence of Adam Under Relaxed Assumptions [72.24779199744954]
我々は、アダムがより現実的な条件下で、$O(epsilon-4)$勾配複雑性で$epsilon$-定常点に収束することを示している。
また、Adamの分散還元版を$O(epsilon-3)$の加速勾配複雑性で提案する。
論文 参考訳(メタデータ) (2023-04-27T06:27:37Z) - High-Probability Bounds for Stochastic Optimization and Variational
Inequalities: the Case of Unbounded Variance [59.211456992422136]
制約の少ない仮定の下で高確率収束結果のアルゴリズムを提案する。
これらの結果は、標準機能クラスに適合しない問題を最適化するために検討された手法の使用を正当化する。
論文 参考訳(メタデータ) (2023-02-02T10:37:23Z) - Concentration analysis of multivariate elliptic diffusion processes [0.0]
連続時間および離散時間付加関数に対する濃度不等式と関連するPAC境界を証明した。
我々の分析はポアソン方程式によるアプローチに依存しており、非常に幅広い指数的エルゴード過程のクラスを考えることができる。
論文 参考訳(メタデータ) (2022-06-07T14:15:05Z) - Minibatch vs Local SGD with Shuffling: Tight Convergence Bounds and
Beyond [63.59034509960994]
シャッフルに基づく変種(ミニバッチと局所ランダムリシャッフル)について検討する。
ポリアック・ロジャシエヴィチ条件を満たす滑らかな函数に対して、これらのシャッフル型不変量(英語版)(shuffling-based variants)がそれらの置換式よりも早く収束することを示す収束境界を得る。
我々は, 同期シャッフル法と呼ばれるアルゴリズムの修正を提案し, ほぼ均一な条件下では, 下界よりも収束速度が速くなった。
論文 参考訳(メタデータ) (2021-10-20T02:25:25Z) - Faster Convergence of Stochastic Gradient Langevin Dynamics for
Non-Log-Concave Sampling [110.88857917726276]
我々は,非log-concaveとなる分布のクラスからサンプリングするために,勾配ランゲヴィンダイナミクス(SGLD)の新たな収束解析を行う。
我々のアプローチの核心は、補助的時間反転型マルコフ連鎖を用いたSGLDのコンダクタンス解析である。
論文 参考訳(メタデータ) (2020-10-19T15:23:18Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳(メタデータ) (2020-06-11T19:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。