論文の概要: Convergence of the Riemannian Langevin Algorithm
- arxiv url: http://arxiv.org/abs/2204.10818v1
- Date: Fri, 22 Apr 2022 16:56:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-25 15:21:34.943944
- Title: Convergence of the Riemannian Langevin Algorithm
- Title（参考訳）: Riemannian Langevinアルゴリズムの収束性
- Authors: Khashayar Gatmiry and Santosh S. Vempala
- Abstract要約: 計量$g$の多様体上の自然測度に関して、密度$nu$の分布からサンプリングする問題を研究する。
対数障壁によって定義されるポリトープに制限された等尺的密度をサンプリングする手法が,本手法の特例である。
- 参考スコア（独自算出の注目度）: 10.279748604797911
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the Riemannian Langevin Algorithm for the problem of sampling from a
distribution with density $\nu$ with respect to the natural measure on a
manifold with metric $g$. We assume that the target density satisfies a
log-Sobolev inequality with respect to the metric and prove that the manifold
generalization of the Unadjusted Langevin Algorithm converges rapidly to $\nu$
for Hessian manifolds. This allows us to reduce the problem of sampling
non-smooth (constrained) densities in ${\bf R}^n$ to sampling smooth densities
over appropriate manifolds, while needing access only to the gradient of the
log-density, and this, in turn, to sampling from the natural Brownian motion on
the manifold. Our main analytic tools are (1) an extension of self-concordance
to manifolds, and (2) a stochastic approach to bounding smoothness on
manifolds. A special case of our approach is sampling isoperimetric densities
restricted to polytopes by using the metric defined by the logarithmic barrier.
- Abstract（参考訳）: 我々は、計量 $g$ の多様体上の自然測度に関して、密度 $\nu$ の分布からサンプリングする問題に対するリーマン・ランジュバンのアルゴリズムについて研究する。
対象密度は計量に関して対数ソボレフの不等式を満たすと仮定し、不調整ランゲヴィンアルゴリズムの多様体一般化が急速にヘッセン多様体に対して$\nu$に収束することを証明する。
これにより、適当な多様体上の滑らかな密度をサンプリングするために${\bf r}^n$の非スムース(拘束された)密度をサンプリングする問題を低減し、対数密度の勾配のみへのアクセスを必要とし、多様体上の自然なブラウン運動からサンプリングすることができる。
我々の分析ツールは,(1)多様体に対する自己整合の拡張,(2)多様体上の境界滑らか性に対する確率的アプローチである。
本手法では, 対数障壁によって定義される計量を用いて, ポリトープに制限された等尺密度をサンプリングする。
関連論文リスト
- Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳（メタデータ） (2024-04-29T15:04:07Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳（メタデータ） (2023-12-22T18:01:11Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳（メタデータ） (2023-12-02T13:01:29Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳（メタデータ） (2023-06-29T01:20:44Z) - Resolving the Mixing Time of the Langevin Algorithm to its Stationary
Distribution for Log-Concave Sampling [34.66940399825547]
本稿では,Langevinアルゴリズムの定常分布に対する混合時間の特徴について述べる。
本稿では,差分プライバシー文献からサンプリング文献へのアプローチを紹介する。
論文 参考訳（メタデータ） (2022-10-16T05:11:16Z) - Minibatch vs Local SGD with Shuffling: Tight Convergence Bounds and
Beyond [63.59034509960994]
シャッフルに基づく変種(ミニバッチと局所ランダムリシャッフル)について検討する。
ポリアック・ロジャシエヴィチ条件を満たす滑らかな函数に対して、これらのシャッフル型不変量(英語版)(shuffling-based variants)がそれらの置換式よりも早く収束することを示す収束境界を得る。
我々は, 同期シャッフル法と呼ばれるアルゴリズムの修正を提案し, ほぼ均一な条件下では, 下界よりも収束速度が速くなった。
論文 参考訳（メタデータ） (2021-10-20T02:25:25Z) - Mean-Square Analysis with An Application to Optimal Dimension Dependence
of Langevin Monte Carlo [60.785586069299356]
この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。
我々の理論解析は数値実験によってさらに検証される。
論文 参考訳（メタデータ） (2021-09-08T18:00:05Z) - Intrinsic persistent homology via density-based metric learning [1.0499611180329804]
サンプルによって定義される計量空間は、サンプルフェルマー距離(英語版)として知られる計算可能な計量で与えられることが証明される。
制限対象は、人口フェルマ距離が与えられた多様体自身であり、多様体の幾何学とサンプルを生成する密度の両方を測る固有の計量である。
論文 参考訳（メタデータ） (2020-12-11T18:54:36Z) - Wasserstein Control of Mirror Langevin Monte Carlo [2.7145834528620236]
離散化ランゲヴィン拡散は高次元ターゲット密度からサンプリングする効率的なモンテカルロ法である。
ヘッセン型多様体上のランゲヴィン拡散を考察し、ミラー・ドネサンススキームと密接な関係を持つ離散化を研究する。
論文 参考訳（メタデータ） (2020-02-11T13:16:31Z) - Oracle Lower Bounds for Stochastic Gradient Sampling Algorithms [39.746670539407084]
我々は、$bbRd$の強い対数凹密度からサンプリングする問題を考察する。
必要なログ密度の勾配クエリ数に基づいて,情報理論の下界を証明した。
論文 参考訳（メタデータ） (2020-02-01T23:46:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。