論文の概要: Mixing of the No-U-Turn Sampler and the Geometry of Gaussian Concentration

• arxiv url: http://arxiv.org/abs/2410.06978v1
• Date: Wed, 9 Oct 2024 15:17:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-10-31 23:17:37.974186
• Title: Mixing of the No-U-Turn Sampler and the Geometry of Gaussian Concentration
• Title（参考訳）: No-U-Turnサンプリングの混合とガウス濃度の幾何学
• Authors: Nawaf Bou-Rabee, Stefan Oberdörster,
• Abstract要約: No-U-Turn Smpler (NUTS) の混合時間は$d1/4$で、対数因子までは$d$である。 具体的には、測定値の濃度は、高い確率で保たれるNUTSの局所適応遷移において顕著な均一性をもたらす。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We prove that the mixing time of the No-U-Turn Sampler (NUTS), when initialized in the concentration region of the canonical Gaussian measure, scales as $d^{1/4}$, up to logarithmic factors, where $d$ is the dimension. This scaling is expected to be sharp. This result is based on a coupling argument that leverages the geometric structure of the target distribution. Specifically, concentration of measure results in a striking uniformity in NUTS' locally adapted transitions, which holds with high probability. This uniformity is formalized by interpreting NUTS as an accept/reject Markov chain, where the mixing properties for the more uniform accept chain are analytically tractable. Additionally, our analysis uncovers a previously unnoticed issue with the path length adaptation procedure of NUTS, specifically related to looping behavior, which we address in detail.
• Abstract（参考訳）: 標準ガウス測度の濃度領域で初期化されるNo-U-Turn Smpler (NUTS) の混合時間は、d^{1/4}$で、d$が次元である対数因子までスケールする。 このスケーリングはシャープになると予想されている。 この結果は、対象分布の幾何学的構造を利用する結合論に基づく。 具体的には、測定値の濃度は、高い確率で保たれるNUTSの局所適応遷移において顕著な均一性をもたらす。 この一様性は、NUTSをアクセプション/リジェクトマルコフ連鎖と解釈することで定式化され、より均一なアクセプション鎖の混合特性は解析的に抽出可能である。 さらに,本研究では,NUTSの経路長適応手順,特にループ動作に関する未発見の問題を明らかにする。

関連論文リスト

• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• Convergence and concentration properties of constant step-size SGD through Markov chains [0.0]
  定常段差勾配勾配(SGD)を用いた滑らかで強凸な目標の最適化について検討する。 緩やかに制御された分散を伴う不偏勾配推定に対して、反復は全変動距離の不変分布に収束することを示す。 全ての結果は無症状であり、その結果はいくつかのアプリケーションを通して議論されている。
  論文  参考訳（メタデータ） (2023-06-20T12:36:28Z)
• Machine learning in and out of equilibrium [58.88325379746631]
  我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。 我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。 本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T09:12:49Z)
• Robust Estimation for Nonparametric Families via Generative Adversarial Networks [92.64483100338724]
  我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。 我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。 技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
  論文  参考訳（メタデータ） (2022-02-02T20:11:33Z)
• Mean-Square Analysis with An Application to Optimal Dimension Dependence of Langevin Monte Carlo [60.785586069299356]
  この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。 我々の理論解析は数値実験によってさらに検証される。
  論文  参考訳（メタデータ） (2021-09-08T18:00:05Z)
• On the Convergence of Stochastic Extragradient for Bilinear Games with Restarted Iteration Averaging [96.13485146617322]
  本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。 平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
  論文  参考訳（メタデータ） (2021-06-30T17:51:36Z)
• Geometric convergence of elliptical slice sampling [0.0]
  対応するマルコフ連鎖は幾何学的にエルゴード的であり、従って定性収束保証を与える。 エルゴディディティ結果が適用されない状況においても,楕円スライスサンプリングの寸法に依存しない性能を示す数値実験を行った。
  論文  参考訳（メタデータ） (2021-05-07T15:00:30Z)
• Spectral clustering under degree heterogeneity: a case for the random walk Laplacian [83.79286663107845]
  本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。 次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
  論文  参考訳（メタデータ） (2021-05-03T16:36:27Z)
• Estimating 2-Sinkhorn Divergence between Gaussian Processes from Finite-Dimensional Marginals [4.416484585765028]
  エルフガウス過程 (GP) 間の2-シンクホーンの偏差を有限次元の辺分布を用いて推定する収束性について検討する。 境界値が基底値に従ってサンプリングされた場合, ほぼ確実に発散の収束を示す。
  論文  参考訳（メタデータ） (2021-02-05T16:17:55Z)
• Optimal Sample Complexity of Subgradient Descent for Amplitude Flow via Non-Lipschitz Matrix Concentration [12.989855325491163]
  我々は、実数値の$n$次元信号を、位相のない線形測定値から復元する問題を考察する。 ランダムな不連続行列値演算子の均一な濃度に基づいて, 最適なサンプル複雑性を持つ下降勾配の局所収束を確立する。
  論文  参考訳（メタデータ） (2020-10-31T15:03:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。