論文の概要: Finite-Particle Rates for Regularized Stein Variational Gradient Descent
- arxiv url: http://arxiv.org/abs/2602.05172v1
- Date: Thu, 05 Feb 2026 01:00:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-06 18:49:08.689993
- Title: Finite-Particle Rates for Regularized Stein Variational Gradient Descent
- Title（参考訳）: 規則化ステイン変分勾配発振のための有限粒子速度
- Authors: Ye He, Krishnakumar Balasubramanian, Sayan Banerjee, Promit Ghosal,
- Abstract要約: We derived finite- Particle rate for the regularized Stein variational descent gradient (R-SVGD) algorithm introduced by He et al。
結果として生じる相互作用である$N$-粒子系に対して、時間平均(アニール)経験的測度に対する明示的な非漸近境界を確立する。
解析では,連続時間と離散時間の両方を対象とし,正規化パラメータ,ステップサイズ,平均地平線に対する原則的チューニング規則を導出する。
- 参考スコア（独自算出の注目度）: 9.824622287505454
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We derive finite-particle rates for the regularized Stein variational gradient descent (R-SVGD) algorithm introduced by He et al. (2024) that corrects the constant-order bias of the SVGD by applying a resolvent-type preconditioner to the kernelized Wasserstein gradient. For the resulting interacting $N$-particle system, we establish explicit non-asymptotic bounds for time-averaged (annealed) empirical measures, illustrating convergence in the \emph{true} (non-kernelized) Fisher information and, under a $\mathrm{W}_1\mathrm{I}$ condition on the target, corresponding $\mathrm{W}_1$ convergence for a large class of smooth kernels. Our analysis covers both continuous- and discrete-time dynamics and yields principled tuning rules for the regularization parameter, step size, and averaging horizon that quantify the trade-off between approximating the Wasserstein gradient flow and controlling finite-particle estimation error.
- Abstract（参考訳）: 我々はHe et al (2024) が導入した正規化スタイン変分勾配勾配(R-SVGD)アルゴリズムの有限粒子速度を導出する。
結果として生じる$N$-粒子系に対して、平均的(熱)な経験的測度に対する明示的な非漸近的境界を確立し、(非カーネル化)フィッシャー情報およびターゲット上の$\mathrm{W}_1\mathrm{I}$条件の下で、滑らかなカーネルの大きなクラスに対する$\mathrm{W}_1$収束を示す。
本分析では, 連続時間と離散時間の両方を対象とし, 正則化パラメータ, ステップサイズ, 平均地平線について, ワッサーシュタイン勾配流の近似と有限粒子推定誤差の制御のトレードオフを定量化する。
関連論文リスト
- Finite-Sample Wasserstein Error Bounds and Concentration Inequalities for Nonlinear Stochastic Approximation [6.800624963330628]
ワッサーシュタイン-$p$距離における非線形近似アルゴリズムの非漸近誤差境界を導出する。
正規化された最後の繰り返しは、$p$-ワッサーシュタイン距離のガウス分布に階数$_n1/6$で収束することを示し、$_n$はステップサイズである。
これらの分布保証は、モーメント境界やマルコフの不等式から得られるものより改善される高確率濃度の不等式を暗示する。
論文 参考訳（メタデータ） (2026-02-02T18:41:06Z) - A Finite-Particle Convergence Rate for Stein Variational Gradient
Descent [47.6818454221125]
我々は、スタイン変分降下勾配(SVGD)に対する第1次有限粒子収束速度を提供する。
我々の明示的で非漸近的な証明戦略は、将来の改良のためのテンプレートとして役立ちます。
論文 参考訳（メタデータ） (2022-11-17T17:50:39Z) - Mean-Square Analysis with An Application to Optimal Dimension Dependence
of Langevin Monte Carlo [60.785586069299356]
この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。
我々の理論解析は数値実験によってさらに検証される。
論文 参考訳（メタデータ） (2021-09-08T18:00:05Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳（メタデータ） (2021-07-21T17:10:14Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳（メタデータ） (2021-06-30T17:51:36Z) - Large-Scale Wasserstein Gradient Flows [84.73670288608025]
ワッサーシュタイン勾配流を近似するスケーラブルなスキームを導入する。
我々のアプローチは、JKOステップを識別するために、入力ニューラルネットワーク(ICNN)に依存しています。
その結果、勾配拡散の各ステップで測定値からサンプリングし、その密度を計算することができる。
論文 参考訳（メタデータ） (2021-06-01T19:21:48Z) - A Non-Asymptotic Analysis for Stein Variational Gradient Descent [44.30569261307296]
定常変分勾配Descentアルゴリズムに対する新しい有限時間解析法を提案する。
アルゴリズムが各反復の目的を減少させることを示す降下補題を提供する。
また, SVGDの実用的実装に対応する有限粒子系の収束結果を, 集団バージョンに反映する。
論文 参考訳（メタデータ） (2020-06-17T12:01:33Z) - On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and
Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。
一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文 参考訳（メタデータ） (2020-04-09T17:54:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。