論文の概要: Anchored Stein Variational Gradient Descent Algorithm for Non-smooth Sampling
- arxiv url: http://arxiv.org/abs/2610.36018v1
- Date: Mon, 26 Oct 2026 17:36:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.389539
- Title: Anchored Stein Variational Gradient Descent Algorithm for Non-smooth Sampling
- Title(参考訳): 非平滑サンプリングのためのアンコレッドスタイン変分勾配ディフレッシュアルゴリズム
- Abstract要約: ターゲット密度$ppropto e-U$から、ターゲット電位$U$が非滑らかである場合にサンプリングするStein変分フレームワークを導入する。
その結果、アンカーされたスタイン変分勾配勾配アルゴリズムは、$U$の勾配を計算することなく$ppropto e-U$をターゲットにすることができる。
- 参考スコア(独自算出の注目度): 3.1321789981145076
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce a Stein variational framework for sampling from a target density $p\propto e^{-U}$ when the target potential $U$ is possibly non-smooth. The key idea is to introduce a smoother reference potential $U_0$ and the anchor weight $a=e^{U-U_0}$. The resulting anchored Stein variational gradient descent (SVGD) algorithm is able to target $p\propto e^{-U}$ without computing the gradient of $U$ and include standard SVGD as a special case. In particular, we allow the target potential $U$ to be locally Lipschitz while the reference potential $U_0$ is continuously differentiable, along with other suitable assumptions. Under this low regularity regime, we establish a Kullback-Leibler first variation formula for anchored perturbations, identify the corresponding steepest descent direction in the reproducing kernel Hilbert space and prove a nonasymptotic convergence bound for the anchored SVGD algorithm in terms of an anchored kernelized Stein discrepancy. Finally, we also provide guidance on constructing a suitable reference potential $U_0$ based on $U$.
- Abstract(参考訳): ターゲット密度$p\propto e^{-U}$からサンプリングするスタイン変分フレームワークを導入する。
鍵となるアイデアは、よりスムーズな参照ポテンシャル$U_0$とアンカーウェイト$a=e^{U-U_0}$を導入することである。
結果として得られるアンカー付きスタイン変分勾配勾配(SVGD)アルゴリズムは、$p\propto e^{-U}$を$U$の勾配を計算せず、特別なケースとして標準のSVGDを含めることができる。
特に、ターゲットポテンシャル$U$を局所リプシッツとし、参照ポテンシャル$U_0$は、他の適切な仮定とともに連続的に微分可能である。
この低規則性体制の下では、固定された摂動に対するKullback-Leibler第1変分式を確立し、再生されたカーネルヒルベルト空間における対応する最も急勾配方向を同定し、アンカー付きSVGDアルゴリズムの非漸近収束を、アンカー付きカーネル化されたスタイン差分法の観点から証明する。
最後に、$U$に基づいて適切な参照可能性$U_0$を構築するためのガイダンスも提供します。
関連論文リスト
- Spectral partitioning for $k$-block averaging kernels of finite Markov chains [2.9399121155604875]
我々は,有限でエルゴード的で可逆なマルコフ連鎖に対する平均化カーネルを定義する状態空間分割を選択するアルゴリズムを開発した。
制御スペクトルグラフ,平均場イジングモデル,ベイズ変分選択実験は収束率と統計的推定において顕著に改善された。
論文 参考訳(メタデータ) (2026-08-21T02:53:38Z) - Intrinsic Wasserstein Rates for Score-Based Generative Models on Smooth Manifolds [61.14405512940818]
Scoreベースの生成モデルは高次元空間で訓練されていることを示す。
有限固有アンカーとガウス・ニュートンによる最も近い射影座標のReLU実装を用いる。
論文 参考訳(メタデータ) (2026-05-15T10:20:05Z) - Near-Optimal Approximations for Bayesian Inference in Function Space [13.176654901681921]
再生カーネルヒルベルト空間(RKHS)上で定義されたベイズ後部に対するスケーラブルな推論アルゴリズムを提案する。
我々は、Kosambi-Karhunen-Loeve展開の最初の$M$成分への射影による無限次元ランゲヴィン拡散を近似する。
論文 参考訳(メタデータ) (2025-02-25T15:10:02Z) - ReSQueing Parallel and Private Stochastic Convex Optimization [59.53297063174519]
本稿では,BFG凸最適化(SCO: Reweighted Query (ReSQue) 推定ツールを提案する。
我々はSCOの並列およびプライベート設定における最先端の複雑さを実現するアルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-01-01T18:51:29Z) - Near-optimal fitting of ellipsoids to random points [68.12685213894112]
楕円体をランダムな点に合わせるという基本的な問題は、低ランク行列分解、独立成分分析、主成分分析に関係している。
我々はこの予想を、ある$n = Omega(, d2/mathrmpolylog(d))$ に対する適合楕円体を構成することで対数的因子まで解決する。
我々の証明は、ある非標準確率行列の便利な分解を用いて、サンダーソン等最小二乗構成の実現可能性を示す。
論文 参考訳(メタデータ) (2022-08-19T18:00:34Z) - Best Policy Identification in Linear MDPs [70.57916977441262]
縮退した線形マルコフ+デルタ決定における最適同定問題について, 生成モデルに基づく固定信頼度設定における検討を行った。
複雑な非最適化プログラムの解としての下位境界は、そのようなアルゴリズムを考案する出発点として用いられる。
論文 参考訳(メタデータ) (2022-08-11T04:12:50Z) - Convergence of Stein Variational Gradient Descent under a Weaker
Smoothness Condition [0.0]
確率分布からサンプリングするLangevin型アルゴリズムの代用として,Stein Variational Gradient Descent (SVGD) が重要である。
既存のランゲヴィン型アルゴリズムとSVGDの理論では、ポテンシャル関数 $V$ はしばしば $L$-smooth と仮定される。
論文 参考訳(メタデータ) (2022-06-01T14:08:35Z) - A first-order primal-dual method with adaptivity to local smoothness [64.62056765216386]
凸凹対象 $min_x max_y f(x) + langle Ax, yrangle - g*(y)$, ここで、$f$ は局所リプシッツ勾配を持つ凸関数であり、$g$ は凸かつ非滑らかである。
主勾配ステップと2段ステップを交互に交互に行うCondat-Vuアルゴリズムの適応バージョンを提案する。
論文 参考訳(メタデータ) (2021-10-28T14:19:30Z) - Complexity Analysis of Stein Variational Gradient Descent Under
Talagrand's Inequality T1 [12.848239550098697]
我々は、$pi(x) propto exp(-Fx)からサンプリングするアルゴリズムであるStein Variational Gradient Descent (SVGD)の複雑さについて検討する。
我々の重要な仮定は、対象分布が不等式の不等式 T1 を満たすことである。
論文 参考訳(メタデータ) (2021-06-06T09:51:32Z) - A Non-Asymptotic Analysis for Stein Variational Gradient Descent [44.30569261307296]
定常変分勾配Descentアルゴリズムに対する新しい有限時間解析法を提案する。
アルゴリズムが各反復の目的を減少させることを示す降下補題を提供する。
また, SVGDの実用的実装に対応する有限粒子系の収束結果を, 集団バージョンに反映する。
論文 参考訳(メタデータ) (2020-06-17T12:01:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。