論文の概要: Near-Linear Accuracy Bounds for Moreau--Yosida Unadjusted Langevin Sampling
- arxiv url: http://arxiv.org/abs/2609.40193v1
- Date: Wed, 30 Sep 2026 17:09:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:28.131231
- Title: Near-Linear Accuracy Bounds for Moreau--Yosida Unadjusted Langevin Sampling
- Title(参考訳): Moreau-Yosida 未調整 Langevin サンプリングのためのニア線形精度境界
- Abstract要約: モロー-ヨシダ非調整ランゲヴィンアルゴリズム(MYULA)のニア線形精度境界を確立する。
明示的なパラメータ依存のステップサイズ条件の下では、モロー平滑化対象に対する不変測度バイアスを$widetilde O(h)$で制限する。
我々の分析における鍵となる考え方は、ポアソンに基づく推定を用いて二階定常残差をワッサーシュタイン境界に変換することである。
- 参考スコア(独自算出の注目度): 9.454986540713655
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We establish near-linear accuracy bounds for the classical Moreau--Yosida unadjusted Langevin algorithm (MYULA). The target is $π\propto e^{-f-g}$, where $f\in C^2(\mathbb{R}^d)$ is $m$-strongly convex with Lipschitz gradient and $g$ is convex and globally Lipschitz. Under an explicit parameter-dependent step-size condition, we bound the invariant-measure bias relative to the Moreau-smoothed target by $\widetilde O(h)$, with only logarithmic dependence on the inverse smoothing parameter in the error coefficient. Combining this estimate with the Moreau approximation bias and Wasserstein contraction gives $\widetilde O(\varepsilon^{-1})$ iterations to make the $N$th-iterate law $μ_N$ satisfy $\sqrt m\,W_2(μ_N,π)\le\varepsilon$, for fixed model parameters and initialization. We bound the stationary error directly, without assuming third derivatives or a Lipschitz Hessian. Each iteration uses one gradient evaluation and one exact proximal evaluation. The key idea in our analysis is to convert a second-order stationary residual into a Wasserstein bound using a Poisson-based estimate.
- Abstract(参考訳): 古典的モロー-ヨシダ非調整ランゲヴィンアルゴリズム (MYULA) のニア線形精度境界を確立する。
ターゲットは$π\propto e^{-f-g}$で、$f\in C^2(\mathbb{R}^d)$は$m$-strongly convexでリプシッツ勾配を持ち、$g$は凸でグローバルなリプシッツである。
明示的なパラメータ依存的なステップサイズ条件の下では、モロー平滑化対象に対する不変測度バイアスを$\widetilde O(h)$で制限し、誤差係数の逆滑らか化パラメータにのみ対数依存する。
この推定とモロー近似バイアスとワッサーシュタインの縮約を組み合わせることで、固定モデルパラメータと初期化に対して、$N$th-iterate law $μ_N$ を $\sqrt m\,W_2(μ_N,π)\le\varepsilon$ とする、$\widetilde O(\varepsilon^{-1})$の反復が得られる。
3番目の微分やリプシッツ・ヘッセンを仮定することなく、定常誤差を直接有界とする。
各イテレーションは1つの勾配評価と1つの正確な近位評価を使用する。
我々の分析における鍵となる考え方は、ポアソンに基づく推定を用いて二階定常残差をワッサーシュタイン境界に変換することである。
関連論文リスト
- A stochastic subgradient method with optimal failure exponent [1.3537117504260623]
我々は,目標精度を超える最適差を観測する確率を最小化するアルゴリズムを設計する。
小音域では,Gsgens と van Parys (2025) の逆誤差モデルに縮退する。
論文 参考訳(メタデータ) (2026-09-29T12:53:57Z) - Convex Optimization Is Free When Accuracy Is Expensive [18.56538898519597]
我々は、勾配を正確に評価できないときに凸最適化を研究するが、精度$$$で$-$のように計算が成長するアルゴリズムの階層によってのみ近似される。
損失関数の最小化に要するコストは,問題要求の精度での勾配の1つの評価よりも,$のみに依存する。
論文 参考訳(メタデータ) (2026-09-28T15:30:18Z) - Penalized Nonreversible Langevin for Constrained Sampling [3.6350635582369417]
本稿では,$(x)propto ef(x)mathbf 1_mathcal C(x)から抽出するペナル化非可逆ランゲヴィンアルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-09-21T20:24:08Z) - Poisson-Corrector Complexity Bounds for Moreau--Yosida Unadjusted Langevin Sampling [9.454986540713655]
古典的モロー-ヨシダ非調整ランゲヴィンアルゴリズム(MYULA)を$(,mathrmd x)propto e-f(x)-g(x),mathrmd x$, where $fin C2(mathbbRd)$ is $m$-strongly convex with $L_f$-Lipschitz gradient and $g:mathbbRdtomathbbR$ is convex and global $G$-Lipschitz.
論文 参考訳(メタデータ) (2026-09-11T08:47:33Z) - Sublinear Time Quantum Sensitivity Sampling [57.356528942341534]
本稿では、量子感応サンプリングのための統一的なフレームワークを提案し、量子コンピューティングの利点を古典近似問題の幅広いクラスに拡張する。
我々のフレームワークは、コアセットを構築するための合理化されたアプローチを提供し、クラスタリング、回帰、低ランク近似などのアプリケーションにおいて、大幅なランタイム改善を提供します。
論文 参考訳(メタデータ) (2025-09-20T20:18:49Z) - ReSQueing Parallel and Private Stochastic Convex Optimization [59.53297063174519]
本稿では,BFG凸最適化(SCO: Reweighted Query (ReSQue) 推定ツールを提案する。
我々はSCOの並列およびプライベート設定における最先端の複雑さを実現するアルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-01-01T18:51:29Z) - Penalized Overdamped and Underdamped Langevin Monte Carlo Algorithms for Constrained Sampling [17.832449046193933]
目的が目標分布である$pi(x)prop ef(x)$から$x$が制約されたときにサンプリングする制約付きサンプリング問題を考える。
ペナルティ法によって動機付けられた制約付き問題を,制約違反に対するペナルティ関数を導入することにより,非制約サンプリング問題に変換する。
PSGLD と PSGULMC の場合、$tildemathcalO(d/varepsilon18)$ が強凸で滑らかであるとき、$tildemathcalO(d/varepsilon) を得る。
論文 参考訳(メタデータ) (2022-11-29T18:43:22Z) - Estimating the minimizer and the minimum value of a regression function
under passive design [72.85024381807466]
最小値 $boldsymbolx*$ と最小値 $f*$ を滑らかで凸な回帰関数 $f$ で推定する新しい手法を提案する。
2次リスクと$boldsymbolz_n$の最適化誤差、および$f*$を推定するリスクについて、漸近的でない上界を導出する。
論文 参考訳(メタデータ) (2022-11-29T18:38:40Z) - A Law of Robustness beyond Isoperimetry [84.33752026418045]
我々は、任意の分布上でニューラルネットワークパラメータを補間する頑健性の低い$Omega(sqrtn/p)$を証明した。
次に、$n=mathrmpoly(d)$のとき、スムーズなデータに対する過度なパラメータ化の利点を示す。
我々は、$n=exp(omega(d))$ のとき、$O(1)$-Lipschitz の頑健な補間関数の存在を否定する。
論文 参考訳(メタデータ) (2022-02-23T16:10:23Z) - A first-order primal-dual method with adaptivity to local smoothness [64.62056765216386]
凸凹対象 $min_x max_y f(x) + langle Ax, yrangle - g*(y)$, ここで、$f$ は局所リプシッツ勾配を持つ凸関数であり、$g$ は凸かつ非滑らかである。
主勾配ステップと2段ステップを交互に交互に行うCondat-Vuアルゴリズムの適応バージョンを提案する。
論文 参考訳(メタデータ) (2021-10-28T14:19:30Z) - Optimal Robust Linear Regression in Nearly Linear Time [97.11565882347772]
学習者が生成モデル$Y = langle X,w* rangle + epsilon$から$n$のサンプルにアクセスできるような高次元頑健な線形回帰問題について検討する。
i) $X$ is L4-L2 hypercontractive, $mathbbE [XXtop]$ has bounded condition number and $epsilon$ has bounded variance, (ii) $X$ is sub-Gaussian with identity second moment and $epsilon$ is
論文 参考訳(メタデータ) (2020-07-16T06:44:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。