論文の概要: A variational approach to dimension-free self-normalized concentration
- arxiv url: http://arxiv.org/abs/2508.06483v1
- Date: Fri, 08 Aug 2025 17:44:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-11 20:39:06.326672
- Title: A variational approach to dimension-free self-normalized concentration
- Title(参考訳): 次元自由自己正規化集中に対する変分的アプローチ
- Authors: Ben Chugg, Aaditya Ramdas,
- Abstract要約: 我々は、様々なよく知られた分布を含む尾条件であるsub-$psi$プロセスのバウンダリに焦点を当てる。
本研究の結果は, 行列式境界と条件数に基づく値との差を埋めるものである。
- 参考スコア(独自算出の注目度): 31.20747148247217
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the self-normalized concentration of vector-valued stochastic processes. We focus on bounds for sub-$\psi$ processes, a tail condition that encompasses a wide variety of well-known distributions (including sub-exponential, sub-Gaussian, sub-gamma, and sub-Poisson distributions). Our results recover and generalize the influential bound of Abbasi-Yadkori et al. (2011) and fill a gap in the literature between determinant-based bounds and those based on condition numbers. As applications we prove a Bernstein inequality for random vectors satisfying a moment condition (which is more general than boundedness), and also provide the first dimension-free, self-normalized empirical Bernstein inequality. Our techniques are based on the variational (PAC-Bayes) approach to concentration.
- Abstract(参考訳): ベクトル値確率過程の自己正規化濃度について検討する。
準指数分布、準ガウス分布、準ガンマ分布、準ポアソン分布を含む)様々なよく知られた分布を含む尾条件であるsub-$\psi$プロセスのバウンダリに焦点をあてる。
この結果は,Abbasi-Yadkori et al (2011) の影響力のある境界を回復・一般化し,行列式に基づく境界と条件数に基づく境界の文学的ギャップを埋めるものである。
応用として、モーメント条件を満たす確率ベクトルに対するベルンシュタインの不等式(これは有界性よりも一般である)を証明し、また、最初の次元自由で自己正規化された経験的ベルンシュタイン不等式を提供する。
本手法は, 濃度変動 (PAC-Bayes) 法に基づく。
関連論文リスト
- Convergence Rates for Distribution Matching with Sliced Optimal Transport [10.117027375572627]
そこで本研究では,スライス最適輸送に基づく分散マッチングの効率的な反復手法であるスライスマッチング方式について検討する。
鍵となる課題は、これらの不等式における定数の軌道に沿って制御することである。
ガウス分布に対して、このことがトラクタブルであることが示される。
論文 参考訳(メタデータ) (2026-02-11T09:47:52Z) - Universality of General Spiked Tensor Models [9.454986540713655]
高次元状態におけるランクワンスパイクテンソルモデルについて検討する。
本研究では,その高次元スペクトル挙動と統計的限界が非ガウス雑音に対して頑健であることを示す。
論文 参考訳(メタデータ) (2026-02-04T11:59:30Z) - Finite-Sample Wasserstein Error Bounds and Concentration Inequalities for Nonlinear Stochastic Approximation [6.800624963330628]
ワッサーシュタイン-$p$距離における非線形近似アルゴリズムの非漸近誤差境界を導出する。
正規化された最後の繰り返しは、$p$-ワッサーシュタイン距離のガウス分布に階数$_n1/6$で収束することを示し、$_n$はステップサイズである。
これらの分布保証は、モーメント境界やマルコフの不等式から得られるものより改善される高確率濃度の不等式を暗示する。
論文 参考訳(メタデータ) (2026-02-02T18:41:06Z) - Vector-valued self-normalized concentration inequalities beyond sub-Gaussianity [35.13282725119597]
我々は、準ガウス性を超えた光尾を持つ自己正規化過程に対する濃度境界(ベネットやバーンスタイン境界など)を提供する。
本稿では,オンライン線形回帰の文脈における結果の関連性について述べる。
論文 参考訳(メタデータ) (2025-11-05T16:27:02Z) - Limit Theorems for Stochastic Gradient Descent with Infinite Variance [51.4853131023238]
この勾配降下アルゴリズムは、適切なL'evy過程によって駆動されるオルンシュタイン-ルンシュタイン過程の定常分布として特徴付けられることを示す。
また、これらの結果の線形回帰モデルおよびロジスティック回帰モデルへの応用についても検討する。
論文 参考訳(メタデータ) (2024-10-21T09:39:10Z) - Ito Diffusion Approximation of Universal Ito Chains for Sampling, Optimization and Boosting [64.0722630873758]
我々は、ある微分方程式のオイラー・マルヤマ離散化のように見える、より一般で幅広いマルコフ連鎖、伊藤鎖を考える。
伊藤鎖の法則と微分方程式の間の$W_2$-距離の有界性を証明する。
論文 参考訳(メタデータ) (2023-10-09T18:38:56Z) - Unified framework for continuity of sandwiched Rényi divergences [0.0]
サンドイッチした R'enyi の発散に関連するエントロピー量に対する連続性境界を証明した。
別個の寄与として、近似量子マルコフ鎖の安定性の研究にALAFF法を用いる。
論文 参考訳(メタデータ) (2023-08-23T21:09:54Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Convergence and concentration properties of constant step-size SGD
through Markov chains [0.0]
定常段差勾配勾配(SGD)を用いた滑らかで強凸な目標の最適化について検討する。
緩やかに制御された分散を伴う不偏勾配推定に対して、反復は全変動距離の不変分布に収束することを示す。
全ての結果は無症状であり、その結果はいくつかのアプリケーションを通して議論されている。
論文 参考訳(メタデータ) (2023-06-20T12:36:28Z) - Stochastic Saddle Point Problems with Decision-Dependent Distributions [0.6091702876917279]
本稿では,静的設定と時間変化設定の両方において決定に依存するサドル点問題に焦点をあてる。
定常ミニマックス問題に対するサドル点である平衡点の概念を導入する。
原始双対アルゴリズムは、同様の方法でサドル点に収束することを示す。
論文 参考訳(メタデータ) (2022-01-07T03:36:41Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Generic Error Bounds for the Generalized Lasso with Sub-Exponential Data [4.56877715768796]
この研究は、部分指数データの仮定の下で一般化されたラッソの非漸近解析を行う。
本稿では,ジェネリックチェインに基づく証明戦略から自然に生じる2つの複雑性パラメータを用いて,推定誤差を制御できることを示す。
論文 参考訳(メタデータ) (2020-04-11T10:39:48Z) - On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and
Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。
一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文 参考訳(メタデータ) (2020-04-09T17:54:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。