論文の概要: A variational approach to dimension-free self-normalized concentration
- arxiv url: http://arxiv.org/abs/2508.06483v1
- Date: Fri, 08 Aug 2025 17:44:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-11 20:39:06.326672
- Title: A variational approach to dimension-free self-normalized concentration
- Title(参考訳): 次元自由自己正規化集中に対する変分的アプローチ
- Authors: Ben Chugg, Aaditya Ramdas,
- Abstract要約: 我々は、様々なよく知られた分布を含む尾条件であるsub-$psi$プロセスのバウンダリに焦点を当てる。
本研究の結果は, 行列式境界と条件数に基づく値との差を埋めるものである。
- 参考スコア(独自算出の注目度): 31.20747148247217
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the self-normalized concentration of vector-valued stochastic processes. We focus on bounds for sub-$\psi$ processes, a tail condition that encompasses a wide variety of well-known distributions (including sub-exponential, sub-Gaussian, sub-gamma, and sub-Poisson distributions). Our results recover and generalize the influential bound of Abbasi-Yadkori et al. (2011) and fill a gap in the literature between determinant-based bounds and those based on condition numbers. As applications we prove a Bernstein inequality for random vectors satisfying a moment condition (which is more general than boundedness), and also provide the first dimension-free, self-normalized empirical Bernstein inequality. Our techniques are based on the variational (PAC-Bayes) approach to concentration.
- Abstract(参考訳): ベクトル値確率過程の自己正規化濃度について検討する。
準指数分布、準ガウス分布、準ガンマ分布、準ポアソン分布を含む)様々なよく知られた分布を含む尾条件であるsub-$\psi$プロセスのバウンダリに焦点をあてる。
この結果は,Abbasi-Yadkori et al (2011) の影響力のある境界を回復・一般化し,行列式に基づく境界と条件数に基づく境界の文学的ギャップを埋めるものである。
応用として、モーメント条件を満たす確率ベクトルに対するベルンシュタインの不等式(これは有界性よりも一般である)を証明し、また、最初の次元自由で自己正規化された経験的ベルンシュタイン不等式を提供する。
本手法は, 濃度変動 (PAC-Bayes) 法に基づく。
関連論文リスト
- Ito Diffusion Approximation of Universal Ito Chains for Sampling, Optimization and Boosting [64.0722630873758]
我々は、ある微分方程式のオイラー・マルヤマ離散化のように見える、より一般で幅広いマルコフ連鎖、伊藤鎖を考える。
伊藤鎖の法則と微分方程式の間の$W_2$-距離の有界性を証明する。
論文 参考訳(メタデータ) (2023-10-09T18:38:56Z) - Unified framework for continuity of sandwiched Rényi divergences [0.0]
サンドイッチした R'enyi の発散に関連するエントロピー量に対する連続性境界を証明した。
別個の寄与として、近似量子マルコフ鎖の安定性の研究にALAFF法を用いる。
論文 参考訳(メタデータ) (2023-08-23T21:09:54Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Convergence and concentration properties of constant step-size SGD
through Markov chains [0.0]
定常段差勾配勾配(SGD)を用いた滑らかで強凸な目標の最適化について検討する。
緩やかに制御された分散を伴う不偏勾配推定に対して、反復は全変動距離の不変分布に収束することを示す。
全ての結果は無症状であり、その結果はいくつかのアプリケーションを通して議論されている。
論文 参考訳(メタデータ) (2023-06-20T12:36:28Z) - Stochastic Saddle Point Problems with Decision-Dependent Distributions [0.6091702876917279]
本稿では,静的設定と時間変化設定の両方において決定に依存するサドル点問題に焦点をあてる。
定常ミニマックス問題に対するサドル点である平衡点の概念を導入する。
原始双対アルゴリズムは、同様の方法でサドル点に収束することを示す。
論文 参考訳(メタデータ) (2022-01-07T03:36:41Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Generic Error Bounds for the Generalized Lasso with Sub-Exponential Data [4.56877715768796]
この研究は、部分指数データの仮定の下で一般化されたラッソの非漸近解析を行う。
本稿では,ジェネリックチェインに基づく証明戦略から自然に生じる2つの複雑性パラメータを用いて,推定誤差を制御できることを示す。
論文 参考訳(メタデータ) (2020-04-11T10:39:48Z) - On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and
Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。
一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文 参考訳(メタデータ) (2020-04-09T17:54:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。