論文の概要: Simple Relative Deviation Bounds for Covariance and Gram Matrices
- arxiv url: http://arxiv.org/abs/2410.05754v1
- Date: Tue, 8 Oct 2024 07:28:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-01 13:09:48.722097
- Title: Simple Relative Deviation Bounds for Covariance and Gram Matrices
- Title(参考訳): 共分散およびグラム行列に対する単純相対偏差境界
- Authors: Daniel Barzilai, Ohad Shamir,
- Abstract要約: 経験的共分散およびグラム行列の固有値に対する非漸近的相対偏差境界を提供する。
我々の結果はスペクトルをまたいだよりシャープな制御を提供する。
- 参考スコア(独自算出の注目度): 34.99810116340191
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We provide non-asymptotic, relative deviation bounds for the eigenvalues of empirical covariance and gram matrices in general settings. Unlike typical uniform bounds, which may fail to capture the behavior of smaller eigenvalues, our results provide sharper control across the spectrum. Our analysis is based on a general-purpose theorem that allows one to convert existing uniform bounds into relative ones. The theorems and techniques emphasize simplicity and should be applicable across various settings.
- Abstract(参考訳): 経験的共分散の固有値とグラム行列の一般設定に対する非漸近的相対偏差境界を提供する。
より小さな固有値の振る舞いを捉えるのに失敗する典型的な一様境界とは異なり、我々の結果はスペクトルにわたってよりシャープな制御を提供する。
我々の分析は、既存の一様有界を相対的有界に変換する一般の定理に基づいている。
定理と技法は単純さを強調し、様々な設定で適用されるべきである。
関連論文リスト
- Entrywise error bounds for low-rank approximations of kernel matrices [55.524284152242096]
切り抜き固有分解を用いて得られたカーネル行列の低ランク近似に対するエントリーワイド誤差境界を導出する。
重要な技術的革新は、小さな固有値に対応するカーネル行列の固有ベクトルの非局在化結果である。
我々は、合成および実世界のデータセットの集合に関する実証的研究により、我々の理論を検証した。
論文 参考訳(メタデータ) (2024-05-23T12:26:25Z) - A general error analysis for randomized low-rank approximation with application to data assimilation [42.57210316104905]
中心行列および非標準行列に対するフロベニウスノルムにおける低ランク近似誤差の解析のための枠組みを提案する。
最小限の仮定の下では、期待と確率の正確な境界を導出する。
私たちの境界には、プロパティを導出し、実践的な選択を動機付けるための明確な解釈があります。
論文 参考訳(メタデータ) (2024-05-08T04:51:56Z) - The Inductive Bias of Flatness Regularization for Deep Matrix
Factorization [58.851514333119255]
この研究は、ディープ線形ネットワークにおけるヘッセン解の最小トレースの帰納バイアスを理解するための第一歩となる。
測定値の標準等尺性(RIP)が1より大きいすべての深さについて、ヘッセンのトレースを最小化することは、対応する終端行列パラメータのシャッテン 1-ノルムを最小化するのとほぼ同値であることを示す。
論文 参考訳(メタデータ) (2023-06-22T23:14:57Z) - Quantitative deterministic equivalent of sample covariance matrices with
a general dependence structure [0.0]
我々は、次元とスペクトルパラメータの両方を含む量的境界を証明し、特に実正の半直線に近づくことを可能にする。
応用として、これらの一般モデルの経験スペクトル分布のコルモゴロフ距離の収束の新しい境界を得る。
論文 参考訳(メタデータ) (2022-11-23T15:50:31Z) - On the Importance of Gradient Norm in PAC-Bayesian Bounds [92.82627080794491]
対数ソボレフ不等式の縮約性を利用する新しい一般化法を提案する。
我々は、この新たな損失段階的ノルム項が異なるニューラルネットワークに与える影響を実証的に分析する。
論文 参考訳(メタデータ) (2022-10-12T12:49:20Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - On Uniform Convergence and Low-Norm Interpolation Learning [25.96459928769678]
経験的誤差と人口的誤差の差を均一に有界に表すことは,標準球における学習を全く示さないことを示す。
我々は、最小限のノルム補間器の整合性は、わずかに弱いが標準的概念、つまり標準球におけるゼロエラー予測器の一様収束で説明できると主張している。
論文 参考訳(メタデータ) (2020-06-10T16:49:28Z) - The semiring of dichotomies and asymptotic relative submajorization [0.0]
我々は、事前順序付き半環上のストラッセンの定理の一般化を用いて、量子二コトミーと非対称微分可能性の資源理論を研究する。
非正規化ジコトミー上で定義される相対的部分行列化の変種は、テンソル積の下で乗法的であり、直和の下で加法的である実数値モノトンによって特徴づけられる。
論文 参考訳(メタデータ) (2020-04-22T14:13:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。