論文の概要: Minimax Estimation of Linear Functions of Eigenvectors in the Face of
Small Eigen-Gaps
- arxiv url: http://arxiv.org/abs/2104.03298v1
- Date: Wed, 7 Apr 2021 17:55:10 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-08 14:32:29.428711
- Title: Minimax Estimation of Linear Functions of Eigenvectors in the Face of
Small Eigen-Gaps
- Title(参考訳): 小型固有ギャップ面における固有ベクトルの線形関数のミニマックス推定
- Authors: Gen Li, Changxiao Cai, Yuantao Gu, H. Vincent Poor, Yuxin Chen
- Abstract要約: 固有ベクトル摂動解析は様々な統計データ科学の応用において重要な役割を果たす。
未知の固有ベクトルの任意の線型関数の摂動を特徴付ける統計理論の一組を開発する。
自然の「プラグイン」推定器に固有の非無視バイアス問題を緩和するために,非バイアス推定器を開発する。
- 参考スコア(独自算出の注目度): 95.62172085878132
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Eigenvector perturbation analysis plays a vital role in various statistical
data science applications. A large body of prior works, however, focused on
establishing $\ell_{2}$ eigenvector perturbation bounds, which are often highly
inadequate in addressing tasks that rely on fine-grained behavior of an
eigenvector. This paper makes progress on this by studying the perturbation of
linear functions of an unknown eigenvector. Focusing on two fundamental
problems -- matrix denoising and principal component analysis -- in the
presence of Gaussian noise, we develop a suite of statistical theory that
characterizes the perturbation of arbitrary linear functions of an unknown
eigenvector. In order to mitigate a non-negligible bias issue inherent to the
natural "plug-in" estimator, we develop de-biased estimators that (1) achieve
minimax lower bounds for a family of scenarios (modulo some logarithmic
factor), and (2) can be computed in a data-driven manner without sample
splitting. Noteworthily, the proposed estimators are nearly minimax optimal
even when the associated eigen-gap is substantially smaller than what is
required in prior theory.
- Abstract(参考訳): 固有ベクトル摂動解析は様々な統計データ科学の応用において重要な役割を果たす。
しかし、多くの先行研究は$\ell_{2}$ 固有ベクトル摂動境界の確立に焦点を合わせており、固有ベクトルのきめ細かい振る舞いに依存するタスクに対処するのにしばしば不十分である。
本稿では、未知固有ベクトルの線形関数の摂動を研究することにより、これを進行させる。
ガウスノイズの存在下では、行列分解と主成分分析という2つの基本的な問題に焦点を当て、未知固有ベクトルの任意の線型関数の摂動を特徴づける統計理論の組を開発する。
自然の「プラグイン」推定器に固有の非無視バイアス問題を緩和するため、(1)シナリオの族(いくつかの対数係数を変調)の最小値の最小値を達成する非バイアス推定器を開発し、(2)サンプル分割なしでデータ駆動型で計算できる。
注意すべきことに、提案された推定器は、関連する固有ギャップが以前の理論で必要とされるものよりもかなり小さい場合でも、ほぼ極小である。
関連論文リスト
- Entrywise error bounds for low-rank approximations of kernel matrices [55.524284152242096]
切り抜き固有分解を用いて得られたカーネル行列の低ランク近似に対するエントリーワイド誤差境界を導出する。
重要な技術的革新は、小さな固有値に対応するカーネル行列の固有ベクトルの非局在化結果である。
我々は、合成および実世界のデータセットの集合に関する実証的研究により、我々の理論を検証した。
論文 参考訳(メタデータ) (2024-05-23T12:26:25Z) - Robust Regularized Locality Preserving Indexing for Fiedler Vector
Estimation [32.26669925809068]
実世界の応用では、データは重い尾のノイズと、フィドラーベクトル推定値の構造の劣化をもたらす外れ値を受けることがある。
我々は、ラプラスベルトラミ作用素の非線形多様体構造を近似することを目的としたFiedlerベクトル推定のためのロバスト正規化局所性保存指数(RRLPI)法を設計する。
論文 参考訳(メタデータ) (2021-07-26T09:49:23Z) - Fine-grained Generalization Analysis of Vector-valued Learning [28.722350261462463]
正規化ベクトル値学習アルゴリズムの一般化解析を,出力次元に軽度依存する境界とサンプルサイズに高速速度を提示することで開始する。
最適化と学習の相互作用を理解するために、結果を使用して、ベクトル値関数による降下の最初の境界を導出します。
副生成物として、一般凸函数の項で定義される損失関数クラスに対してラデマッハ複雑性を導出する。
論文 参考訳(メタデータ) (2021-04-29T07:57:34Z) - Analysis of Truncated Orthogonal Iteration for Sparse Eigenvector
Problems [78.95866278697777]
本研究では,多元的固有ベクトルを分散制約で同時に計算するTruncated Orthogonal Iterationの2つの変種を提案する。
次に,我々のアルゴリズムを適用して,幅広いテストデータセットに対するスパース原理成分分析問題を解く。
論文 参考訳(メタデータ) (2021-03-24T23:11:32Z) - Probabilistic Simplex Component Analysis [66.30587591100566]
PRISMは、データ循環記述のシンプルさの頂点をデータから識別する確率論的シンプルコンポーネント分析手法である。
この問題には多様な応用があり、最も注目すべきはリモートセンシングにおけるハイパースペクトルアンミックスと機械学習における非負行列分解である。
論文 参考訳(メタデータ) (2021-03-18T05:39:00Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Semiparametric Nonlinear Bipartite Graph Representation Learning with
Provable Guarantees [106.91654068632882]
半パラメトリック指数族分布におけるパラメータの統計的推定問題として、両部グラフを考察し、その表現学習問題を定式化する。
提案手法は, 地中真理付近で強い凸性を示すため, 勾配降下法が線形収束率を達成できることを示す。
我々の推定器は指数族内の任意のモデル誤特定に対して頑健であり、広範な実験で検証されている。
論文 参考訳(メタデータ) (2020-03-02T16:40:36Z) - Tackling small eigen-gaps: Fine-grained eigenvector estimation and
inference under heteroscedastic noise [28.637772416856194]
ノイズの観測から、固有ベクトル推定と低ランク行列の推測に2つの根本的な課題が生じる。
未知固有ベクトルに対する推定と不確実性定量化手法を提案する。
未知固有値に対する信頼区間を構築するための最適手順を確立する。
論文 参考訳(メタデータ) (2020-01-14T04:26:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。