論文の概要: Optimal Structured Principal Subspace Estimation: Metric Entropy and
Minimax Rates
- arxiv url: http://arxiv.org/abs/2002.07624v3
- Date: Mon, 16 Nov 2020 13:09:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-30 20:35:58.046707
- Title: Optimal Structured Principal Subspace Estimation: Metric Entropy and
Minimax Rates
- Title（参考訳）: 最適構造主部分空間推定:計量エントロピーとミニマックス率
- Authors: T. Tony Cai, Hongzhe Li and Rong Ma
- Abstract要約: 本稿では,一般構造主部分空間推定問題の統計的解析のための統一的な枠組みを提案する。
非負のPCA/SVD、スパースPCA/SVD、サブスペース制約PCA/SVD、スペクトルクラスタリングなどである。
一般的な結果を特定の設定に適用すると、それらの問題に対する収束の最小値が得られる。
- 参考スコア（独自算出の注目度）: 6.00362077400694
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Driven by a wide range of applications, many principal subspace estimation
problems have been studied individually under different structural constraints.
This paper presents a unified framework for the statistical analysis of a
general structured principal subspace estimation problem which includes as
special cases non-negative PCA/SVD, sparse PCA/SVD, subspace constrained
PCA/SVD, and spectral clustering. General minimax lower and upper bounds are
established to characterize the interplay between the information-geometric
complexity of the structural set for the principal subspaces, the
signal-to-noise ratio (SNR), and the dimensionality. The results yield
interesting phase transition phenomena concerning the rates of convergence as a
function of the SNRs and the fundamental limit for consistent estimation.
Applying the general results to the specific settings yields the minimax rates
of convergence for those problems, including the previous unknown optimal rates
for non-negative PCA/SVD, sparse SVD and subspace constrained PCA/SVD.
- Abstract（参考訳）: 幅広い応用により、多くの主部分空間推定問題は、異なる構造的制約の下で個別に研究されてきた。
本稿では,非負のPCA/SVD,スパースPCA/SVD,サブスペース制約PCA/SVD,スペクトルクラスタリングなどを含む一般構造主部分空間推定問題の統計的解析のための統一的な枠組みを提案する。
一般ミニマックス下界と上界は、主部分空間に対する構造集合の情報幾何学的複雑性、信号対雑音比(snr)と次元との相互作用を特徴付けるために確立される。
その結果、SNRの関数としての収束率と一貫した推定の基本的な限界に関する興味深い相転移現象が得られる。
一般的な結果を特定の設定に適用すると、非負のPCA/SVD、スパースSVD、サブスペース制約付きPCA/SVDに対する前の未知の最適レートを含む、これらの問題に対する収束の最小値が得られる。
関連論文リスト
- Stability and Generalization for Distributed SGDA [70.97400503482353]
分散SGDAのための安定性に基づく一般化分析フレームワークを提案する。
我々は, 安定性の誤差, 一般化ギャップ, 人口リスクの包括的分析を行う。
理論的結果から,一般化ギャップと最適化誤差のトレードオフが明らかになった。
論文 参考訳（メタデータ） (2024-11-14T11:16:32Z) - Optimal Differentially Private PCA and Estimation for Spiked Covariance Matrices [10.377683220196873]
共分散行列とその関連する主成分を推定することは、現代統計学における根本的な問題である。
スパイク共分散モデルにおける最適偏微分的主成分分析(PCA)と共分散推定について検討した。
計算効率のよい微分プライベート推定器を提案し、その極小極小性をガウス分布に対して証明する。
論文 参考訳（メタデータ） (2024-01-08T11:18:14Z) - Sparse PCA with Oracle Property [115.72363972222622]
新規な正規化を伴うスパースPCAの半定緩和に基づく推定器群を提案する。
我々は、家族内の別の推定器が、スパースPCAの標準半定緩和よりも、より急激な収束率を達成することを証明した。
論文 参考訳（メタデータ） (2023-12-28T02:52:54Z) - On the Estimation Performance of Generalized Power Method for
Heteroscedastic Probabilistic PCA [21.9585534723895]
我々は,少なくとも幾何的にあるしきい値に束縛されたGPM間の適切な繰り返しを仮定すると,GPMは,ある「相対分解」の残余部分であるしきい値に減少することを示す。
そこで本研究では,PCA手法を用いて,ガウス以下の雑音設定による優れた性能を示す。
論文 参考訳（メタデータ） (2023-12-06T11:41:17Z) - Stability and Generalization of the Decentralized Stochastic Gradient
Descent Ascent Algorithm [80.94861441583275]
本稿では,分散勾配勾配(D-SGDA)アルゴリズムの一般化境界の複雑さについて検討する。
本研究は,D-SGDAの一般化における各因子の影響を解析した。
また、最適凸凹設定を得るために一般化とバランスをとる。
論文 参考訳（メタデータ） (2023-10-31T11:27:01Z) - Operator learning with PCA-Net: upper and lower complexity bounds [2.375038919274297]
PCA-Netは、主成分分析とニューラルネットワークを組み合わせた、最近提案されたニューラルネットワークアーキテクチャである。
基礎作用素に対する最小の仮定の下で、新しい普遍近似結果が導出される。
PCA-Netは、ダーシー流とナビエ・ストークス方程式から生じる特定の興味を持つ演算子の一般的な呪いを克服することができる。
論文 参考訳（メタデータ） (2023-03-28T21:27:36Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳（メタデータ） (2022-10-08T08:26:22Z) - Relative Pose from SIFT Features [50.81749304115036]
基本行列の未知元と向きとスケールに関する新しい線形制約を導出する。
提案した制約は、合成環境における多くの問題と、80000以上の画像ペア上で公開されている実世界のデータセットでテストされる。
論文 参考訳（メタデータ） (2022-03-15T14:16:39Z) - Regularisation for PCA- and SVD-type matrix factorisations [0.0]
特異値分解(SVD)とその近縁な主成分分析(PCA)はよく知られた線形行列分解法である。
本稿では,正規化問題について考察し,最小化問題の異なる定式化が質的に異なる解をもたらすことを示す。
論文 参考訳（メタデータ） (2021-06-24T12:25:12Z) - An Optimal Statistical and Computational Framework for Generalized
Tensor Estimation [10.899518267165666]
本稿では,低ランクテンソル推定問題に対するフレキシブルなフレームワークについて述べる。
計算画像、ゲノミクス、ネットワーク解析の応用から多くの重要な例を含む。
論文 参考訳（メタデータ） (2020-02-26T01:54:35Z) - A General Framework for Consistent Structured Prediction with Implicit
Loss Embeddings [113.15416137912399]
構造化予測のための理論的・アルゴリズム的な枠組みを提案し,解析する。
問題に対して適切な幾何を暗黙的に定義する、損失関数の大規模なクラスについて検討する。
出力空間を無限の濃度で扱うとき、推定子の適切な暗黙の定式化が重要であることが示される。
論文 参考訳（メタデータ） (2020-02-13T10:30:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。