論文の概要: An Inverse-free Truncated Rayleigh-Ritz Method for Sparse Generalized
Eigenvalue Problem
- arxiv url: http://arxiv.org/abs/2003.10897v1
- Date: Tue, 24 Mar 2020 14:53:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-20 08:23:02.887782
- Title: An Inverse-free Truncated Rayleigh-Ritz Method for Sparse Generalized
Eigenvalue Problem
- Title(参考訳): スパース一般化固有値問題に対する逆除去レイリー・リッツ法
- Authors: Yunfeng Cai and Ping Li
- Abstract要約: Inverse-free truncated Rayleigh-Ritz method (em IFTRR) はスパース一般化固有値問題を効率的に解くために開発された。
先行固有ベクトルの支持セットを効果的に見つけることができる新しいトラクション戦略を提案する。
- 参考スコア(独自算出の注目度): 28.83358353043287
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper considers the sparse generalized eigenvalue problem (SGEP), which
aims to find the leading eigenvector with at most $k$ nonzero entries. SGEP
naturally arises in many applications in machine learning, statistics, and
scientific computing, for example, the sparse principal component analysis
(SPCA), the sparse discriminant analysis (SDA), and the sparse canonical
correlation analysis (SCCA). In this paper, we focus on the development of a
three-stage algorithm named {\em inverse-free truncated Rayleigh-Ritz method}
({\em IFTRR}) to efficiently solve SGEP. In each iteration of IFTRR, only a
small number of matrix-vector products is required. This makes IFTRR
well-suited for large scale problems. Particularly, a new truncation strategy
is proposed, which is able to find the support set of the leading eigenvector
effectively. Theoretical results are developed to explain why IFTRR works well.
Numerical simulations demonstrate the merits of IFTRR.
- Abstract(参考訳): 本稿では,最大で$k$非ゼロの固有ベクトルを求めるスパース一般化固有値問題 (SGEP) について考察する。
SGEPは、例えばスパース主成分分析(SPCA)、スパース判別分析(SDA)、スパース正準相関解析(SCCA)など、機械学習、統計、科学計算の多くの分野で自然に現れる。
本稿では, SGEP を効率的に解くために, 逆不整合Rayleigh-Ritz 法 ({\em IFTRR}) と呼ばれる3段階アルゴリズムの開発に着目する。
IFTRRの各イテレーションでは、少数の行列ベクトル積しか必要としない。
これによりIFTRRは大規模問題に適している。
特に,先行固有ベクトルの支持セットを効果的に見つけることができる新しいトラクション戦略が提案されている。
IFTRRがうまく機能する理由を説明するために理論的結果が開発された。
数値シミュレーションはIFTRRの利点を実証する。
関連論文リスト
- Entrywise error bounds for low-rank approximations of kernel matrices [55.524284152242096]
切り抜き固有分解を用いて得られたカーネル行列の低ランク近似に対するエントリーワイド誤差境界を導出する。
重要な技術的革新は、小さな固有値に対応するカーネル行列の固有ベクトルの非局在化結果である。
我々は、合成および実世界のデータセットの集合に関する実証的研究により、我々の理論を検証した。
論文 参考訳(メタデータ) (2024-05-23T12:26:25Z) - Multi-Irreducible Spectral Synchronization for Robust Rotation Averaging [1.2289361708127877]
雑音の測定値として、SO$における未知の向きの集合を$R_1, ..., R_Nで推定する方法を示す。
その結果, 正確な推定を実現するために, エフェクトが保証される計測ネットワークを考案する方法が示唆された。
論文 参考訳(メタデータ) (2023-11-28T06:25:26Z) - Error Bounds for Learning with Vector-Valued Random Features [2.375038919274297]
本稿では,ベクトル値ランダム特徴量(RF)を用いた学習の包括的誤り解析を提供する。
この理論は、完全な無限次元入力出力設定におけるRFリッジ回帰のために開発された。
論文 参考訳(メタデータ) (2023-05-26T18:00:08Z) - Exploring the Algorithm-Dependent Generalization of AUPRC Optimization
with List Stability [107.65337427333064]
AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。
本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。
3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
論文 参考訳(メタデータ) (2022-09-27T09:06:37Z) - Partial Least Square Regression via Three-factor SVD-type Manifold
Optimization for EEG Decoding [4.0204191666595595]
双グラスマン多様体 (PLSRbiGr) の最適化による部分最小二乗回帰(PLSR)の解法を提案する。
qlPLSRbiGrは、運動画像(MI)における脳波信号を復号する様々な実験と、定常視覚誘発電位(SSVEP)タスクで検証される。
論文 参考訳(メタデータ) (2022-08-09T11:57:02Z) - Entrywise Recovery Guarantees for Sparse PCA via Sparsistent Algorithms [9.112172220055431]
一般的な高次元のガウス設計の下で、スパースPCAに対して入出力$ell_2,infty$boundsを提供する。
提案手法は,確率の高い正しいサポートを選択するアルゴリズムであり,スパーシスタントなアルゴリズムである。
論文 参考訳(メタデータ) (2022-02-08T18:50:35Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - Minimax Estimation of Linear Functions of Eigenvectors in the Face of
Small Eigen-Gaps [95.62172085878132]
固有ベクトル摂動解析は様々な統計データ科学の応用において重要な役割を果たす。
未知の固有ベクトルの任意の線型関数の摂動を特徴付ける統計理論の一組を開発する。
自然の「プラグイン」推定器に固有の非無視バイアス問題を緩和するために,非バイアス推定器を開発する。
論文 参考訳(メタデータ) (2021-04-07T17:55:10Z) - Analysis of Truncated Orthogonal Iteration for Sparse Eigenvector
Problems [78.95866278697777]
本研究では,多元的固有ベクトルを分散制約で同時に計算するTruncated Orthogonal Iterationの2つの変種を提案する。
次に,我々のアルゴリズムを適用して,幅広いテストデータセットに対するスパース原理成分分析問題を解く。
論文 参考訳(メタデータ) (2021-03-24T23:11:32Z) - Proximal and Federated Random Reshuffling [11.83842808044211]
ランダムリシャッフルのための2つの新しいアルゴリズムを提案する。
ProxRR と FedRR は複合凸有限和最小化問題を解く。
ProxRRは、各イテレーションの近位演算子を評価するアルゴリズムよりも高速です。
論文 参考訳(メタデータ) (2021-02-12T18:59:24Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。