論文の概要: Analysis of Truncated Orthogonal Iteration for Sparse Eigenvector
Problems
- arxiv url: http://arxiv.org/abs/2103.13523v1
- Date: Wed, 24 Mar 2021 23:11:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-26 13:21:26.882639
- Title: Analysis of Truncated Orthogonal Iteration for Sparse Eigenvector
Problems
- Title(参考訳): スパース固有ベクトル問題に対するTrncated Orthogonal Iterationの解析
- Authors: Hexuan Liu and Aleksandr Aravkin
- Abstract要約: 本研究では,多元的固有ベクトルを分散制約で同時に計算するTruncated Orthogonal Iterationの2つの変種を提案する。
次に,我々のアルゴリズムを適用して,幅広いテストデータセットに対するスパース原理成分分析問題を解く。
- 参考スコア(独自算出の注目度): 78.95866278697777
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A wide range of problems in computational science and engineering require
estimation of sparse eigenvectors for high dimensional systems. Here, we
propose two variants of the Truncated Orthogonal Iteration to compute multiple
leading eigenvectors with sparsity constraints simultaneously. We establish
numerical convergence results for the proposed algorithms using a perturbation
framework, and extend our analysis to other existing alternatives for sparse
eigenvector estimation. We then apply our algorithms to solve the sparse
principle component analysis problem for a wide range of test datasets, from
simple simulations to real-world datasets including MNIST, sea surface
temperature and 20 newsgroups. In all these cases, we show that the new methods
get state of the art results quickly and with minimal parameter tuning.
- Abstract(参考訳): 計算科学と工学における幅広い問題には、高次元システムに対するスパース固有ベクトルの推定が必要である。
そこで本研究では,複数の先行固有ベクトルを同時に計算するTrncated Orthogonal Iterationの2つの変種を提案する。
摂動フレームワークを用いて提案アルゴリズムの数値収束結果を確立し,スパース固有ベクトル推定のための他の代替手法に解析を拡張した。
次に,本アルゴリズムを適用して,単純なシミュレーションからmnist,海面温度,20のニュースグループを含む実世界のデータセットまで,幅広いテストデータセットのスパース原理成分分析問題を解く。
これらすべてのケースにおいて,新しい手法は,パラメータチューニングを最小限に抑えつつ,成果を迅速に得ることを示す。
関連論文リスト
- Sample-Efficient Geometry Reconstruction from Euclidean Distances using Non-Convex Optimization [7.114174944371803]
ユークリッド距離情報点対を埋め込む適切な点を見つける問題は、コアタスクとサブマシン学習の問題の両方として生じる。
本稿では,最小限のサンプル数を考えると,この問題を解決することを目的とする。
論文 参考訳(メタデータ) (2024-10-22T13:02:12Z) - Fast Optimal Locally Private Mean Estimation via Random Projections [58.603579803010796]
ユークリッド球における高次元ベクトルの局所的プライベート平均推定の問題について検討する。
プライベート平均推定のための新しいアルゴリズムフレームワークであるProjUnitを提案する。
各ランダム化器はその入力をランダムな低次元部分空間に投影し、結果を正規化し、最適なアルゴリズムを実行する。
論文 参考訳(メタデータ) (2023-06-07T14:07:35Z) - Adaptive Stochastic Optimisation of Nonconvex Composite Objectives [2.1700203922407493]
一般化された複合ミラー降下アルゴリズムの一群を提案し,解析する。
適応的なステップサイズでは、提案アルゴリズムは問題の事前知識を必要とせずに収束する。
決定集合の低次元構造を高次元問題に活用する。
論文 参考訳(メタデータ) (2022-11-21T18:31:43Z) - Learning Linear Models Using Distributed Iterative Hessian Sketching [4.567810220723372]
観測データから線形システムのマルコフパラメータを学習する問題を考察する。
Hessian-Sketchingに基づくランダムに分散されたニュートンアルゴリズムは、$epsilon$-optimal Solutionを生成可能であることを示す。
論文 参考訳(メタデータ) (2021-12-08T04:07:23Z) - Probabilistic methods for approximate archetypal analysis [8.829245587252435]
Archetypal analysisは、探索データ分析のための教師なし学習手法である。
データの次元と表現の基数を低減するために,2つの前処理手法を導入する。
提案手法を応用して, 適度に大規模なデータセットを要約することで, 結果の有用性を実証する。
論文 参考訳(メタデータ) (2021-08-12T14:27:11Z) - Minimax Estimation of Linear Functions of Eigenvectors in the Face of
Small Eigen-Gaps [95.62172085878132]
固有ベクトル摂動解析は様々な統計データ科学の応用において重要な役割を果たす。
未知の固有ベクトルの任意の線型関数の摂動を特徴付ける統計理論の一組を開発する。
自然の「プラグイン」推定器に固有の非無視バイアス問題を緩和するために,非バイアス推定器を開発する。
論文 参考訳(メタデータ) (2021-04-07T17:55:10Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Stochastic Approximation for Online Tensorial Independent Component
Analysis [98.34292831923335]
独立成分分析(ICA)は統計機械学習や信号処理において一般的な次元削減ツールである。
本稿では,各独立成分を推定する副産物オンライン時系列アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-28T18:52:37Z) - Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。
我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。
得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文 参考訳(メタデータ) (2020-02-21T17:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。