論文の概要: Entrywise convergence of iterative methods for eigenproblems
- arxiv url: http://arxiv.org/abs/2002.08491v2
- Date: Sat, 31 Oct 2020 02:06:19 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-30 13:53:42.507921
- Title: Entrywise convergence of iterative methods for eigenproblems
- Title(参考訳): 固有問題に対する逐次的手法の入出力収束
- Authors: Vasileios Charisopoulos, Austin R. Benson, Anil Damle
- Abstract要約: 距離が $ell_2 から infty$ ノルム で測定されるとき、部分空間反復の収束に対処する。
以上の結果から、ダウンストリームタスクで同等の性能を達成できると同時に、イテレーションを減らし、計算時間を大幅に短縮できることがわかった。
- 参考スコア(独自算出の注目度): 31.69089186688224
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Several problems in machine learning, statistics, and other fields rely on
computing eigenvectors. For large scale problems, the computation of these
eigenvectors is typically performed via iterative schemes such as subspace
iteration or Krylov methods. While there is classical and comprehensive
analysis for subspace convergence guarantees with respect to the spectral norm,
in many modern applications other notions of subspace distance are more
appropriate. Recent theoretical work has focused on perturbations of subspaces
measured in the $\ell_{2 \to \infty}$ norm, but does not consider the actual
computation of eigenvectors. Here we address the convergence of subspace
iteration when distances are measured in the $\ell_{2 \to \infty}$ norm and
provide deterministic bounds. We complement our analysis with a practical
stopping criterion and demonstrate its applicability via numerical experiments.
Our results show that one can get comparable performance on downstream tasks
while requiring fewer iterations, thereby saving substantial computational
time.
- Abstract(参考訳): 機械学習、統計学、その他の分野におけるいくつかの問題は固有ベクトルの計算に依存する。
大規模問題の場合、これらの固有ベクトルの計算は通常、部分空間反復法やクリロフ法のような反復スキームによって行われる。
スペクトルノルムに関して部分空間収束保証の古典的かつ包括的解析があるが、現代の多くの応用において、他の部分空間距離の概念はより適切である。
最近の理論的研究は、$\ell_{2 \to \infty}$ノルムで測定された部分空間の摂動に焦点を当てているが、固有ベクトルの実際の計算は考慮していない。
ここでは、距離が$\ell_{2 \to \infty}$ノルムで測られるときの部分空間反復の収束に対処し、決定論的境界を与える。
我々は,本分析を実践的な停止基準で補完し,数値実験による適用性を実証する。
その結果,ダウンストリームタスクで同等のパフォーマンスが得られると同時に,少ないイテレーションを要し,計算時間を大幅に節約できることがわかった。
関連論文リスト
- Pseudonorm Approachability and Applications to Regret Minimization [73.54127663296906]
我々は、高次元 $ell_infty$-approachability 問題を、低次元の擬ノルムアプローチ可能性問題に変換する。
我々は、$ell$や他のノルムに対するアプローチ可能性に関する以前の研究に類似した疑似ノルムアプローチ可能性のアルゴリズム理論を開発する。
論文 参考訳(メタデータ) (2023-02-03T03:19:14Z) - Constrained mixers for the quantum approximate optimization algorithm [55.41644538483948]
ヒルベルト空間全体の部分空間への発展を制限する混合作用素を構築するための枠組みを提案する。
我々は,「ワンホット」状態の部分空間を保存するために設計された「XY」ミキサーを,多くの計算基底状態によって与えられる部分空間の一般の場合に一般化する。
我々の分析は、現在知られているよりもCXゲートが少ない"XY"ミキサーのトロタライズも有効である。
論文 参考訳(メタデータ) (2022-03-11T17:19:26Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Weighting vectors for machine learning: numerical harmonic analysis
applied to boundary detection [3.8848561367220276]
距離空間がユークリッド空間であるとき、重み付けベクトルが境界検出の有効なツールであることを示す。
我々は,ベンチマークデータセット上での最先端技術の性能を競争力のある,あるいは超越した性能を示す。
論文 参考訳(メタデータ) (2021-06-01T22:14:22Z) - Minimax Estimation of Linear Functions of Eigenvectors in the Face of
Small Eigen-Gaps [95.62172085878132]
固有ベクトル摂動解析は様々な統計データ科学の応用において重要な役割を果たす。
未知の固有ベクトルの任意の線型関数の摂動を特徴付ける統計理論の一組を開発する。
自然の「プラグイン」推定器に固有の非無視バイアス問題を緩和するために,非バイアス推定器を開発する。
論文 参考訳(メタデータ) (2021-04-07T17:55:10Z) - Analysis of Truncated Orthogonal Iteration for Sparse Eigenvector
Problems [78.95866278697777]
本研究では,多元的固有ベクトルを分散制約で同時に計算するTruncated Orthogonal Iterationの2つの変種を提案する。
次に,我々のアルゴリズムを適用して,幅広いテストデータセットに対するスパース原理成分分析問題を解く。
論文 参考訳(メタデータ) (2021-03-24T23:11:32Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳(メタデータ) (2020-12-09T20:19:32Z) - Distributed Estimation for Principal Component Analysis: an Enlarged
Eigenspace Analysis [45.829683377074524]
本稿では,基本統計的機械学習問題,主成分分析(PCA)の分散推定について検討する。
本稿では,分散データのためのトップ$L$-dim固有空間を構築するための新しいマルチラウンドアルゴリズムを提案する。
我々のアルゴリズムは、シフト・アンド・インバート・プレコンディショニングと凸最適化を利用する。
論文 参考訳(メタデータ) (2020-04-05T22:28:08Z) - Linear-time inference for Gaussian Processes on one dimension [17.77516394591124]
本研究では,その線形スケーリング計算コストから,状態空間モデルが人気である1次元のサンプルデータについて検討する。
状態空間モデルは一般であり、任意の1次元ガウス過程を近似できるという予想の最初の一般的な証明を提供する。
LEGモデルで推論と学習を行う並列アルゴリズムを開発し、実データおよび合成データ上でアルゴリズムをテストし、数十億のサンプルを持つデータセットへのスケーリングを実証する。
論文 参考訳(メタデータ) (2020-03-11T23:20:13Z) - Dynamical perturbation theory for eigenvalue problems [0.0]
提案アルゴリズムは,通常のレイリー=シュル・オーディンガー展開を3つの数で上回ることを示す。
また,本手法は汎用固有値ルーチンよりも行列のサイズがよい。
論文 参考訳(メタデータ) (2020-02-28T17:13:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。