論文の概要: On the Error-Propagation of Inexact Hotelling's Deflation for Principal Component Analysis
- arxiv url: http://arxiv.org/abs/2310.04283v2
- Date: Wed, 29 May 2024 16:17:24 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-31 02:11:35.638728
- Title: On the Error-Propagation of Inexact Hotelling's Deflation for Principal Component Analysis
- Title(参考訳): 主成分分析のための非接触ホテルリングのデフレの誤り伝播について
- Authors: Fangshuo Liao, Junhyung Lyle Kim, Cruz Barnum, Anastasios Kyrillidis,
- Abstract要約: 本稿では,不正確なHotellingのデフレ手法の誤差伝搬を数学的に特徴づける。
エラーがどのように進行し、その後の主成分推定に影響を及ぼすかを明確に特徴づける。
- 参考スコア(独自算出の注目度): 8.799674132085935
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Principal Component Analysis (PCA) aims to find subspaces spanned by the so-called principal components that best represent the variance in the dataset. The deflation method is a popular meta-algorithm that sequentially finds individual principal components, starting from the most important ones and working towards the less important ones. However, as deflation proceeds, numerical errors from the imprecise estimation of principal components propagate due to its sequential nature. This paper mathematically characterizes the error propagation of the inexact Hotelling's deflation method. We consider two scenarios: $i)$ when the sub-routine for finding the leading eigenvector is abstract and can represent various algorithms; and $ii)$ when power iteration is used as the sub-routine. In the latter case, the additional directional information from power iteration allows us to obtain a tighter error bound than the sub-routine agnostic case. For both scenarios, we explicitly characterize how the errors progress and affect subsequent principal component estimations.
- Abstract(参考訳): 主成分分析(PCA)は、データセットの分散を最もよく表す、いわゆる主成分によって分散される部分空間を見つけることを目的としている。
デフレレーション法は、最も重要でないものから始まり、重要でないものに向かって、個別の主成分を逐次発見する一般的なメタアルゴリズムである。
しかし、デフレが進むにつれて、主成分の不正確な推定による数値誤差は、その逐次的性質により伝播する。
本稿では,不正確なHotellingのデフレ手法の誤差伝搬を数学的に特徴づける。
先頭の固有ベクトルを見つけるためのサブルーチンが抽象的で、様々なアルゴリズムを表現できる場合の$i)$と、サブルーチンとしてパワーイテレーションが使用される場合の$ii)の2つのシナリオを考えます。
後者の場合、電力反復による追加方向情報により、サブルーチン非依存の場合よりも厳密な誤差が得られる。
どちらのシナリオでも、エラーがどのように進行し、その後の主成分推定に影響を及ぼすかを明確に特徴付ける。
関連論文リスト
- $e^{\text{RPCA}}$: Robust Principal Component Analysis for Exponential
Family Distributions [11.13032534597243]
指数族に対するロバスト主成分分析法(etextRPCA$)を提案する。
効率的な$etextRPCA$分解のための乗算器最適化アルゴリズムの新しい交互方向法を提案する。
次に、etextRPCA$の有効性を、鋼板欠陥検出のための第1と、アトランタ大都市圏における犯罪活動監視のための第2の2つのアプリケーションで示す。
論文 参考訳(メタデータ) (2023-10-30T17:51:30Z) - Revisiting Rotation Averaging: Uncertainties and Robust Losses [51.64986160468128]
現在の手法の主な問題は、推定エピポーラを通して入力データと弱い結合しか持たない最小コスト関数である。
本稿では,点対応から回転平均化への不確実性を直接伝播させることにより,基礎となる雑音分布をモデル化することを提案する。
論文 参考訳(メタデータ) (2023-03-09T11:51:20Z) - Quasi-parametric rates for Sparse Multivariate Functional Principal
Components Analysis [0.0]
最適化問題の解として固有値が表現可能であることを示す。
固有要素の平均2乗再構成誤差に基づいてミニマックス下限を定め、この手順がミニマックス感覚に最適な分散を有することを証明した。
論文 参考訳(メタデータ) (2022-12-19T13:17:57Z) - Signal Decomposition Using Masked Proximal Operators [9.267365602872134]
本稿では,ベクトル時系列信号を異なる特徴を持つ成分に分解する問題について考察する。
我々は、コンポーネントが損失関数(制約を含む)によって定義される、単純で一般的なフレームワークを提案する。
成分クラス損失関数が凸であるときに最適分解を求める2つの分散手法を与える。
論文 参考訳(メタデータ) (2022-02-18T18:05:33Z) - Instance-optimality in optimal value estimation: Adaptivity via
variance-reduced Q-learning [99.34907092347733]
本稿では,マルコフ決定過程における最適な$Q$値関数を離散状態と動作で推定する問題を解析する。
局所的なミニマックスフレームワークを用いて、この関数は任意の推定手順の精度の低い境界に現れることを示す。
他方,Q$ラーニングの分散還元版を解析することにより,状態と行動空間の対数的要因まで,下位境界のシャープさを確立する。
論文 参考訳(メタデータ) (2021-06-28T00:38:54Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Fundamental Limits and Tradeoffs in Invariant Representation Learning [99.2368462915979]
多くの機械学習アプリケーションは、2つの競合する目標を達成する表現を学習する。
ミニマックスゲーム理論の定式化は、精度と不変性の基本的なトレードオフを表す。
分類と回帰の双方において,この一般的かつ重要な問題を情報論的に解析する。
論文 参考訳(メタデータ) (2020-12-19T15:24:04Z) - A Framework for Private Matrix Analysis [20.407204637672887]
我々は、スペクトル近似、主成分分析、線形回帰のための空間微分プライベートアルゴリズムを第1の効率$o(W)$で提供する。
また、主成分分析の2つの重要な変種に対して、効率的な微分プライベートアルゴリズムを創出し、示す。
論文 参考訳(メタデータ) (2020-09-06T08:01:59Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z) - Revisiting SGD with Increasingly Weighted Averaging: Optimization and
Generalization Perspectives [50.12802772165797]
平均化手法は、全ての反復解を一つの解に結合する。
実験は、他の平均化方式と比較して、トレードオフと平均化の有効性を示した。
論文 参考訳(メタデータ) (2020-03-09T18:14:00Z) - Nonlinear Functional Output Regression: a Dictionary Approach [1.8160945635344528]
本稿では,辞書上に拡張された関数の予測を学習する新しい辞書ベースの手法であるプロジェクション・ラーニング(PL)を紹介する。
PLは機能的損失に基づいて経験的リスクを最小限にする。
PLは特に計算コストとパフォーマンスのトレードオフを享受しています。
論文 参考訳(メタデータ) (2020-03-03T10:31:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。