論文の概要: ROIPCA: An online memory-restricted PCA algorithm based on rank-one
updates
- arxiv url: http://arxiv.org/abs/1911.11049v2
- Date: Wed, 7 Jun 2023 11:06:28 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-08 20:56:31.758658
- Title: ROIPCA: An online memory-restricted PCA algorithm based on rank-one
updates
- Title(参考訳): ROIPCA:ランクワン更新に基づくオンラインメモリ制限PCAアルゴリズム
- Authors: Roy Mitz, Yoel Shkolnisky
- Abstract要約: ランクワン更新に基づく2つのオンラインPCAアルゴリズムを提案する。
オンラインPCAにおけるfROIPCAと既存の勾配アルゴリズムの関係を示す。
我々は,既存の最先端アルゴリズムに対するアルゴリズムの利点を,精度と実行性の観点から数値的に示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Principal components analysis (PCA) is a fundamental algorithm in data
analysis. Its memory-restricted online versions are useful in many modern
applications, where the data are too large to fit in memory, or when data
arrive as a stream of items. In this paper, we propose ROIPCA and fROIPCA, two
online PCA algorithms that are based on rank-one updates. While ROIPCA is
typically more accurate, fROIPCA is faster and has comparable accuracy. We show
the relation between fROIPCA and an existing popular gradient algorithm for
online PCA, and in particular, prove that fROIPCA is in fact a gradient
algorithm with an optimal learning rate. We demonstrate numerically the
advantages of our algorithms over existing state-of-the-art algorithms in terms
of accuracy and runtime.
- Abstract(参考訳): 主成分分析(PCA)はデータ解析の基本的なアルゴリズムである。
そのメモリ制限付きオンラインバージョンは、データがメモリに収まるには大きすぎる、あるいはデータがアイテムのストリームとして到着する、多くのモダンなアプリケーションで有用である。
本稿では,ランクワン更新に基づく2つのオンラインPCAアルゴリズムであるROIPCAとfROIPCAを提案する。
ROIPCAは一般的により正確であるが、fROIPCAは高速で同等の精度を持つ。
オンラインPCAにおけるfROIPCAと既存の勾配アルゴリズムの関係を示し、特に、fROIPCAが学習速度が最適である勾配アルゴリズムであることを証明した。
我々は,既存の最先端アルゴリズムに対するアルゴリズムの利点を,精度と実行性の観点から数値的に示す。
関連論文リスト
- Accelerating Wireless Federated Learning via Nesterov's Momentum and
Distributed Principle Component Analysis [59.127630388320036]
サーバと作業員が無線チャネルを介して未コーディング情報を交換できるようにすることにより、無線連合学習システムについて検討する。
ワーカは、帯域幅に制限のあるチャネルを介して、しばしばサーバにローカルにアップロードするため、ワーカからサーバへのアップリンク送信は、通信ボトルネックとなる。
ワンショット分散原理成分分析(PCA)を利用して通信ボトルネックの次元を縮小する。
論文 参考訳(メタデータ) (2023-03-31T08:41:42Z) - Streaming Kernel PCA Algorithm With Small Space [24.003544967343615]
近年,大規模なデータセットを効率的に処理できるため,ストリーミングPCAが注目されている。
我々はOjaの従来のスキームに基づくKernel問題に対するストリーミングアルゴリズムを提案する。
提案アルゴリズムは,PCAのメモリ使用量を削減するとともに,その精度を維持するという課題に対処する。
論文 参考訳(メタデータ) (2023-03-08T13:13:33Z) - An online algorithm for contrastive Principal Component Analysis [9.090031210111919]
我々は、cPCA*のオンラインアルゴリズムを導き、局所的な学習規則でニューラルネットワークにマップできることを示し、エネルギー効率の良いニューロモルフィックハードウェアで実装できる可能性がある。
実際のデータセット上でのオンラインアルゴリズムの性能を評価し、元の定式化との相違点と類似点を強調した。
論文 参考訳(メタデータ) (2022-11-14T19:48:48Z) - Robust PCA for Anomaly Detection and Data Imputation in Seasonal Time
Series [0.0]
我々は、より大きなデータセットやストリーミングデータを処理するために、バッチ時間アルゴリズムのオンラインバージョンを開発する。
提案手法を異なるRPCAフレームワークと実証的に比較し,実運用環境での有効性を示す。
論文 参考訳(メタデータ) (2022-08-03T11:57:26Z) - Large-scale Optimization of Partial AUC in a Range of False Positive
Rates [51.12047280149546]
ROC曲線 (AUC) の下の領域は、機械学習において最も広く使われている分類モデルのパフォーマンス指標の1つである。
近年の封筒平滑化技術に基づく効率的な近似勾配降下法を開発した。
提案アルゴリズムは,効率のよい解法を欠くランク付けされた範囲損失の和を最小化するためにも利用できる。
論文 参考訳(メタデータ) (2022-03-03T03:46:18Z) - Breaking the Linear Iteration Cost Barrier for Some Well-known
Conditional Gradient Methods Using MaxIP Data-structures [49.73889315176884]
条件勾配法(CGM)は現代の機械学習で広く使われている。
ほとんどの取り組みは、全体の実行時間を短縮する手段として、イテレーションの数を減らすことに重点を置いています。
本稿では,多くの基本最適化アルゴリズムに対して,イテレーション毎のコストがパラメータ数にサブ線形である最初のアルゴリズムを示す。
論文 参考訳(メタデータ) (2021-11-30T05:40:14Z) - Double Coverage with Machine-Learned Advice [100.23487145400833]
オンラインの基本的な$k$-serverの問題を学習強化環境で研究する。
我々のアルゴリズムは任意の k に対してほぼ最適の一貫性-破壊性トレードオフを達成することを示す。
論文 参考訳(メタデータ) (2021-03-02T11:04:33Z) - Doubly Robust Off-Policy Actor-Critic: Convergence and Optimality [131.45028999325797]
ディスカウント型MDPのための2倍堅牢なオフポリチックAC(DR-Off-PAC)を開発した。
DR-Off-PACは、俳優と批評家の両方が一定のステップで同時に更新される単一のタイムスケール構造を採用しています。
有限時間収束速度を研究し, dr-off-pac のサンプル複雑性を特徴とし, $epsilon$-accurate optimal policy を得る。
論文 参考訳(メタデータ) (2021-02-23T18:56:13Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。