論文の概要: Priming PCA with EigenGame
- arxiv url: http://arxiv.org/abs/2109.03709v1
- Date: Wed, 8 Sep 2021 15:16:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-09 13:57:45.283458
- Title: Priming PCA with EigenGame
- Title(参考訳): EigenGameによるPCAのプライミング
- Authors: B\'alint M\'at\'e, Fran\c{c}ois Fleuret
- Abstract要約: 我々は最近提案されたEigenGameアルゴリズムの拡張である Primed-PCA を紹介した。
我々のアルゴリズムは、まずEigenGameを実行し、主成分の近似を取得し、次にその部分空間に正確なPCAを適用する。
実験では,元のEigenGame論文のデータセット上で,5~25因子による収束速度の向上を実現した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce primed-PCA (pPCA), an extension of the recently proposed
EigenGame algorithm for computing principal components in a large-scale setup.
Our algorithm first runs EigenGame to get an approximation of the principal
components, and then applies an exact PCA in the subspace they span. Since this
subspace is of small dimension in any practical use of EigenGame, this second
step is extremely cheap computationally. Nonetheless, it improves accuracy
significantly for a given computational budget across datasets. In this setup,
the purpose of EigenGame is to narrow down the search space, and prepare the
data for the second step, an exact calculation.
We show formally that pPCA improves upon EigenGame under very mild
conditions, and we provide experimental validation on both synthetic and real
large-scale datasets showing that it systematically translates to improved
performance. In our experiments we achieve improvements in convergence speed by
factors of 5-25 on the datasets of the original EigenGame paper.
- Abstract(参考訳): 本稿では,プライマリコンポーネントを大規模に計算するためのEigenGameアルゴリズムの拡張である Primed-PCA (pPCA) を紹介する。
我々のアルゴリズムは、まずEigenGameを実行し、主成分の近似を取得し、次にその部分空間に正確なPCAを適用する。
この部分空間はEigenGameの実用利用において小さな次元であるため、この第2段階は非常に安価である。
それでも、データセット全体の計算予算の精度は大幅に向上する。
この設定では、固有ゲームの目的は、探索空間を狭くし、データを第2段階の正確な計算のために準備することである。
我々はppcaが極めて穏やかな条件下で固有ゲームを改善することを正式に示し、合成データセットと実際の大規模データセットの両方について実験的な検証を行い、パフォーマンスの向上に体系的に変換することを示した。
実験では,元のEigenGame論文のデータセット上で,5~25因子による収束速度の向上を実現した。
関連論文リスト
- Learning-Augmented K-Means Clustering Using Dimensional Reduction [1.7243216387069678]
主成分分析(PCA)を用いたデータセットの次元性低減手法を提案する。
PCAは文献でよく確立されており、データモデリング、圧縮、可視化の最も有用なツールの1つになっている。
論文 参考訳(メタデータ) (2024-01-06T12:02:33Z) - PPI++: Efficient Prediction-Powered Inference [31.403415618169433]
PPI++: 小さなラベル付きデータセットと、通常より大きな機械学習予測データセットに基づく推定と推測の方法論を提案する。
これらの手法は、利用可能な予測の品質に自動的に適応し、容易に計算可能な信頼セットを得る。
PPI++は予測駆動推論(PPI)に基づいており、同じ問題設定をターゲットとし、計算効率と統計効率を改善している。
論文 参考訳(メタデータ) (2023-11-02T17:59:04Z) - Nearly-Linear Time and Streaming Algorithms for Outlier-Robust PCA [43.106438224356175]
ほぼ最適誤差保証付き頑健なPCAのためのニア線形時間アルゴリズムを開発した。
また,メモリ使用量にほぼ線形なロバストPCAのためのシングルパスストリーミングアルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-05-04T04:45:16Z) - Representation Learning for General-sum Low-rank Markov Games [63.119870889883224]
非線形関数近似を用いたマルチエージェント汎用マルコフゲームについて検討する。
遷移行列が未知の非線形表現の上に隠れた低ランク構造を持つ低ランクマルコフゲームに焦点を当てる。
論文 参考訳(メタデータ) (2022-10-30T22:58:22Z) - Shapley-NAS: Discovering Operation Contribution for Neural Architecture
Search [96.20505710087392]
ニューラルアーキテクチャ探索のための演算寄与度(Shapley-NAS)を評価するためのShapley値に基づく手法を提案する。
提案手法は,光探索コストに比例して最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-06-20T14:41:49Z) - Human-in-the-loop: Provably Efficient Preference-based Reinforcement
Learning with General Function Approximation [107.54516740713969]
本研究は,RL(Human-in-the-loop reinforcement learning)を軌道的嗜好で検討する。
各ステップで数値的な報酬を受ける代わりに、エージェントは人間の監督者から軌道上のペアよりも優先される。
一般関数近似を用いたPbRLの楽観的モデルベースアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-23T09:03:24Z) - An Extension to Basis-Hypervectors for Learning from Circular Data in
Hyperdimensional Computing [62.997667081978825]
超次元計算(Hyperdimensional Computing、HDC)は、高次元ランダム空間の性質に基づく計算フレームワークである。
本稿では, 基本超ベクトル集合について検討し, 一般にHDCへの実践的貢献につながっている。
本稿では,HDCを用いた機械学習において,これまでに扱ったことのない重要な情報である円形データから学習する手法を提案する。
論文 参考訳(メタデータ) (2022-05-16T18:04:55Z) - VSAC: Efficient and Accurate Estimator for H and F [68.65610177368617]
VSACはRANSAC型頑健な推定器であり、多くの新奇性がある。
従来のすべてのプロセッサよりも大幅に高速で、CPU上では平均1-2msで動作する。
現在最も正確な2次元幾何学推定器である MAGSAC++ と同等の精度で2桁高速である。
論文 参考訳(メタデータ) (2021-06-18T17:04:57Z) - EigenGame Unloaded: When playing games is better than optimizing [19.522120239876486]
EigenGameは、Eigen Decompositionを競争ゲームと見なしている。
我々は、最近提案されたEigenGameに基づいて、固有分解を競争ゲームとみなす。
論文 参考訳(メタデータ) (2021-02-08T12:04:59Z) - EigenGame: PCA as a Nash Equilibrium [21.548912902011054]
本稿では,主成分分析(PCA)を競争ゲームとして新たな視点を示す。
このPCAゲームの性質と勾配に基づく更新の挙動を解析する。
大規模画像データセットとニューラルネットワークアクティベーションの実験により,アルゴリズムのスケーラビリティを実証する。
論文 参考訳(メタデータ) (2020-10-01T17:12:33Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。