論文の概要: An online algorithm for contrastive Principal Component Analysis
- arxiv url: http://arxiv.org/abs/2211.07723v1
- Date: Mon, 14 Nov 2022 19:48:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-16 12:56:22.532255
- Title: An online algorithm for contrastive Principal Component Analysis
- Title(参考訳): コントラスト主成分分析のためのオンラインアルゴリズム
- Authors: Siavash Golkar, David Lipshutz, Tiberiu Tesileanu, Dmitri B.
Chklovskii
- Abstract要約: 我々は、cPCA*のオンラインアルゴリズムを導き、局所的な学習規則でニューラルネットワークにマップできることを示し、エネルギー効率の良いニューロモルフィックハードウェアで実装できる可能性がある。
実際のデータセット上でのオンラインアルゴリズムの性能を評価し、元の定式化との相違点と類似点を強調した。
- 参考スコア(独自算出の注目度): 9.090031210111919
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Finding informative low-dimensional representations that can be computed
efficiently in large datasets is an important problem in data analysis.
Recently, contrastive Principal Component Analysis (cPCA) was proposed as a
more informative generalization of PCA that takes advantage of contrastive
learning. However, the performance of cPCA is sensitive to hyper-parameter
choice and there is currently no online algorithm for implementing cPCA. Here,
we introduce a modified cPCA method, which we denote cPCA*, that is more
interpretable and less sensitive to the choice of hyper-parameter. We derive an
online algorithm for cPCA* and show that it maps onto a neural network with
local learning rules, so it can potentially be implemented in energy efficient
neuromorphic hardware. We evaluate the performance of our online algorithm on
real datasets and highlight the differences and similarities with the original
formulation.
- Abstract(参考訳): 大規模データセットで効率的に計算できる情報的低次元表現を見つけることは、データ解析において重要な問題である。
近年, コントラッシブ・プリンシパル・コンポーネント分析 (cPCA) は, コントラッシブ・ラーニングを生かしたPCAのより情報的な一般化として提案されている。
しかし、cPCAの性能はハイパーパラメータの選択に敏感であり、cPCAを実装するためのオンラインアルゴリズムはない。
本稿では,cPCA* を改良した cPCA 法を提案する。
我々は、cPCA*のオンラインアルゴリズムを導き、局所的な学習規則でニューラルネットワークにマップできることを示し、エネルギー効率の良いニューロモルフィックハードウェアで実装できる可能性がある。
実際のデータセット上でのオンラインアルゴリズムの性能を評価し,元の定式化との相違点と類似点を強調する。
関連論文リスト
- Learning-Augmented K-Means Clustering Using Dimensional Reduction [1.7243216387069678]
主成分分析(PCA)を用いたデータセットの次元性低減手法を提案する。
PCAは文献でよく確立されており、データモデリング、圧縮、可視化の最も有用なツールの1つになっている。
論文 参考訳(メタデータ) (2024-01-06T12:02:33Z) - Deep Unrolling for Nonconvex Robust Principal Component Analysis [75.32013242448151]
我々はロバスト成分分析のためのアルゴリズムを設計する(A)
行列を低主行列とスパース主行列の和に分解する。
論文 参考訳(メタデータ) (2023-07-12T03:48:26Z) - Improved Privacy-Preserving PCA Using Optimized Homomorphic Matrix
Multiplication [0.0]
主成分分析(英: principal Component Analysis、PCA)は、機械学習とデータ分析の領域で広く利用されている重要な技術である。
近年,セキュアなクラウドコンピューティングシナリオにおいて,プライバシ保護型PCAアルゴリズムの同型暗号化を活用する取り組みが進められている。
本稿では,これらの制約に対処するプライバシー保護PCAに対して,従来の手法に比べて効率,精度,拡張性に優れる新たなアプローチを提案する。
論文 参考訳(メタデータ) (2023-05-27T02:51:20Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Domain Adaptation Principal Component Analysis: base linear method for
learning with out-of-distribution data [55.41644538483948]
ドメイン適応は現代の機械学習において一般的なパラダイムである。
ドメイン適応主成分分析(DAPCA)という手法を提案する。
DAPCAは、領域適応タスクの解決に有用な線形化データ表現を見つける。
論文 参考訳(メタデータ) (2022-08-28T21:10:56Z) - Stabilizing Q-learning with Linear Architectures for Provably Efficient
Learning [53.17258888552998]
本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。
このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
論文 参考訳(メタデータ) (2022-06-01T23:26:51Z) - FAST-PCA: A Fast and Exact Algorithm for Distributed Principal Component
Analysis [12.91948651812873]
主成分分析(PCA)は、機械学習の世界における基本的なデータ前処理ツールである。
本稿では,FAST-PCA (Fast and exact distributed PCA) と呼ばれる分散PCAアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-08-27T16:10:59Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Principal Ellipsoid Analysis (PEA): Efficient non-linear dimension
reduction & clustering [9.042239247913642]
本稿では,データとより柔軟なクラスタ形状の非線形関係を実現することにより,PCAとk平均の改善に焦点を当てる。
鍵となる貢献は、PCAに代わる単純で効率的な代替品を定義する、PEA(Principal Analysis)の新しいフレームワークである。
さまざまな実際のデータクラスタリングアプリケーションにおいて、PEAは単純なデータセットのためのk-meansと同様に機能し、より複雑な設定でパフォーマンスを劇的に改善する。
論文 参考訳(メタデータ) (2020-08-17T06:25:50Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z) - ROIPCA: An online memory-restricted PCA algorithm based on rank-one
updates [0.0]
ランクワン更新に基づく2つのオンラインPCAアルゴリズムを提案する。
オンラインPCAにおけるfROIPCAと既存の勾配アルゴリズムの関係を示す。
我々は,既存の最先端アルゴリズムに対するアルゴリズムの利点を,精度と実行性の観点から数値的に示す。
論文 参考訳(メタデータ) (2019-11-25T17:00:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。