論文の概要: Upper and Lower Bounds on the Performance of Kernel PCA
- arxiv url: http://arxiv.org/abs/2012.10369v1
- Date: Fri, 18 Dec 2020 17:19:31 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-01 18:19:34.206510
- Title: Upper and Lower Bounds on the Performance of Kernel PCA
- Title(参考訳): カーネルPCAの性能に関する上下境界
- Authors: Maxime Haddouche and Benjamin Guedj and Omar Rivasplata and John
Shawe-Taylor
- Abstract要約: 我々はカーネルpcaの効率について下界と上界に寄与する。
2つの境界は固定推定値であり、2つはPAC-ベイズ理論によるランダム化推定値である。
我々はカーネルPCAアルゴリズムの強みと限界を強調するために境界を散布します。
- 参考スコア(独自算出の注目度): 15.745403317380282
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Principal Component Analysis (PCA) is a popular method for dimension
reduction and has attracted an unfailing interest for decades. Recently, kernel
PCA has emerged as an extension of PCA but, despite its use in practice, a
sound theoretical understanding of kernel PCA is missing. In this paper, we
contribute lower and upper bounds on the efficiency of kernel PCA, involving
the empirical eigenvalues of the kernel Gram matrix. Two bounds are for fixed
estimators, and two are for randomized estimators through the PAC-Bayes theory.
We control how much information is captured by kernel PCA on average, and we
dissect the bounds to highlight strengths and limitations of the kernel PCA
algorithm. Therefore, we contribute to the better understanding of kernel PCA.
Our bounds are briefly illustrated on a toy numerical example.
- Abstract(参考訳): 主成分分析(PCA)は次元減少のための一般的な手法であり、何十年にもわたって不利な関心を集めてきた。
近年,カーネルPCAはPCAの拡張として現れているが,実際にはカーネルPCAの健全な理論的理解が欠落している。
本稿では,カーネルグラム行列の経験的固有値を含む,カーネルPCAの効率の低値と上値に寄与する。
2つの境界は固定推定値であり、2つはPAC-ベイズ理論によるランダム化推定値である。
我々は,カーネルPCAアルゴリズムの強みと限界を強調するために,カーネルPCAが取得する情報量を平均で制御する。
そこで我々は,カーネルPCAの理解を深めることに貢献した。
私たちの境界は、おもちゃの数値例に簡潔に示されています。
関連論文リスト
- Sparse PCA with Oracle Property [115.72363972222622]
新規な正規化を伴うスパースPCAの半定緩和に基づく推定器群を提案する。
我々は、家族内の別の推定器が、スパースPCAの標準半定緩和よりも、より急激な収束率を達成することを証明した。
論文 参考訳(メタデータ) (2023-12-28T02:52:54Z) - Empirical Bayes Covariance Decomposition, and a solution to the Multiple
Tuning Problem in Sparse PCA [2.5382095320488673]
スパース主成分分析(PCA)は,PCAの解釈可能性と信頼性を両立させる手法として提案されている。
経験ベイズ法による「複数チューニング問題」の解法を提案する。
論文 参考訳(メタデータ) (2023-12-06T04:00:42Z) - Accelerating Wireless Federated Learning via Nesterov's Momentum and
Distributed Principle Component Analysis [59.127630388320036]
サーバと作業員が無線チャネルを介して未コーディング情報を交換できるようにすることにより、無線連合学習システムについて検討する。
ワーカは、帯域幅に制限のあるチャネルを介して、しばしばサーバにローカルにアップロードするため、ワーカからサーバへのアップリンク送信は、通信ボトルネックとなる。
ワンショット分散原理成分分析(PCA)を利用して通信ボトルネックの次元を縮小する。
論文 参考訳(メタデータ) (2023-03-31T08:41:42Z) - Kernel PCA for multivariate extremes [0.0]
カーネルPCAはクラスタリングと次元削減のための強力なツールであることを示す。
極端サンプルに基づくカーネルPCAの性能に関する理論的保証を与える。
本手法の有限性能を実証する数値実験により,本研究の成果を補完する。
論文 参考訳(メタデータ) (2022-11-23T17:50:06Z) - Bayes-optimal limits in structured PCA, and how to reach them [21.3083877172595]
本研究では,主成分分析(PCA)のパラダイム行列モデルについて検討し,次数1の行列が付加雑音によって劣化することを示した。
このモデルにおいて、ベイズ-最適推論の極限を初めて特徴づける。
本稿では、適応的Thouless-Anderson-Palmer方程式の理論に着想を得た、新しい近似メッセージパッシングアルゴリズム(AMP)を提案する。
論文 参考訳(メタデータ) (2022-10-03T21:31:41Z) - Sparse PCA on fixed-rank matrices [0.05076419064097732]
共分散行列のランクが固定値であれば、大域的最適性に対してスパースPCAを解くアルゴリズムが存在することを示す。
また,主成分の非結合性を必要とするスパースPCAについても同様の結果が得られた。
論文 参考訳(メタデータ) (2022-01-07T15:05:32Z) - FAST-PCA: A Fast and Exact Algorithm for Distributed Principal Component
Analysis [12.91948651812873]
主成分分析(PCA)は、機械学習の世界における基本的なデータ前処理ツールである。
本稿では,FAST-PCA (Fast and exact distributed PCA) と呼ばれる分散PCAアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-08-27T16:10:59Z) - Kernel Mean Estimation by Marginalized Corrupted Distributions [96.9272743070371]
カーネル平均をヒルベルト空間で推定することは、多くのカーネル学習アルゴリズムにおいて重要な要素である。
本稿では,カーネル平均推定器としてカーネル平均推定器を提案する。
論文 参考訳(メタデータ) (2021-07-10T15:11:28Z) - Turning Channel Noise into an Accelerator for Over-the-Air Principal
Component Analysis [65.31074639627226]
主成分分析(PCA)は、データセットの線形構造を抽出するための技術です。
勾配降下アルゴリズムに基づくマルチアクセスチャネル上にPCAを配置する手法を提案する。
オーバー・ザ・エア・アグリゲーションはマルチ・アクセスの遅延を減らすために採用され、オーバー・ザ・エア・PCAという名称を与える。
論文 参考訳(メタデータ) (2021-04-20T16:28:33Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z) - Free Energy Wells and Overlap Gap Property in Sparse PCA [81.64027805404483]
我々は「ハード」体制におけるスパースPCA問題(主成分分析)の変種について検討する。
問題に自然に関連付けられた様々なギブズ測度に対する自由エネルギー井戸の深さの有界性を示す。
我々は、オーバーラップギャップ特性(OGP)がハードレジームの重要な部分を占めていることを証明した。
論文 参考訳(メタデータ) (2020-06-18T17:18:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。