論文の概要: Statistical Optimality and Computational Efficiency of Nystr\"om Kernel PCA

• arxiv url: http://arxiv.org/abs/2105.08875v1
• Date: Wed, 19 May 2021 01:49:35 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-20 21:25:01.898762
• Title: Statistical Optimality and Computational Efficiency of Nystr\"om Kernel PCA
• Title（参考訳）: Nystr\"om Kernel PCAの統計的最適性と計算効率
• Authors: Nicholas Sterge, Bharath Sriperumbudur
• Abstract要約: 近似カーネル主成分分析(KPCA)における計算複雑性と統計的精度のトレードオフについて検討する。 KPCAに適用した場合、Nystr近似KPCAは、他の一般的な近似スキームであるランダム特徴近似の統計的挙動よりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 0.913755431537592
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Kernel methods provide an elegant framework for developing nonlinear learning algorithms from simple linear methods. Though these methods have superior empirical performance in several real data applications, their usefulness is inhibited by the significant computational burden incurred in large sample situations. Various approximation schemes have been proposed in the literature to alleviate these computational issues, and the approximate kernel machines are shown to retain the empirical performance. However, the theoretical properties of these approximate kernel machines are less well understood. In this work, we theoretically study the trade-off between computational complexity and statistical accuracy in Nystr\"om approximate kernel principal component analysis (KPCA), wherein we show that the Nystr\"om approximate KPCA matches the statistical performance of (non-approximate) KPCA while remaining computationally beneficial. Additionally, we show that Nystr\"om approximate KPCA outperforms the statistical behavior of another popular approximation scheme, the random feature approximation, when applied to KPCA.
• Abstract（参考訳）: カーネル法は、単純な線形手法から非線形学習アルゴリズムを開発するためのエレガントなフレームワークを提供する。 これらの手法は複数の実データアプリケーションにおいて優れた経験的性能を有するが、大規模なサンプル状況で発生する計算負荷によってその有用性は阻害される。 これらの計算問題を緩和するために様々な近似スキームが文献に提案されており、近似カーネルマシンは経験的性能を維持することが示されている。 しかし、これらの近似カーネルマシンの理論的性質はよく理解されていない。 本研究では,nystr\"om 近似核主成分分析 (kpca) における計算複雑性と統計精度のトレードオフを理論的に検討し,nystr\"om 近似 kpca が計算上有益でありながら (非近似) kpca の統計性能と一致することを示す。 さらに、Nystr\"om almost KPCA"は、KPCAに適用した場合に、他の一般的な近似手法であるランダム特徴近似の統計的挙動よりも優れていることを示す。

関連論文リスト

• Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
  ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。 カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。 我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-09T03:55:09Z)
• Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
  低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。 既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。 提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
  論文  参考訳（メタデータ） (2023-07-08T15:41:48Z)
• FaDIn: Fast Discretized Inference for Hawkes Processes with General Parametric Kernels [82.53569355337586]
  この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。 脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。 その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
  論文  参考訳（メタデータ） (2022-10-10T12:35:02Z)
• Learnable Faster Kernel-PCA for Nonlinear Fault Detection: Deep Autoencoder-Based Realization [7.057302509355857]
  カーネル主成分分析(KPCA)は、よく認識される非線形次元減少法である。 そこで本研究では,従来のKPCAのより高速な実現法を提案する。 提案したDAE-PCA法は, KPCAと等価であることが証明されているが, 入力に応じて最適な非線形高次元空間の自動探索において, より有利である。
  論文  参考訳（メタデータ） (2021-12-08T09:41:46Z)
• Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
  空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。 これらの問題に対する新規で簡単な最適化法を開発した。 結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-09-23T17:38:24Z)
• Kernel k-Means, By All Means: Algorithms and Strong Consistency [21.013169939337583]
  Kernel $k$クラスタリングは、非線形データの教師なし学習のための強力なツールである。 本稿では,最適化された局所解に対処するための一般的な手法を応用した結果を一般化する。 我々のアルゴリズムは、この非線形分離問題をよりよく解くために、Magricalization-minimization (MM) を利用している。
  論文  参考訳（メタデータ） (2020-11-12T16:07:18Z)
• A Perturbation-Based Kernel Approximation Framework [0.0]
  我々は、古典的摂動理論に基づく摂動に基づくカーネル近似フレームワークを導出する。 提案手法は, 近似されたカーネル行列の構造を利用するために調整可能な, 新たなカーネル近似スキームを創出することを示す。
  論文  参考訳（メタデータ） (2020-09-07T09:14:18Z)
• Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
  主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。 スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。 本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-23T04:25:36Z)
• Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
  我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。 本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
  論文  参考訳（メタデータ） (2020-05-22T22:30:52Z)
• Computing Valid p-value for Optimal Changepoint by Selective Inference using Dynamic Programming [21.361641617994714]
  変化点(CP)の意義を統計的に推測する新しい手法を提案する。 選択的推論(SI)フレームワークに基づき、CPの意義をテストするための有効なp値を計算するための正確な(漸近的でない)アプローチを提案する。 合成と実世界の両方のデータセットで実験を行い、提案手法が既存の手法よりも強力であることを示す。
  論文  参考訳（メタデータ） (2020-02-21T05:07:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。