論文の概要: A Perturbation-Based Kernel Approximation Framework
- arxiv url: http://arxiv.org/abs/2009.02955v2
- Date: Mon, 23 May 2022 17:18:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-21 02:20:30.331583
- Title: A Perturbation-Based Kernel Approximation Framework
- Title(参考訳): 摂動に基づくカーネル近似フレームワーク
- Authors: Roy Mitz, Yoel Shkolnisky
- Abstract要約: 我々は、古典的摂動理論に基づく摂動に基づくカーネル近似フレームワークを導出する。
提案手法は, 近似されたカーネル行列の構造を利用するために調整可能な, 新たなカーネル近似スキームを創出することを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Kernel methods are powerful tools in various data analysis tasks. Yet, in
many cases, their time and space complexity render them impractical for large
datasets. Various kernel approximation methods were proposed to overcome this
issue, with the most prominent method being the Nystr{\"o}m method. In this
paper, we derive a perturbation-based kernel approximation framework building
upon results from classical perturbation theory. We provide an error analysis
for this framework, and prove that in fact, it generalizes the Nystr{\"o}m
method and several of its variants. Furthermore, we show that our framework
gives rise to new kernel approximation schemes, that can be tuned to take
advantage of the structure of the approximated kernel matrix. We support our
theoretical results numerically and demonstrate the advantages of our
approximation framework on both synthetic and real-world data.
- Abstract(参考訳): カーネルメソッドは、さまざまなデータ分析タスクで強力なツールである。
しかし、多くの場合、その時間と空間の複雑さは、大きなデータセットでは実用的でない。
この問題を克服するために様々なカーネル近似法が提案され、最も顕著な方法はNystr{\"o}m法である。
本稿では,古典摂動理論の結果に基づく摂動に基づくカーネル近似フレームワークを導出する。
我々は,このフレームワークの誤差解析を行い,nystr{\"o}m法といくつかの変種を一般化することを証明する。
さらに,本フレームワークは,近似されたカーネル行列の構造を利用するように調整可能な,新しいカーネル近似スキームを創出することを示す。
理論結果を数値的に支援し,合成データと実世界データの両方に対する近似フレームワークの利点を実証する。
関連論文リスト
- Fast Dual Subgradient Optimization of the Integrated Transportation
Distance Between Stochastic Kernels [1.5229257192293204]
統合輸送距離であるワッサーシュタイン計量の一般化はマルコフ系の確率核間の新しい距離を確立する。
この計量は効率的な近似法の基盤として機能し、元のシステムのカーネルをカーネルに置き換え、限られた濃度で個別にサポートできるようにする。
計算コストのかかる行列演算を必要とせずに、これらの近似カーネルを迅速かつ効率的に構築できる特殊二元アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-03T15:44:17Z) - Higher-order topological kernels via quantum computation [68.8204255655161]
トポロジカルデータ分析(TDA)は、複雑なデータから意味のある洞察を抽出する強力なツールとして登場した。
本稿では,ベッチ曲線の次数増加に基づくBettiカーネルの量子的定義法を提案する。
論文 参考訳(メタデータ) (2023-07-14T14:48:52Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - Improved Convergence Rates for Sparse Approximation Methods in
Kernel-Based Learning [48.08663378234329]
カーネル・リッジ・レグレッションやガウシアン・プロセスのようなカーネル・ベース・モデルは機械学習の応用においてユビキタスである。
既存のスパース近似法は計算コストを大幅に削減することができる。
我々は,Nystr"om法と疎変動ガウス過程近似法に対して,新しい信頼区間を提供する。
論文 参考訳(メタデータ) (2022-02-08T17:22:09Z) - Linear Time Kernel Matrix Approximation via Hyperspherical Harmonics [3.24890820102255]
機械学習のカーネル手法で発生する行列の低ランク近似を構築するための新しい手法を提案する。
提案手法では,基礎となるカーネル関数の解析的拡張をデータ依存圧縮ステップと組み合わせて,近似をさらに最適化する。
実験の結果,提案手法は,与えられたランクの精度と,与えられた精度の計算時間の両方に関して,カーネル,次元,データセットにまたがってよく用いられるNystrom法と比較した。
論文 参考訳(メタデータ) (2022-02-08T05:19:39Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Statistical Optimality and Computational Efficiency of Nystr\"om Kernel
PCA [0.913755431537592]
近似カーネル主成分分析(KPCA)における計算複雑性と統計的精度のトレードオフについて検討する。
KPCAに適用した場合、Nystr近似KPCAは、他の一般的な近似スキームであるランダム特徴近似の統計的挙動よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-05-19T01:49:35Z) - Kernel k-Means, By All Means: Algorithms and Strong Consistency [21.013169939337583]
Kernel $k$クラスタリングは、非線形データの教師なし学習のための強力なツールである。
本稿では,最適化された局所解に対処するための一般的な手法を応用した結果を一般化する。
我々のアルゴリズムは、この非線形分離問題をよりよく解くために、Magricalization-minimization (MM) を利用している。
論文 参考訳(メタデータ) (2020-11-12T16:07:18Z) - Improved guarantees and a multiple-descent curve for Column Subset
Selection and the Nystr\"om method [76.73096213472897]
我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。
我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。
RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
論文 参考訳(メタデータ) (2020-02-21T00:43:06Z) - Geometric Interpretation of Running Nystr\"{o}m-Based Kernel Machines
and Error Analysis [35.01395939823442]
我々は,Nystr "om-based kernel machine" を実行するための幾何学的解釈を用いた新しい手法を開発した。
他の2つのよく研究されたアプローチは、等価に我々の提案したアプローチに変換できることを示す。
論文 参考訳(メタデータ) (2020-02-20T18:36:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。