論文の概要: Kernel Subspace and Feature Extraction
- arxiv url: http://arxiv.org/abs/2301.01410v1
- Date: Wed, 4 Jan 2023 02:46:11 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-05 15:13:16.488314
- Title: Kernel Subspace and Feature Extraction
- Title(参考訳): カーネル部分空間と特徴抽出
- Authors: Xiangxiang Xu, Lizhong Zheng
- Abstract要約: 特徴部分空間の観点から,機械学習におけるカーネル手法について検討する。
我々は、ヒルシュフェルト-ゲベライン-レーニの最大相関関数からカーネルを構築し、最大相関カーネルを作成し、その情報理論の最適性を示す。
- 参考スコア(独自算出の注目度): 7.424262881242935
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We study kernel methods in machine learning from the perspective of feature
subspace. We establish a one-to-one correspondence between feature subspaces
and kernels and propose an information-theoretic measure for kernels. In
particular, we construct a kernel from Hirschfeld--Gebelein--R\'{e}nyi maximal
correlation functions, coined the maximal correlation kernel, and demonstrate
its information-theoretic optimality. We use the support vector machine (SVM)
as an example to illustrate a connection between kernel methods and feature
extraction approaches. We show that the kernel SVM on maximal correlation
kernel achieves minimum prediction error. Finally, we interpret the Fisher
kernel as a special maximal correlation kernel and establish its optimality.
- Abstract(参考訳): 特徴部分空間の観点から機械学習におけるカーネル手法について検討する。
特徴部分空間とカーネルの1対1対応性を確立し,カーネルの情報理論尺度を提案する。
特に、Hirschfeld--Gebelein--R\'{e}nyi の最大相関関数からカーネルを構築し、最大相関カーネルを作成し、その情報理論の最適性を示す。
サポートベクターマシン(SVM)を例として、カーネルメソッドと特徴抽出アプローチの接続を例に挙げる。
最大相関カーネル上のカーネルSVMが最小予測誤差を達成することを示す。
最後に、フィッシャーカーネルを特別な最大相関カーネルとして解釈し、その最適性を確立する。
関連論文リスト
- Spectral Truncation Kernels: Noncommutativity in $C^*$-algebraic Kernel Machines [12.11705128358537]
スペクトルトランケーションに基づく正定値カーネルの新しいクラスを提案する。
性能向上につながる要因であることを示す。
また,スペクトルトランケーションカーネルの表現能力を高めるための深層学習の視点も提案する。
論文 参考訳(メタデータ) (2024-05-28T04:47:12Z) - On the Approximation of Kernel functions [0.0]
論文はカーネル自体の近似に対処する。
単位立方体上のヒルベルト・ガウス核に対して、この論文は関連する固有関数の上界を確立する。
この改良により、Nystr"om法のような低階近似法が確かめられる。
論文 参考訳(メタデータ) (2024-03-11T13:50:07Z) - A new trigonometric kernel function for SVM [0.0]
本稿では,機械学習アルゴリズムのパラメータを1つ含む新しい三角関数を提案する。
また,カーネル-SVM法とカーネル-SVR法の実証評価を行い,その性能を実証した。
論文 参考訳(メタデータ) (2022-10-16T17:10:52Z) - Learning "best" kernels from data in Gaussian process regression. With
application to aerodynamics [0.4588028371034406]
本稿では,ガウス過程の回帰/クリギングサロゲートモデリング手法におけるカーネルの選択/設計アルゴリズムを紹介する。
アルゴリズムの最初のクラスはカーネルフローであり、機械学習の分類の文脈で導入された。
アルゴリズムの第2のクラスはスペクトル核リッジ回帰と呼ばれ、近似される関数のノルムが最小となるような「最良の」カーネルを選択することを目的としている。
論文 参考訳(メタデータ) (2022-06-03T07:50:54Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-06-18T08:33:45Z) - Taming Nonconvexity in Kernel Feature Selection---Favorable Properties
of the Laplace Kernel [77.73399781313893]
カーネルベースの特徴選択の客観的機能を確立することが課題である。
非言語最適化に利用可能な勾配に基づくアルゴリズムは、局所ミニマへの収束を保証できるだけである。
論文 参考訳(メタデータ) (2021-06-17T11:05:48Z) - Random Features for the Neural Tangent Kernel [57.132634274795066]
完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。
得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
論文 参考訳(メタデータ) (2021-04-03T09:08:12Z) - Flow-based Kernel Prior with Application to Blind Super-Resolution [143.21527713002354]
カーネル推定は一般にブラインド画像超解像(SR)の鍵となる問題の一つである
本稿では,カーネルモデリングのための正規化フローベースカーネルプリレント(fkp)を提案する。
合成および実世界の画像の実験により、提案したFKPがカーネル推定精度を大幅に向上することを示した。
論文 参考訳(メタデータ) (2021-03-29T22:37:06Z) - Isolation Distributional Kernel: A New Tool for Point & Group Anomaly
Detection [76.1522587605852]
分離分散カーネル(IDK)は2つの分布の類似性を測定する新しい方法である。
我々は、カーネルベースの異常検出のための新しいツールとして、IDKの有効性と効率を示す。
論文 参考訳(メタデータ) (2020-09-24T12:25:43Z) - A Mean-Field Theory for Learning the Sch\"{o}nberg Measure of Radial
Basis Functions [13.503048325896174]
トレーニングサンプルから放射基底関数のシュンベルク積分表現の分布を学習する。
スケーリング限界において、ランゲヴィン粒子の経験的測度が、反射的イオ拡散ドリフト過程の法則に収束することを証明する。
論文 参考訳(メタデータ) (2020-06-23T21:04:48Z) - Improved guarantees and a multiple-descent curve for Column Subset
Selection and the Nystr\"om method [76.73096213472897]
我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。
我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。
RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
論文 参考訳(メタデータ) (2020-02-21T00:43:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。