論文の概要: New Equivalences Between Interpolation and SVMs: Kernels and Structured Features

• arxiv url: http://arxiv.org/abs/2305.02304v1
• Date: Wed, 3 May 2023 17:52:40 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-04 13:49:52.526616
• Title: New Equivalences Between Interpolation and SVMs: Kernels and Structured Features
• Title（参考訳）: 補間とSVMの新たな等価性:カーネルと構造的特徴
• Authors: Chiraag Kaushik, Andrew D. McRae, Mark A. Davenport, Vidya Muthukumar
• Abstract要約: 本稿では、任意のカーネルを再生するヒルベルト空間において、ラベルに対するフレキシブルな生成モデルのクラスでSVPを証明するための新しいフレキシブルな分析フレームワークを提案する。 我々は、SVPが以前の作業でカバーされていない多くの興味深い設定で発生していることを示し、カーネルSVM分類のための新しい一般化結果を証明するためにこれらの結果を活用する。
• 参考スコア（独自算出の注目度）: 22.231455330003328
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The support vector machine (SVM) is a supervised learning algorithm that finds a maximum-margin linear classifier, often after mapping the data to a high-dimensional feature space via the kernel trick. Recent work has demonstrated that in certain sufficiently overparameterized settings, the SVM decision function coincides exactly with the minimum-norm label interpolant. This phenomenon of support vector proliferation (SVP) is especially interesting because it allows us to understand SVM performance by leveraging recent analyses of harmless interpolation in linear and kernel models. However, previous work on SVP has made restrictive assumptions on the data/feature distribution and spectrum. In this paper, we present a new and flexible analysis framework for proving SVP in an arbitrary reproducing kernel Hilbert space with a flexible class of generative models for the labels. We present conditions for SVP for features in the families of general bounded orthonormal systems (e.g. Fourier features) and independent sub-Gaussian features. In both cases, we show that SVP occurs in many interesting settings not covered by prior work, and we leverage these results to prove novel generalization results for kernel SVM classification.
• Abstract（参考訳）: サポートベクトルマシン(英語: Support vector machine、SVM)は、カーネルトリックを介してデータを高次元の特徴空間にマッピングした後、最大有界線形分類器を見つける教師付き学習アルゴリズムである。 最近の研究では、一定の過パラメータ設定において、svm決定関数は最小ノルムラベル補間関数と正確に一致することが示されている。 線形およびカーネルモデルにおける近年の無害補間解析を活用し,svm性能の理解を可能にするため,サポートベクター増殖(svp)現象は特に興味深い。 しかし、SVPに関する以前の研究は、データ/機能分布とスペクトルについて制限的な仮定をしてきた。 本稿では,任意の再生カーネルHilbert空間において,ラベル生成モデルの柔軟なクラスを持つSVPを証明するための,新しいフレキシブルな解析フレームワークを提案する。 一般有界正則系(例えばフーリエ特徴)と独立ガウス的部分ガウス的特徴の族における特徴に対するSVPの条件を示す。 どちらの場合も、SVPは以前の作業でカバーされていない多くの興味深い設定で発生し、これらの結果を利用してカーネルSVM分類の新しい一般化結果を示す。

関連論文リスト

• Highly Adaptive Ridge [84.38107748875144]
  直交可積分な部分微分を持つ右連続函数のクラスにおいて,$n-2/3$自由次元L2収束率を達成する回帰法を提案する。 Harは、飽和ゼロオーダーテンソル積スプライン基底展開に基づいて、特定のデータ適応型カーネルで正確にカーネルリッジレグレッションを行う。 我々は、特に小さなデータセットに対する最先端アルゴリズムよりも経験的性能が優れていることを示す。
  論文  参考訳（メタデータ） (2024-10-03T17:06:06Z)
• HyperVQ: MLR-based Vector Quantization in Hyperbolic Space [56.4245885674567]
  ベクトル量子化(HyperVQ)における双曲空間の利用について検討する。 本稿では,高VQが識別タスクにおいてVQを上回り,高度に絡み合った潜在空間を学習しながら,再建作業や生成作業において相容れない性能を発揮することを示す。
  論文  参考訳（メタデータ） (2024-03-18T03:17:08Z)
• Temporal support vectors for spiking neuronal networks [0.0]
  静的サポートベクトルマシン(T-SVM)の新たな拡張について紹介する。 我々はT-SVMとそのカーネル拡張がスパイキングニューロンの堅牢なシナプス重みベクトルを生成することを示す。 本稿では, 非線形核を持つT-SVMを, 神経樹状突起木の非線形性と広範な形態の計算的役割の新しいモデルとして提案する。
  論文  参考訳（メタデータ） (2022-05-28T23:47:15Z)
• Hybrid Random Features [60.116392415715275]
  ハイブリッドランダム特徴(HRF)と呼ばれるソフトマックスとガウス核の線形化のための新しいランダム特徴法を提案する。 HRFは、カーネル推定の品質を自動的に適応し、定義された関心領域の最も正確な近似を提供する。
  論文  参考訳（メタデータ） (2021-10-08T20:22:59Z)
• Computing on Functions Using Randomized Vector Representations [4.066849397181077]
  この新しい関数エンコーディングと計算フレームワーク Vector Function Architecture (VFA) と呼ぶ。 我々の分析と結果から,VFAは分散ニューラルネットワークにおける関数の表現と操作のための強力な新しいフレームワークとなっていることが示唆された。
  論文  参考訳（メタデータ） (2021-09-08T04:39:48Z)
• Estimating Average Treatment Effects with Support Vector Machines [77.34726150561087]
  サポートベクターマシン(SVM)は、機械学習文献で最も人気のある分類アルゴリズムの1つです。 我々はsvmをカーネルベースの重み付け手順として適用し,治療群と制御群の最大平均差を最小化する。 このトレードオフから生じる因果効果推定のバイアスを特徴づけ、提案されたSVM手順と既存のカーネルバランシング手法を結びつけます。
  論文  参考訳（メタデータ） (2021-02-23T20:22:56Z)
• Kernel learning approaches for summarising and combining posterior similarity matrices [68.8204255655161]
  我々は,ベイズクラスタリングモデルに対するMCMCアルゴリズムの出力を要約するための新しいアプローチを提案するために,後部類似性行列(PSM)の概念を構築した。 我々の研究の重要な貢献は、PSMが正の半定値であり、したがって確率的に動機付けられたカーネル行列を定義するのに使用できることである。
  論文  参考訳（メタデータ） (2020-09-27T14:16:14Z)
• Behavioral analysis of support vector machine classifier with Gaussian kernel and imbalanced data [6.028247638616058]
  SVM分類モデルの振る舞いは、これらのパラメータがバランスの取れたデータと不均衡なデータで異なる値を取るときに解析される。 そこで本研究では,新しい探索アルゴリズムを提案する。 本アルゴリズムでは,2次元空間を探索する代わりに,最適SVMパラメータを2次元空間に探索する。
  論文  参考訳（メタデータ） (2020-07-09T19:28:25Z)
• A quantum extension of SVM-perf for training nonlinear SVMs in almost linear time [0.2855485723554975]
  特徴空間学習のための非線形サポートベクトルマシン(SVM)を訓練するための量子アルゴリズムを提案する。 Joachimsの古典的なSVM-perfアルゴリズムに基づいて、我々のアルゴリズムはトレーニング例の数で線形にスケールするランニングタイムを持つ。
  論文  参考訳（メタデータ） (2020-06-18T06:25:45Z)
• Bayesian Sparse Factor Analysis with Kernelized Observations [67.60224656603823]
  多視点問題は潜在変数モデルに直面することができる。 高次元問題と非線形問題は伝統的にカーネルメソッドによって扱われる。 両アプローチを単一モデルにマージすることを提案する。
  論文  参考訳（メタデータ） (2020-06-01T14:25:38Z)
• An End-to-End Graph Convolutional Kernel Support Vector Machine [0.0]
  グラフ分類のためのカーネルベースサポートベクターマシン(SVM)を提案する。 提案したモデルは、教師付きエンドツーエンドで訓練される。 実験結果から,提案モデルが既存のディープラーニングベースラインモデルよりも優れていることが示された。
  論文  参考訳（メタデータ） (2020-02-29T09:57:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。