論文の概要: Asymptotic Properties of Support Vector Machines in High-Dimension, Low-Sample-Size Settings under a Spiked Model
- arxiv url: http://arxiv.org/abs/2609.39173v1
- Date: Wed, 30 Sep 2026 07:31:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.390273
- Title: Asymptotic Properties of Support Vector Machines in High-Dimension, Low-Sample-Size Settings under a Spiked Model
- Title(参考訳): スパイクモデルによる高寸法低サイズ支持ベクトル機の漸近特性
- Abstract要約: 本研究では,スパイクモデル下での高次元,低サンプルサイズ設定における支持ベクトルマシン(SVM)の特性について考察する。
幾何表現はスパイクモデルの下では成立しないことを示す。
サンプルサイズが無限大となると,SC-SVMが整合性を持つことを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we consider asymptotic properties of the support vector machine (SVM) in high-dimension, low-sample-size (HDLSS) settings under a spiked model. The existing theory of the SVM in the HDLSS context relies on the geometric representation of HDLSS data, which requires that the eigenvalues of the covariance matrices are not dominant. We first show that the geometric representation does not hold under the spiked model. We show that the Gram matrix of HDLSS data converges in distribution to a random matrix, namely, the HDLSS data converge to a random configuration in a finite-dimensional space whose dimension is given by the number of the spikes. We show that the misclassification rates of the SVM do not tend to zero, that is, the SVM does not hold the consistency property. We also show that the bias-corrected SVM (BC-SVM) does not give preferable performance in this setting because the bias term itself should be modified. In order to overcome such difficulties, we propose a spike-corrected SVM (SC-SVM). We show that the SC-SVM holds the consistency property when the sample size goes to infinity, and that the growth of the sample size is essential in the sense that any projection-based procedure fails when the sample size is fixed. Finally, we check the performance of the classifiers by numerical simulations.
- Abstract(参考訳): 本稿では,高次元,低サンプルサイズ (HDLSS) 設定における支持ベクトルマシン (SVM) の漸近特性をスパイクモデルの下で考察する。
HDLSSコンテキストにおけるSVMの既存の理論はHDLSSデータの幾何学的表現に依存しており、共分散行列の固有値が支配的でないことを要求する。
まず、幾何表現はスパイクモデルの下では成立しないことを示す。
我々は,HDLSSデータのグラム行列が分布に収束してランダム行列,すなわち,スパイク数によって次元が与えられる有限次元空間において,HDLSSデータはランダムな構成に収束することを示す。
我々は、SVMの誤分類率は0ではなく、すなわち、SVMが整合性を持っていないことを示す。
また、バイアス補正SVM(BC-SVM)は、バイアス項自体を変更する必要があるため、この設定では好ましくないことを示す。
このような問題を克服するために,スパイク補正SVM(SC-SVM)を提案する。
SC-SVMはサンプルサイズが無限大となるときの整合性を保ち、サンプルサイズが固定されたときの射影ベースの手順が失敗するという意味では、サンプルサイズの成長が不可欠であることを示す。
最後に,数値シミュレーションにより分類器の性能を確認する。
関連論文リスト
- Robust support vector model based on bounded asymmetric elastic net loss for binary classification [4.4568150591571785]
支持ベクトルマシン(SVM)と組み合わせた新しい有界弾性ネット(L_baen$)損失関数を提案する。
BAEN-SVMの違反許容上限上限(VTUB)を証明することにより、モデルが幾何的に明確に定義されていることを示す。
BAEN-SVM の影響関数は有界であり、その堅牢性の理論的保証を提供する。
論文 参考訳(メタデータ) (2026-03-06T13:17:36Z) - Local Duality for Sparse Support Vector Machines [3.562094249178102]
スパースサポートベクターマシン(SSVM)は近年注目を集めており、凸SVMよりも経験的な優位性を示している。
本稿では,そのようなSSVM定式化のための局所双対性理論を開発し,ヒンジロスSVMとランプロスSVMとの関係について検討する。
論文 参考訳(メタデータ) (2026-01-28T02:09:52Z) - Support Vector Machine Classifier with Rescaled Huberized Pinball Loss [0.0]
サポートベクトルマシン(SVM)は機械学習の分類タスクで広く使われている。
SVMモデルは、リサンプリングや小さなサンプルデータにおける不安定性に対する感受性に悩まされる。
非対称な損失関数を新たに再スケールした性能アプリケーションを開発した。
論文 参考訳(メタデータ) (2025-11-27T03:31:07Z) - Structured Sparse Transition Matrices to Enable State Tracking in State-Space Models [68.31088463716269]
状態空間モデル(SSM)における遷移行列の構造的スパースパラメトリゼーションを提案する。
我々の方法PD-SSMは、遷移行列をカラム1ホット行列(P$)と複素数値対角行列(D$)の積としてパラメータ化する。
このモデルは、様々なFSA状態追跡タスクにおいて、現代のSSMの多種多様なバリエーションを著しく上回っている。
論文 参考訳(メタデータ) (2025-09-26T12:46:30Z) - Transformers as Support Vector Machines [54.642793677472724]
自己アテンションの最適化幾何と厳密なSVM問題との間には,形式的等価性を確立する。
勾配降下に最適化された1層変圧器の暗黙バイアスを特徴付ける。
これらの発見は、最適なトークンを分離し選択するSVMの階層としてのトランスフォーマーの解釈を刺激していると信じている。
論文 参考訳(メタデータ) (2023-08-31T17:57:50Z) - New Equivalences Between Interpolation and SVMs: Kernels and Structured
Features [22.231455330003328]
本稿では、任意のカーネルを再生するヒルベルト空間において、ラベルに対するフレキシブルな生成モデルのクラスでSVPを証明するための新しいフレキシブルな分析フレームワークを提案する。
我々は、SVPが以前の作業でカバーされていない多くの興味深い設定で発生していることを示し、カーネルSVM分類のための新しい一般化結果を証明するためにこれらの結果を活用する。
論文 参考訳(メタデータ) (2023-05-03T17:52:40Z) - Chance constrained conic-segmentation support vector machine with
uncertain data [0.0]
サポートベクトルマシン(SVM)は、よく知られた学習アルゴリズムのクラスの一つである。
本稿では,CS-SVMのデータポイントの不確かさや誤動作について検討する。
論文 参考訳(メタデータ) (2021-07-28T12:29:47Z) - Estimating Average Treatment Effects with Support Vector Machines [77.34726150561087]
サポートベクターマシン(SVM)は、機械学習文献で最も人気のある分類アルゴリズムの1つです。
我々はsvmをカーネルベースの重み付け手順として適用し,治療群と制御群の最大平均差を最小化する。
このトレードオフから生じる因果効果推定のバイアスを特徴づけ、提案されたSVM手順と既存のカーネルバランシング手法を結びつけます。
論文 参考訳(メタデータ) (2021-02-23T20:22:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。