論文の概要: A Novel Loss Function-based Support Vector Machine for Binary Classification

• arxiv url: http://arxiv.org/abs/2403.16654v1
• Date: Mon, 25 Mar 2024 11:42:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-26 14:58:36.595944
• Title: A Novel Loss Function-based Support Vector Machine for Binary Classification
• Title（参考訳）: 2値分類のためのロス関数型サポートベクトルマシン
• Authors: Yan Li, Liping Zhang,
• Abstract要約: サポートベクトルマシン分類器($ell_s$-SVM)を構築するための新しいスライド損失関数(ell_s$)を提案する。 近似定常点の概念を導入し、リプシッツ連続性の性質を利用することにより、$ell_s$-SVM に対する一階最適条件を導出する。 我々は, $ell_s$-SVM を効率的に処理するために, 演算セットと乗算器の高速交互方向法を考案した。
• 参考スコア（独自算出の注目度）: 3.773980481058198
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The previous support vector machine(SVM) including $0/1$ loss SVM, hinge loss SVM, ramp loss SVM, truncated pinball loss SVM, and others, overlooked the degree of penalty for the correctly classified samples within the margin. This oversight affects the generalization ability of the SVM classifier to some extent. To address this limitation, from the perspective of confidence margin, we propose a novel Slide loss function ($\ell_s$) to construct the support vector machine classifier($\ell_s$-SVM). By introducing the concept of proximal stationary point, and utilizing the property of Lipschitz continuity, we derive the first-order optimality conditions for $\ell_s$-SVM. Based on this, we define the $\ell_s$ support vectors and working set of $\ell_s$-SVM. To efficiently handle $\ell_s$-SVM, we devise a fast alternating direction method of multipliers with the working set ($\ell_s$-ADMM), and provide the convergence analysis. The numerical experiments on real world datasets confirm the robustness and effectiveness of the proposed method.
• Abstract（参考訳）: 以前のサポートベクターマシン(SVM)は、0/1$の損失SVM、ヒンジロスSVM、ランプロスSVM、切り離されたピンボール損失SVMなどを含み、マージン内の正しく分類されたサンプルに対するペナルティの度合を見落としていた。 この監視は、SVM分類器のある程度の一般化能力に影響を与える。 この制限に対処するため、信頼率の観点から、サポートベクトルマシン分類器($\ell_s$-SVM)を構築するための新しいスライド損失関数($\ell_s$)を提案する。 近位定常点の概念を導入し、リプシッツ連続性の性質を利用することにより、$\ell_s$-SVM に対する一階最適条件を導出する。 これに基づいて、$\ell_s$サポートベクトルと$\ell_s$-SVMのワーキングセットを定義する。 効率よく$\ell_s$-SVMを処理するために、演算セット($\ell_s$-ADMM)と乗算器の高速な交互方向法を考案し、収束解析を提供する。 実世界のデータセットに関する数値実験により,提案手法のロバスト性と有効性が確認された。

関連論文リスト

• $p$SVM: Soft-margin SVMs with $p$-norm Hinge Loss [0.0]
  ヒンジ損失に基づくサポートベクトルマシン(SVM)は、様々なバイナリ分類タスクに広く議論され、適用されてきた。 本稿では,$p$SVMの特性,性能,トレーニングアルゴリズムについて検討する。
  論文  参考訳（メタデータ） (2024-08-19T11:30:00Z)
• A Safe Screening Rule with Bi-level Optimization of $\nu$ Support Vector Machine [15.096652880354199]
  本稿では,$nu$-SVM に対する二レベル最適化による安全なスクリーニングルールを提案する。 我々のSRBO-$nu$-SVMは、Karush-Kuhn-Tucker条件を統合することによって厳密に推論される。 また,計算速度を改善するために,効率的な二重座標降下法 (DCDM) も開発している。
  論文  参考訳（メタデータ） (2024-03-04T06:55:57Z)
• Transformers as Support Vector Machines [54.642793677472724]
  自己アテンションの最適化幾何と厳密なSVM問題との間には,形式的等価性を確立する。 勾配降下に最適化された1層変圧器の暗黙バイアスを特徴付ける。 これらの発見は、最適なトークンを分離し選択するSVMの階層としてのトランスフォーマーの解釈を刺激していると信じている。
  論文  参考訳（メタデータ） (2023-08-31T17:57:50Z)
• Kernel Support Vector Machine Classifiers with the $\ell_0$-Norm Hinge Loss [3.007949058551534]
  Support Vector Machine (SVM)は、バイナリ分類問題において最も成功した機械学習技術の1つである。 本論文は, ヒンジ損失を持つベクトル($ell$-KSVM)に集中し, ヒンジ損失と$ell_$normの複合関数である。 合成データセットと実データセットの実験は、$ell_$-KSVMが標準のKSVMと同等の精度を達成可能であることを示すために照らされている。
  論文  参考訳（メタデータ） (2023-06-24T14:52:44Z)
• High-Dimensional Penalized Bernstein Support Vector Machines [0.0]
  SVMヒンジ損失関数の非微分性は、高次元設定において計算困難を引き起こす可能性がある。 本稿では,Pentalized BernSVMの解を求めるための2つの効率的なアルゴリズムを提案する。 我々の境界は高い確率を持ち、位数 $sqrtslog(p)/n$ を達成する。
  論文  参考訳（メタデータ） (2023-03-16T03:48:29Z)
• Horizon-Free and Variance-Dependent Reinforcement Learning for Latent Markov Decision Processes [62.90204655228324]
  我々は,後期マルコフ決定過程(LMDP)における強化学習(RL)の文脈を考慮した後悔の最小化について検討した。 我々は,モデル最適化と値最適化の両手法でインスタンス化できる,新しいモデルベースアルゴリズムフレームワークを設計する。
  論文  参考訳（メタデータ） (2022-10-20T21:32:01Z)
• Nonlinear Kernel Support Vector Machine with 0-1 Soft Margin Loss [13.803988813225025]
  本稿では,0-1ソフトマージン損失を持つサポートベクトルマシンの非線形モデルである$L_0/1$-KSVMを提案する。 1$L_0/1$-KSVMは、線形ピアに比べて非常に少ないSVを持ち、正確な予測精度を持つ。
  論文  参考訳（メタデータ） (2022-03-01T12:53:52Z)
• Optimal Spectral Recovery of a Planted Vector in a Subspace [80.02218763267992]
  我々は、$ell_4$ノルムが同じ$ell$ノルムを持つガウスベクトルと異なるプラントベクトル$v$の効率的な推定と検出について研究する。 規則$n rho gg sqrtN$ では、大クラスのスペクトル法(そしてより一般的には、入力の低次法)は、植込みベクトルの検出に失敗する。
  論文  参考訳（メタデータ） (2021-05-31T16:10:49Z)
• Private Stochastic Convex Optimization: Optimal Rates in $\ell_1$ Geometry [69.24618367447101]
  対数要因まで $(varepsilon,delta)$-differently private の最適過剰人口損失は $sqrtlog(d)/n + sqrtd/varepsilon n.$ です。 損失関数がさらなる滑らかさの仮定を満たすとき、余剰損失は$sqrtlog(d)/n + (log(d)/varepsilon n)2/3で上界(対数因子まで)であることが示される。
  論文  参考訳（メタデータ） (2021-03-02T06:53:44Z)
• Consistent Structured Prediction with Max-Min Margin Markov Networks [84.60515484036239]
  二項分類のためのマックスマージン法は、最大マージンマルコフネットワーク(M3N$)の名前で構造化予測設定まで拡張されている。 我々は、学習問題を"max-min"マージンの定式化で定義し、結果のメソッドmax-minマージンマルコフネットワーク(M4N$)を命名することで、そのような制限を克服する。 マルチクラス分類,順序回帰,シーケンス予測,ランキング実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-07-02T10:48:42Z)
• Linear Time Sinkhorn Divergences using Positive Features [51.50788603386766]
  エントロピー正則化で最適な輸送を解くには、ベクトルに繰り返し適用される$ntimes n$ kernel matrixを計算する必要がある。 代わりに、$c(x,y)=-logdotpvarphi(x)varphi(y)$ ここで$varphi$は、地上空間から正のorthant $RRr_+$への写像であり、$rll n$である。
  論文  参考訳（メタデータ） (2020-06-12T10:21:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。