論文の概要: Sparse Universum Quadratic Surface Support Vector Machine Models for
Binary Classification
- arxiv url: http://arxiv.org/abs/2104.01331v1
- Date: Sat, 3 Apr 2021 07:40:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-06 14:21:04.322767
- Title: Sparse Universum Quadratic Surface Support Vector Machine Models for
Binary Classification
- Title(参考訳): 2値分類のためのスパース大学2次表面支援ベクトルマシンモデル
- Authors: Hossein Moosaei, Ahmad Mousavi, Milan Hlad\'ik, Zheming Gao
- Abstract要約: カーネルフリーな2次曲面サポートベクターマシンモデルを設計する。
二次曲面のヘシアンにおける潜在的空間パターンの検出に有用であるL1ノルム正規化版を提案する。
提案モデルの実現可能性と有効性を示すために、人工的および公共のベンチマークデータセットの数値実験を実施します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In binary classification, kernel-free linear or quadratic support vector
machines are proposed to avoid dealing with difficulties such as finding
appropriate kernel functions or tuning their hyper-parameters. Furthermore,
Universum data points, which do not belong to any class, can be exploited to
embed prior knowledge into the corresponding models so that the generalization
performance is improved. In this paper, we design novel kernel-free Universum
quadratic surface support vector machine models. Further, we propose the L1
norm regularized version that is beneficial for detecting potential sparsity
patterns in the Hessian of the quadratic surface and reducing to the standard
linear models if the data points are (almost) linearly separable. The proposed
models are convex such that standard numerical solvers can be utilized for
solving them. Nonetheless, we formulate a least squares version of the L1 norm
regularized model and next, design an effective tailored algorithm that only
requires solving one linear system. Several theoretical properties of these
models are then reported/proved as well. We finally conduct numerical
experiments on both artificial and public benchmark data sets to demonstrate
the feasibility and effectiveness of the proposed models.
- Abstract(参考訳): バイナリ分類では、カーネルフリーな線形または二次サポートベクターマシンが提案されており、適切なカーネル関数の発見やハイパーパラメータのチューニングといった困難に対処する。
さらに、いかなるクラスにも属さないユニバースデータポイントを利用して、対応するモデルに事前知識を埋め込むことで、一般化性能を向上させることができる。
本稿では,新しいカーネルフリーな2次曲面支持ベクトルマシンモデルを設計する。
さらに,2次曲面のヘシアンにおける潜在空間パターンの検出と,データポイントが(ほぼ)線形分離可能である場合の標準線形モデルへの還元に有効であるL1正規正規化版を提案する。
提案したモデルは、標準数値解法を用いて解くことができる凸である。
それにもかかわらず、我々はl1ノルム正規化モデルの最小二乗形を定式化し、次に1つの線形系のみを解く効果的な調整アルゴリズムを設計する。
これらのモデルのいくつかの理論的性質も報告/証明される。
最終的に,提案モデルの有効性と有効性を示すために,人工ベンチマークデータセットと公開ベンチマークデータセットの数値実験を行った。
関連論文リスト
- Robust kernel-free quadratic surface twin support vector machine with capped $L_1$-norm distance metric [0.46040036610482665]
本稿では,L_normカーネルフリーサーフェスツインサポートベクトルマシン(CL_QTSVM)を提案する。
キャップ付きL_norm距離メートル法を用いることで, モデルのロバスト性をさらに向上する。
提案手法を効率よく解くために反復アルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-05-27T09:23:52Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。
本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Representer Point Selection for Explaining Regularized High-dimensional
Models [105.75758452952357]
本稿では,高次元表現器と呼ぶサンプルベース説明のクラスを紹介する。
私たちのワークホースは、一般化された高次元モデルに対する新しい代表者定理である。
提案手法の実証的性能について,実世界の2進分類データセットと2つの推薦システムデータセットを用いて検討した。
論文 参考訳(メタデータ) (2023-05-31T16:23:58Z) - Symplectic model reduction of Hamiltonian systems using data-driven
quadratic manifolds [0.559239450391449]
高次元ハミルトニアン系のシンプレクティックモデル還元のための2つの新しいアプローチを提案する。
提案手法の中心に位置する状態近似への二次項の追加により、本質的な低次元性を表現することができる。
論文 参考訳(メタデータ) (2023-05-24T18:23:25Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Low-Rank Constraints for Fast Inference in Structured Models [110.38427965904266]
この研究は、大規模構造化モデルの計算とメモリの複雑さを低減するための単純なアプローチを示す。
言語モデリング,ポリフォニック・ミュージック・モデリング,教師なし文法帰納法,ビデオ・モデリングのためのニューラルパラメータ構造モデルを用いた実験により,我々の手法は大規模状態空間における標準モデルの精度と一致することを示した。
論文 参考訳(メタデータ) (2022-01-08T00:47:50Z) - Spike-and-Slab Generalized Additive Models and Scalable Algorithms for
High-Dimensional Data [0.0]
本稿では,高次元データに対応するため,階層型一般化加法モデル(GAM)を提案する。
曲線の適切な縮退と滑らか化関数線型空間と非線形空間の分離に対する平滑化ペナルティを考察する。
2つの決定論的アルゴリズム、EM-Coordinate Descent と EM-Iterative Weighted Least Squares は異なるユーティリティ向けに開発された。
論文 参考訳(メタデータ) (2021-10-27T14:11:13Z) - Hessian Eigenspectra of More Realistic Nonlinear Models [73.31363313577941]
私たちは、非線形モデルの広いファミリーのためのヘッセン固有スペクトルの言語的特徴付けを行います。
我々の分析は、より複雑な機械学習モデルで観察される多くの顕著な特徴の起源を特定するために一歩前進する。
論文 参考訳(メタデータ) (2021-03-02T06:59:52Z) - Non-parametric Models for Non-negative Functions [48.7576911714538]
同じ良い線形モデルから非負関数に対する最初のモデルを提供する。
我々は、それが表現定理を認め、凸問題に対する効率的な二重定式化を提供することを証明した。
論文 参考訳(メタデータ) (2020-07-08T07:17:28Z) - To Each Optimizer a Norm, To Each Norm its Generalization [31.682969645989512]
過度なパラメータ化と過度なパラメータ化の条件下でのトレーニングデータを補間する線形モデルに対する最適化手法の暗黙的な正規化について検討する。
我々は、標準最大値 l2-margin への収束解析は任意であり、データによって誘導されるノルムの最小化がより良い一般化をもたらすことを示す。
論文 参考訳(メタデータ) (2020-06-11T21:07:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。