論文の概要: Robust Support Vector Machines for Imbalanced and Noisy Data via Benders Decomposition
- arxiv url: http://arxiv.org/abs/2503.14873v1
- Date: Wed, 19 Mar 2025 04:03:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-20 15:22:49.024485
- Title: Robust Support Vector Machines for Imbalanced and Noisy Data via Benders Decomposition
- Title(参考訳): ベンダー分解による不均衡・雑音データに対するロバスト支援ベクトルマシン
- Authors: Seyed Mojtaba Mohasel, Hamidreza Koosha,
- Abstract要約: 本研究では,SVM(Support Vector Machines)をクラス不均衡とノイズに対処するための新しい定式化を提案する。
制約違反の規模を罰する従来のSoft Margin SVMとは異なり、提案モデルは違反の数を定量化し、その頻度を最小化することを目的としている。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: This study introduces a novel formulation to enhance Support Vector Machines (SVMs) in handling class imbalance and noise. Unlike the conventional Soft Margin SVM, which penalizes the magnitude of constraint violations, the proposed model quantifies the number of violations and aims to minimize their frequency. To achieve this, a binary variable is incorporated into the objective function of the primal SVM formulation, replacing the traditional slack variable. Furthermore, each misclassified sample is assigned a priority and an associated constraint. The resulting formulation is a mixed-integer programming model, efficiently solved using Benders decomposition. The proposed model's performance was benchmarked against existing models, including Soft Margin SVM, weighted SVM, and NuSVC. Two primary hypotheses were examined: 1) The proposed model improves the F1-score for the minority class in imbalanced classification tasks. 2) The proposed model enhances classification accuracy in noisy datasets. These hypotheses were evaluated using a Wilcoxon test across multiple publicly available datasets from the OpenML repository. The results supported both hypotheses (\( p < 0.05 \)). In addition, the proposed model exhibited several interesting properties, such as improved robustness to noise, a decision boundary shift favoring the minority class, a reduced number of support vectors, and decreased prediction time. The open-source Python implementation of the proposed SVM model is available.
- Abstract(参考訳): 本研究では,SVM(Support Vector Machines)をクラス不均衡とノイズに対処するための新しい定式化を提案する。
制約違反の規模を罰する従来のSoft Margin SVMとは異なり、提案モデルは違反の数を定量化し、その頻度を最小化することを目的としている。
これを実現するために、バイナリ変数を主元SVM定式化の目的関数に組み込み、従来のスラック変数を置き換える。
さらに、各誤分類サンプルには優先度と関連する制約が割り当てられる。
結果の定式化は混合整数プログラミングモデルであり、ベンダー分解を用いて効率的に解かれる。
提案したモデルの性能は、Soft Margin SVM、重み付きSVM、NuSVCなど、既存のモデルと比較された。
2つの主要な仮説が検討された。
1)非バランスな分類タスクにおけるマイノリティクラスのF1スコアを改善するモデルを提案する。
2)提案モデルでは,ノイズのあるデータセットの分類精度が向上する。
これらの仮説は、OpenMLリポジトリから公開されている複数のデータセットにわたってWilcoxonテストを使用して評価された。
結果は両仮説(\(p < 0.05 \))を支持した。
さらに,雑音に対する頑健性の向上,少数派に有利な決定境界シフト,サポートベクトルの削減,予測時間の短縮など,いくつかの興味深い特性を示した。
提案されたSVMモデルのオープンソースPython実装が利用可能だ。
関連論文リスト
- EquiTabPFN: A Target-Permutation Equivariant Prior Fitted Networks [55.214444066134114]
本研究では,この過小評価を不圧縮誤差の原因とみなし,等分散ギャップとよばれ,予測の不安定性を生じさせる。
これらの問題を緩和するために,出力次元の等値性を維持するために設計された新しいモデルを提案する。
論文 参考訳(メタデータ) (2025-02-10T17:11:20Z) - Enhancing Imbalance Learning: A Novel Slack-Factor Fuzzy SVM Approach [0.0]
サポートベクターマシン(FSVM)は、様々なファジィメンバシップをサンプルに割り当てることで、クラス不均衡に対処する。
最近開発されたslack-factor-based FSVM(SFFSVM)は、slack Factorを使用して、誤分類可能性に基づいてファジィメンバシップを調整することで、従来のFSVMを改善している。
そこで我々は,新しい位置パラメータを導入する改良されたスラックファクターベースFSVM(ISFFSVM)を提案する。
論文 参考訳(メタデータ) (2024-11-26T05:47:01Z) - Intuitionistic Fuzzy Universum Twin Support Vector Machine for Imbalanced Data [0.0]
機械学習手法の大きな問題の1つは、不均衡なデータセットを分類することである。
不均衡データ(IFUTSVM-ID)のための直観的ファジィユニバームツインサポートベクトルマシンを提案する。
雑音や外周の影響を軽減するため,直観主義的なファジィ・メンバシップ・スキームを用いる。
論文 参考訳(メタデータ) (2024-10-27T04:25:42Z) - Projection based fuzzy least squares twin support vector machine for
class imbalance problems [0.9668407688201361]
本稿では,不均衡なクラスとノイズの多いデータセットを扱うファジィに基づく新しい手法を提案する。
提案アルゴリズムは,複数のベンチマークおよび合成データセットを用いて評価する。
論文 参考訳(メタデータ) (2023-09-27T14:28:48Z) - Consensus-Adaptive RANSAC [104.87576373187426]
本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。
注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
論文 参考訳(メタデータ) (2023-07-26T08:25:46Z) - Variational Classification [51.2541371924591]
我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。
軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。
我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
論文 参考訳(メタデータ) (2023-05-17T17:47:19Z) - Soft-SVM Regression For Binary Classification [0.0]
ソフトネスとクラス分離パラメータを用いたヒンジ損失関数の凸緩和に基づく新しい指数族を導入する。
この新しいファミリーはSoft-SVMと呼ばれ、ロジスティック回帰とSVM分類を効果的に橋渡しする一般化線形モデルを規定することができる。
論文 参考訳(メタデータ) (2022-05-24T03:01:35Z) - CARMS: Categorical-Antithetic-REINFORCE Multi-Sample Gradient Estimator [60.799183326613395]
本稿では, 相互に負に相関した複数のサンプルに基づく分類的確率変数の非バイアス推定器を提案する。
CARMSは、ReINFORCEとコプラベースのサンプリングを組み合わせることで、重複サンプルを回避し、その分散を低減し、重要サンプリングを使用して推定器を偏りなく維持する。
我々は、生成的モデリングタスクと構造化された出力予測タスクに基づいて、いくつかのベンチマークデータセット上でCARMSを評価し、強力な自己制御ベースラインを含む競合する手法より優れていることを示す。
論文 参考訳(メタデータ) (2021-10-26T20:14:30Z) - Weighted Least Squares Twin Support Vector Machine with Fuzzy Rough Set
Theory for Imbalanced Data Classification [0.483420384410068]
サポートベクトルマシン(SVM)は、分類問題を解決するために開発された強力な教師付き学習ツールである。
重み付き最小二乗支援ベクトルマシンFRLSTSVMにおけるファジィ粗集合理論を不均衡データの分類に効率的に利用する手法を提案する。
論文 参考訳(メタデータ) (2021-05-03T22:33:39Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳(メタデータ) (2020-10-12T03:27:07Z) - Learning Noise-Aware Encoder-Decoder from Noisy Labels by Alternating
Back-Propagation for Saliency Detection [54.98042023365694]
本稿では,ノイズを考慮したエンコーダ・デコーダ・フレームワークを提案する。
提案モデルはニューラルネットワークによってパラメータ化された2つのサブモデルから構成される。
論文 参考訳(メタデータ) (2020-07-23T18:47:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。