論文の概要: Ensemble Methods for Robust Support Vector Machines using Integer Programming

• arxiv url: http://arxiv.org/abs/2203.01606v1
• Date: Thu, 3 Mar 2022 10:03:54 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-05 04:45:28.848546
• Title: Ensemble Methods for Robust Support Vector Machines using Integer Programming
• Title（参考訳）: 整数プログラミングを用いたロバスト支援ベクトルマシンのアンサンブル法
• Authors: Jannis Kurtz
• Abstract要約: 我々は、トレーニングデータが不確実性にさらされていると仮定する二項分類問題について検討する。 この問題を解決するために、堅牢な機械学習の分野では、トレーニングデータの小さな摂動に対して堅牢なモデルを開発することが目的である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work we study binary classification problems where we assume that our training data is subject to uncertainty, i.e. the precise data points are not known. To tackle this issue in the field of robust machine learning the aim is to develop models which are robust against small perturbations in the training data. We study robust support vector machines (SVM) and extend the classical approach by an ensemble method which iteratively solves a non-robust SVM on different perturbations of the dataset, where the perturbations are derived by an adversarial problem. Afterwards for classification of an unknown data point we perform a majority vote of all calculated SVM solutions. We study three different variants for the adversarial problem, the exact problem, a relaxed variant and an efficient heuristic variant. While the exact and the relaxed variant can be modeled using integer programming formulations, the heuristic one can be implemented by an easy and efficient algorithm. All derived methods are tested on random and realistic datasets and the results indicate that the derived ensemble methods have a much more stable behaviour when changing the protection level compared to the classical robust SVM model.
• Abstract（参考訳）: 本研究では,トレーニングデータが不確実性,すなわち正確なデータポイントが分かっていないことを仮定して,二分分類問題を研究する。 この問題に取り組むため、ロバストな機械学習の分野では、トレーニングデータの小さな摂動に対して堅牢なモデルを開発することが目標だ。 ロバストサポートベクターマシン(svm)を研究し、データセットの異なる摂動上の非ロバストsvmを反復的に解くアンサンブル法により古典的アプローチを拡張する。 その後、未知のデータポイントの分類を行い、計算されたすべてのSVMソリューションの多数決を行う。 逆問題に対する3つの異なる変種、正確な問題、緩和された変種、効率的なヒューリスティック変種について検討する。 正確かつ緩和された変種は整数プログラミングの定式化を用いてモデル化できるが、ヒューリスティックな変種は簡単かつ効率的なアルゴリズムで実装できる。 すべての導出方法はランダムで現実的なデータセット上でテストされ、従来のロバストなsvmモデルに比べて保護レベルを変更する場合、導出されたアンサンブル法ははるかに安定した振る舞いを持つことが示された。

関連論文リスト

• Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
  凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。 このような問題は医学、物理学、機械学習で発生する。 両種類の雑音下で提案アルゴリズムの収束保証を行う。
  論文  参考訳（メタデータ） (2024-11-21T10:26:17Z)
• Computation-Aware Gaussian Processes: Model Selection And Linear-Time Inference [55.150117654242706]
  我々は、1.8万のデータポイントでトレーニングされた計算対応GPのモデル選択が、1つのGPU上で数時間以内に可能であることを示す。 この研究の結果、ガウス過程は、不確実性を定量化する能力を著しく妥協することなく、大規模なデータセットで訓練することができる。
  論文  参考訳（メタデータ） (2024-11-01T21:11:48Z)
• Cost-sensitive probabilistic predictions for support vector machines [1.743685428161914]
  サポートベクターマシン(SVM)は広く使われており、最もよく検討され使用されている機械学習モデルの一つである。 本稿では,SVMの確率的出力を生成する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-10-09T11:00:17Z)
• Towards Robust Dataset Learning [90.2590325441068]
  本稿では,頑健なデータセット学習問題を定式化するための三段階最適化法を提案する。 ロバストな特徴と非ロバストな特徴を特徴付ける抽象モデルの下で,提案手法はロバストなデータセットを確実に学習する。
  論文  参考訳（メタデータ） (2022-11-19T17:06:10Z)
• An Instance Selection Algorithm for Big Data in High imbalanced datasets based on LSH [0.0]
  機械学習モデルを実環境で訓練することは、しばしば、関心のクラスが表現されていないビッグデータや不均衡なサンプルを扱う。 本研究は,大規模かつ不均衡なデータセットを扱うために,例選択(IS)という3つの新しい手法を提案する。 アルゴリズムはApache Sparkフレームワークで開発され、スケーラビリティが保証された。
  論文  参考訳（メタデータ） (2022-10-09T17:38:41Z)
• A Novel Plug-and-Play Approach for Adversarially Robust Generalization [38.72514422694518]
  本稿では,MLモデルを摂動テストデータから保護するために,逆向きに堅牢なトレーニングを採用する頑健なフレームワークを提案する。 私たちの貢献は、計算学と統計学の両方の観点から見ることができます。
  論文  参考訳（メタデータ） (2022-08-19T17:02:55Z)
• Primal Estimated Subgradient Solver for SVM for Imbalanced Classification [0.0]
  我々は,PEGASOS SVMが8.6:1から130:1までのマイノリティ比に大きく依存する不均衡データセットに対して,優れた性能を達成できることを実証することを目的とする。 学習曲線を調べて評価する。 PEGASOS Cost-Sensitive SVM's results of Ding's LINEAR SVM DECIDL method。
  論文  参考訳（メタデータ） (2022-06-19T02:33:14Z)
• Meta-learning One-class Classifiers with Eigenvalue Solvers for Supervised Anomaly Detection [55.888835686183995]
  教師付き異常検出のためのニューラルネットワークに基づくメタラーニング手法を提案する。 提案手法は,既存の異常検出法や少数ショット学習法よりも優れた性能を実現することを実験的に実証した。
  論文  参考訳（メタデータ） (2021-03-01T01:43:04Z)
• Data-Driven Robust Optimization using Unsupervised Deep Learning [0.0]
  逆問題に対して凸混合整数プログラムとして定式化することにより、トレーニングされたニューラルネットワークをロバストな最適化モデルに統合できることを示す。 このアプローチは、カーネルベースのサポートベクターセットを用いて、同様のアプローチより優れていることが判明した。
  論文  参考訳（メタデータ） (2020-11-19T11:06:54Z)
• Learning while Respecting Privacy and Robustness to Distributional Uncertainties and Adversarial Data [66.78671826743884]
  分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。 目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。 提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-07-07T18:25:25Z)
• Dynamic Federated Learning [57.14673504239551]
  フェデレートラーニング(Federated Learning)は、マルチエージェント環境における集中的なコーディネーション戦略の包括的用語として登場した。 我々は、各イテレーションにおいて、利用可能なエージェントのランダムなサブセットがそのデータに基づいてローカル更新を実行する、フェデレートされた学習モデルを考える。 集約最適化問題に対する真の最小化器上の非定常ランダムウォークモデルの下で、アーキテクチャの性能は、各エージェントにおけるデータ変動率、各エージェントにおけるモデル変動率、アルゴリズムの学習率に逆比例する追跡項の3つの要因によって決定されることを示す。
  論文  参考訳（メタデータ） (2020-02-20T15:00:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。