論文の概要: Gap Safe Screening Rules for Fast Training of Robust Support Vector Machines under Feature Noise
- arxiv url: http://arxiv.org/abs/2603.25221v1
- Date: Thu, 26 Mar 2026 09:19:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-27 20:52:48.210831
- Title: Gap Safe Screening Rules for Fast Training of Robust Support Vector Machines under Feature Noise
- Title(参考訳): 特徴雑音下でのロバスト支持ベクトルマシンの高速訓練のためのギャップセーフスクリーニングルール
- Authors: Tan-Hau Nguyen, Thu-Le Tran, Kien Trung Nguyen,
- Abstract要約: 最適解に影響を与えることなく、トレーニングの複雑さを軽減できるR-SVMの安全なサンプルスクリーニングルールを開発する。
提案手法は,境界超平面の両側に不確実集合が完全に配置されることが保証されたトレーニングサンプルを安全に同定する。
実験により,提案手法は分類精度を保ちながらトレーニング時間を著しく短縮することを示した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Robust Support Vector Machines (R-SVMs) address feature noise by adopting a worst-case robust formulation that explicitly incorporates uncertainty sets into training. While this robustness improves reliability, it also leads to increased computational cost. In this work, we develop safe sample screening rules for R-SVMs that reduce the training complexity without affecting the optimal solution. To the best of our knowledge, this is the first study to apply safe screening techniques to worst-case robust models in supervised machine learning. Our approach safely identifies training samples whose uncertainty sets are guaranteed to lie entirely on either side of the margin hyperplane, thereby reducing the problem size and accelerating optimization. Owing to the nonstandard structure of R-SVMs, the proposed screening rules are derived from the Lagrangian duality rather than the Fenchel-Rockafellar duality commonly used in recent methods. Based on this analysis, we first establish an ideal screening rule, and then derive a practical rule by adapting GAP-based safe regions to the robust setting. Experiments demonstrate that the proposed method significantly reduces training time while preserving classification accuracy.
- Abstract(参考訳): ロバストサポートベクトルマシン(R-SVM)は、不確実性セットをトレーニングに明示的に組み込む、最悪のケースの堅牢な定式化を採用することで、機能ノイズに対処する。
この堅牢性は信頼性を向上させるが、計算コストも向上する。
本研究では、R-SVMの安全なサンプルスクリーニングルールを開発し、最適解に影響を与えることなく、トレーニングの複雑さを低減する。
私たちの知る限りでは、教師あり機械学習における最悪のロバストモデルに安全なスクリーニング技術を適用する最初の研究である。
提案手法では,不確実性集合が境界超平面の両側に完全に配置されることが保証されたトレーニングサンプルを安全に同定し,問題サイズの低減と最適化の高速化を図る。
R-SVMの非標準構造のため、提案されたスクリーニング規則は、近年の手法でよく用いられるフェンシェル・ロッカフェラーの双対性よりもラグランジアン双対性に由来する。
この分析に基づいて、まず理想的なスクリーニングルールを確立し、次に、GAPベースの安全な領域をロバストな環境に適応させることにより、実用的なルールを導出する。
実験により,提案手法は分類精度を保ちながらトレーニング時間を著しく短縮することを示した。
関連論文リスト
- Rectified Robust Policy Optimization for Model-Uncertain Constrained Reinforcement Learning without Strong Duality [53.525547349715595]
我々はRectified Robust Policy Optimization (RRPO) と呼ばれる新しいプライマリのみのアルゴリズムを提案する。
RRPOは双対の定式化に頼ることなく、主問題に直接作用する。
我々は、最もよく知られた下界と一致する複雑性を持つ、ほぼ最適な実現可能なポリシーに収束することを示す。
論文 参考訳(メタデータ) (2025-08-24T16:59:38Z) - Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。
安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。
複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
論文 参考訳(メタデータ) (2025-08-17T23:46:36Z) - Adversarial Robustness in Two-Stage Learning-to-Defer: Algorithms and Guarantees [6.792743621449621]
2段階のL2D(Learning-to-Defer)は、各入力を固定されたメインモデルまたは複数のオフライン専門家のいずれかに割り当てることで、最適なタスクデリゲートを可能にする。
既存のL2Dフレームワークはクリーンな入力を前提としており、クエリ割り当てを操作できる敵の摂動に弱い。
2段階L2Dシステムにおける対向ロバスト性の最初の包括的研究について述べる。
論文 参考訳(メタデータ) (2025-02-03T03:44:35Z) - One-Shot Safety Alignment for Large Language Models via Optimal Dualization [64.52223677468861]
本稿では,制約付きアライメントを等価な非制約アライメント問題に還元する双対化の観点を提案する。
我々は、閉形式を持つ滑らかで凸な双対函数を事前に最適化する。
我々の戦略は、モデルベースと嗜好ベースの設定における2つの実用的なアルゴリズムに導かれる。
論文 参考訳(メタデータ) (2024-05-29T22:12:52Z) - SCPO: Safe Reinforcement Learning with Safety Critic Policy Optimization [1.3597551064547502]
本研究では,新しい安全強化学習アルゴリズム,セーフティ・クリティカル・ポリシー・オプティマイゼーションを導入する。
本研究では,安全制約に違反して得られる報酬を無効化する機構である安全評論家を定義した。
理論的解析により,提案アルゴリズムは安全制約への付着と報酬の最大化との間のトレードオフを自動的にバランスできることが示された。
論文 参考訳(メタデータ) (2023-11-01T22:12:50Z) - Log Barriers for Safe Black-box Optimization with Application to Safe
Reinforcement Learning [72.97229770329214]
本稿では,学習時の安全性維持が不可欠である高次元非線形最適化問題に対する一般的なアプローチを提案する。
LBSGDと呼ばれるアプローチは、慎重に選択されたステップサイズで対数障壁近似を適用することに基づいている。
安全強化学習における政策課題の違反を最小限に抑えるためのアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2022-07-21T11:14:47Z) - Safe Screening for Sparse Conditional Random Fields [13.563686294946745]
そこで本研究では,トレーニングプロセス中に無関係な特徴を識別・除去する安全な動的スクリーニング手法を提案する。
また, 本手法は, スパースCRFや構造予測モデルにおいて, 初めてのスクリーニング手法である。
合成および実世界の両方のデータセットに対する実験結果から,本手法による高速化が重要であることが示された。
論文 参考訳(メタデータ) (2021-11-27T18:38:57Z) - Regularized Training and Tight Certification for Randomized Smoothed
Classifier with Provable Robustness [15.38718018477333]
我々は新たな正規化リスクを導出し、正規化器はスムーズな手法の精度と堅牢性を適応的に促進することができる。
また、正規化効果を利用して、高い確率で保持されるより厳密なロバスト性の下限を提供する新しい認証アルゴリズムを設計する。
論文 参考訳(メタデータ) (2020-02-17T20:54:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。