論文の概要: Robustness Meets Uncertainty: Evidential Adversarial Training for Robust Selective Classification

• arxiv url: http://arxiv.org/abs/2607.03075v1
• Date: Fri, 03 Jul 2026 08:10:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.515231
• Title: Robustness Meets Uncertainty: Evidential Adversarial Training for Robust Selective Classification
• Title（参考訳）: ロバスト性と不確実性:ロバスト選択分類のためのエビデンシャル・アドバイサル・トレーニング
• Abstract要約: 敵対的トレーニングは、ディープニューラルネットワークの堅牢性を改善するために広く採用されている防御である。 堅牢性-不確実性トレードオフのための統一されたベンチマークを導入する。 Evidential Adversarial Training (EV-AT) は、ディリクレ分布を介して不確実性をモデル化し、(i) 証拠に基づく損失を、(ii) 確実な証拠調整損失と、(ii) 確実な証拠調整損失を、クリーンかつ敵対的な予測と組み合わせてモデル化する。
• 参考スコア（独自算出の注目度）: 26.819297652576967
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safety-critical applications require classifiers that are both robust and reliable. Adversarial training is a widely adopted defense for improving robustness in deep neural networks; however, its effect on the reliability of predictive uncertainty remains underexplored. We investigate this gap through the lens of selective classification, which has rarely been systematically analyzed alongside adversarial robustness. We introduce a unified benchmark for the robustness-uncertainty trade-off. It standardizes architectures, augmentations, threat models, and evaluation metrics across clean, adversarial, and common-corruption settings. Across a wide range of state-of-the-art adversarial training methods, we uncover a recurring failure mode: several approaches improve robust accuracy while degrading uncertainty ranking, leading to poorer selective behavior. To address this, we propose Evidential Adversarial Training (EV-AT), which models uncertainty through a Dirichlet distribution and combines (i) an evidence-based loss promoting clean accuracy and reliable uncertainty with (ii) a robust evidence-alignment loss matching clean and adversarial predictions in log Dirichlet-parameter space. Extensive experiments show that EV-AT shifts the Pareto frontier of robustness-uncertainty trade-offs beyond prior state-of-the-art adversarial training methods. Our source code is publicly available at https://github.com/NicolasSournac/Robustness_Meets_Uncertainty.EV-AT.
• Abstract（参考訳）: 安全クリティカルなアプリケーションは、堅牢かつ信頼性のある分類器を必要とする。 敵対的トレーニングは、ディープニューラルネットワークの堅牢性を改善するための広く採用されている防御である。 選択分類のレンズによるこのギャップについて検討し, 対向的堅牢性とともに系統的に解析されることはめったにない。 堅牢性-不確実性トレードオフのための統一されたベンチマークを導入する。 アーキテクチャ、拡張、脅威モデル、評価メトリクスを、クリーン、逆境、そして一般的な破壊設定で標準化する。 いくつかの手法は、不確実性ランキングを低下させながら堅牢な精度を向上し、選択性が低下する。 そこで我々は,ディリクレ分布を通して不確実性をモデル化し,組み合わせたEvidential Adversarial Training (EV-AT)を提案する。 一 清潔な正確性及び確実な不確実性を促進する証拠に基づく損失 (2)丸太ディリクレパラメータ空間におけるクリーンおよび逆予測に一致する堅牢なエビデンスアライメントアライメント損失。 大規模な実験により、EV-ATは従来の最先端の対人訓練方法を超えて、ロバスト性不確実性トレードオフのパレートフロンティアをシフトしている。 ソースコードはhttps://github.com/NicolasSournac/Robustness_Meets_Uncertainty.EV-ATで公開されています。

関連論文リスト

• Socrates Loss: Unifying Confidence Calibration and Classification by Leveraging the Unknown [4.503897051444244]
  ディープニューラルネットワークは、高い精度にもかかわらず、しばしば信頼性のキャリブレーションが低く、高い精度のアプリケーションでの信頼性を制限している。 現在のアドホック信頼度校正法は、トレーニング中にこれを修正しようとするが、基本的なトレードオフに直面している。 本稿では、この安定性と性能のトレードオフに対処し緩和する。 補助的未知のクラスを組み込むことにより、不確実性を明確に活用する、新規で統一された損失関数であるSocrates Lossを提案する。
  論文  参考訳（メタデータ） (2026-04-14T03:43:15Z)
• Calibrating Uncertainty for Zero-Shot Adversarial CLIP [33.707647228637114]
  予測精度と不確実性アライメントの両方を考慮した,CLIPの新たな逆調整目標を提案する。 我々の目的は、これらの分布を摂動の下で均等に整列させ、シングルログのアンカーを超えて不確実性を回復することである。
  論文  参考訳（メタデータ） (2025-12-15T05:41:08Z)
• The Pitfalls and Promise of Conformal Inference Under Adversarial Attacks [90.52808174102157]
  医療画像や自律運転などの安全クリティカルな応用においては、高い敵の堅牢性を維持し、潜在的敵の攻撃から保護することが不可欠である。 敵対的に訓練されたモデルに固有の不確実性に関して、注目すべき知識ギャップが残っている。 本研究では,共形予測(CP)の性能を標準対向攻撃の文脈で検証することにより,ディープラーニングモデルの不確実性について検討する。
  論文  参考訳（メタデータ） (2024-05-14T18:05:19Z)
• Revisiting Confidence Estimation: Towards Reliable Failure Prediction [53.79160907725975]
  多くの信頼度推定法は誤分類誤りを検出するのに有害である。 本稿では, 最先端の故障予測性能を示す平坦な最小値を求めることにより, 信頼性ギャップを拡大することを提案する。
  論文  参考訳（メタデータ） (2024-03-05T11:44:14Z)
• Rethinking Invariance Regularization in Adversarial Training to Improve Robustness-Accuracy Trade-off [11.836020809561383]
  敵の訓練は、しばしばロバストネスのトレードオフに悩まされ、高いロバストネスを達成することは精度の犠牲となる。 非対称表現正規化逆行訓練(ARAT)を提案する。 ARATは、非対称な不斉損失と停止段階の演算と予測器を組み込み、勾配の衝突を回避し、混合分布問題を解決するためにスプリット・バッチノーム(BN)構造を組み込む。
  論文  参考訳（メタデータ） (2024-02-22T15:53:46Z)
• Perturbation-Invariant Adversarial Training for Neural Ranking Models: Improving the Effectiveness-Robustness Trade-Off [107.35833747750446]
  正統な文書に不可避な摂動を加えることで 敵の例を作れます この脆弱性は信頼性に関する重大な懸念を生じさせ、NRMの展開を妨げている。 本研究では,NRMにおける有効・損耗トレードオフに関する理論的保証を確立する。
  論文  参考訳（メタデータ） (2023-12-16T05:38:39Z)
• Towards Certified Probabilistic Robustness with High Accuracy [3.957941698534126]
  Adrialの例は、ニューラルネットワーク上に構築された多くのクリティカルシステムに対して、セキュリティ上の脅威となる。 確実に堅牢で正確なニューラルネットワークモデルを構築する方法はまだオープンな問題だ。 本稿では,高い精度と高い確率ロバスト性を実現することを目的とした新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-09-02T09:39:47Z)
• A Comprehensive Study on Robustness of Image Classification Models: Benchmarking and Rethinking [54.89987482509155]
  ディープニューラルネットワークのロバスト性は、通常、敵の例、共通の腐敗、分散シフトに欠けている。 画像分類タスクにおいてtextbfARES-Bench と呼ばれる総合的なベンチマークロバスト性を確立する。 それに応じてトレーニング設定を設計することにより、新しい最先端の対人ロバスト性を実現する。
  論文  参考訳（メタデータ） (2023-02-28T04:26:20Z)
• Adversarial Robustness under Long-Tailed Distribution [93.50792075460336]
  敵対的ロバスト性はディープネットワークの脆弱性と本質的特徴を明らかにすることで近年広く研究されている。 本研究では,長尾分布下における敵対的脆弱性と防御について検討する。 我々は、スケール不変とデータ再分散という2つの専用モジュールからなるクリーンで効果的なフレームワークであるRoBalを提案する。
  論文  参考訳（メタデータ） (2021-04-06T17:53:08Z)
• Adversarial Robustness on In- and Out-Distribution Improves Explainability [109.68938066821246]
  RATIOは、Adversarial Training on In- and Out-distriionを通じて、堅牢性のためのトレーニング手順である。 RATIOはCIFAR10で最先端の$l$-adrialを実現し、よりクリーンな精度を維持している。
  論文  参考訳（メタデータ） (2020-03-20T18:57:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。