論文の概要: Sharpness-Aware Geometric Defense for Robust Out-Of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2508.17174v1
• Date: Sun, 24 Aug 2025 01:03:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-26 18:43:45.385179
• Title: Sharpness-Aware Geometric Defense for Robust Out-Of-Distribution Detection
• Title（参考訳）: 頑健な外分布検出のためのシャープネスを考慮した幾何学的防御
• Authors: Jeng-Lin Li, Ming-Ching Chang, Wei-Chao Chen,
• Abstract要約: 我々は,OODと敵対的なIDサンプルを識別する頑健なOOD検出法を開発した。 bf Sharpness-aware Geometric Defense (SaGD) フレームワークを導入する。 われわれのフレームワークは、最先端の防衛アプローチよりもFPRとAUCを著しく改善する。
• 参考スコア（独自算出の注目度）: 20.09444331826756
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Out-of-distribution (OOD) detection ensures safe and reliable model deployment. Contemporary OOD algorithms using geometry projection can detect OOD or adversarial samples from clean in-distribution (ID) samples. However, this setting regards adversarial ID samples as OOD, leading to incorrect OOD predictions. Existing efforts on OOD detection with ID and OOD data under attacks are minimal. In this paper, we develop a robust OOD detection method that distinguishes adversarial ID samples from OOD ones. The sharp loss landscape created by adversarial training hinders model convergence, impacting the latent embedding quality for OOD score calculation. Therefore, we introduce a {\bf Sharpness-aware Geometric Defense (SaGD)} framework to smooth out the rugged adversarial loss landscape in the projected latent geometry. Enhanced geometric embedding convergence enables accurate ID data characterization, benefiting OOD detection against adversarial attacks. We use Jitter-based perturbation in adversarial training to extend the defense ability against unseen attacks. Our SaGD framework significantly improves FPR and AUC over the state-of-the-art defense approaches in differentiating CIFAR-100 from six other OOD datasets under various attacks. We further examine the effects of perturbations at various adversarial training levels, revealing the relationship between the sharp loss landscape and adversarial OOD detection.
• Abstract（参考訳）: アウト・オブ・ディストリビューション(OOD)検出は、安全で信頼性の高いモデルデプロイメントを保証する。 ジオメトリプロジェクションを用いた現代のOODアルゴリズムは、クリーン・イン・ディストリビューション(ID)サンプルからOODまたは敵サンプルを検出することができる。 しかし、この設定では、敵対的なIDサンプルをOODとみなし、誤ったOOD予測を導いた。 攻撃対象のIDとOODデータによるOOD検出に関する既存の取り組みは最小限である。 本稿では,OODと対向的なIDサンプルを識別する頑健なOOD検出手法を開発する。 逆行訓練によって生じる鋭い損失景観はモデル収束を妨げ、OODスコア計算の潜伏埋め込み品質に影響を及ぼす。 そこで我々は、投影された潜在幾何学における頑丈な対向的損失景観を円滑にするために、SaGD(シャープネスを意識した幾何学的防御)フレームワークを導入する。 拡張幾何埋め込み収束により、正確なIDデータのキャラクタリゼーションが可能になり、敵攻撃に対するOOD検出の恩恵を受ける。 我々は、対戦訓練においてジッターベースの摂動を用いて、目に見えない攻撃に対する防御能力を拡大する。 我々のSaGDフレームワークは、様々な攻撃下での他の6つのOODデータセットとCIFAR-100を区別する最先端の防衛アプローチに対して、FPRとAUCを大幅に改善する。 さらに,種々の対向訓練レベルにおける摂動の影響について検討し,鋭い損失景観とOOD検出との関係を明らかにした。

関連論文リスト

• HALO: Robust Out-of-Distribution Detection via Joint Optimisation [11.107924895663173]
  リアルタイムシナリオにおける機械学習モデルの安全なデプロイには、効果的なアウト・オブ・ディストリビューション(OOD)検出が不可欠である。 近年の研究では、OOD検出手法は敵攻撃に弱いことが示されており、高い精度のアプリケーションにおいて致命的な障害を引き起こす可能性がある。 分類と検出性能を高める新たな損失項を導入する。 私たちのアプローチはHALOと呼ばれ、既存のメソッドを超え、多くのデータセットとアタック設定で最先端のパフォーマンスを実現しています。
  論文  参考訳（メタデータ） (2025-02-27T04:40:18Z)
• The Best of Both Worlds: On the Dilemma of Out-of-distribution Detection [75.65876949930258]
  アウト・オブ・ディストリビューション(OOD)検出はモデル信頼性に不可欠である。 我々は,OODの一般化能力を秘かに犠牲にすることで,最先端手法のOOD検出性能が向上することを示す。
  論文  参考訳（メタデータ） (2024-10-12T07:02:04Z)
• Out-of-Distribution Data: An Acquaintance of Adversarial Examples -- A Survey [7.891552999555933]
  現実世界のアプリケーションにデプロイされるディープニューラルネットワーク(DNN)は、アウト・オブ・ディストリビューション(OOD)データや敵の例に遭遇する可能性がある。 伝統的に、OODの検出と敵の堅牢性は別の課題として対処されてきた。 本調査は, この2つの領域の交点に着目し, 研究コミュニティが共同研究を行った経緯について考察する。
  論文  参考訳（メタデータ） (2024-04-08T06:27:38Z)
• OOD Aware Supervised Contrastive Learning [13.329080722482187]
  アウト・オブ・ディストリビューション(OOD)検出は、機械学習モデルの安全なデプロイにおいて重要な問題である。 我々は、Supervised Contrastive (SupCon)トレーニングで学んだ強力な表現を活用し、OODデータに対する堅牢性を学ぶための総合的なアプローチを提案する。 我々の解は単純で効率的であり、閉集合教師付きコントラスト表現学習の自然な拡張として機能する。
  論文  参考訳（メタデータ） (2023-10-03T10:38:39Z)
• Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is All You Need [52.88953913542445]
  簡単な再構築手法を用いることで,OOD検出の性能が大幅に向上する可能性が示唆された。 我々は、OOD検出フレームワーク(MOOD)のプリテキストタスクとして、マスケ画像モデリング(Masked Image Modeling)を採用する。
  論文  参考訳（メタデータ） (2023-02-06T08:24:41Z)
• Your Out-of-Distribution Detection Method is Not Robust! [0.4893345190925178]
  オフ・オブ・ディストリビューション(OOD)検出は,信頼性と安全性において領域外サンプルを特定することの重要性から,近年注目されている。 この問題を緩和するために、最近いくつかの防衛策が提案されている。 我々は、より大きな摂動サイズを持つイン/アウトデータに対するエンドツーエンドのPGD攻撃に対して、これらの防御を再検討する。
  論文  参考訳（メタデータ） (2022-09-30T05:49:00Z)
• Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
  ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。 本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。 このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
  論文  参考訳（メタデータ） (2021-06-08T11:40:49Z)
• ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
  インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。 ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-06-26T20:58:05Z)
• Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
  既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
  論文  参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。