論文の概要: HALO: Robust Out-of-Distribution Detection via Joint Optimisation

• arxiv url: http://arxiv.org/abs/2502.19755v1
• Date: Thu, 27 Feb 2025 04:40:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-28 14:58:03.856292
• Title: HALO: Robust Out-of-Distribution Detection via Joint Optimisation
• Title（参考訳）: HALO:ジョイント最適化によるロバストアウトオブディストリビューション検出
• Authors: Hugo Lyons Keenan, Sarah Erfani, Christopher Leckie,
• Abstract要約: リアルタイムシナリオにおける機械学習モデルの安全なデプロイには、効果的なアウト・オブ・ディストリビューション(OOD)検出が不可欠である。 近年の研究では、OOD検出手法は敵攻撃に弱いことが示されており、高い精度のアプリケーションにおいて致命的な障害を引き起こす可能性がある。 分類と検出性能を高める新たな損失項を導入する。 私たちのアプローチはHALOと呼ばれ、既存のメソッドを超え、多くのデータセットとアタック設定で最先端のパフォーマンスを実現しています。
• 参考スコア（独自算出の注目度）: 11.107924895663173
• License:
• Abstract: Effective out-of-distribution (OOD) detection is crucial for the safe deployment of machine learning models in real-world scenarios. However, recent work has shown that OOD detection methods are vulnerable to adversarial attacks, potentially leading to critical failures in high-stakes applications. This discovery has motivated work on robust OOD detection methods that are capable of maintaining performance under various attack settings. Prior approaches have made progress on this problem but face a number of limitations: often only exhibiting robustness to attacks on OOD data or failing to maintain strong clean performance. In this work, we adapt an existing robust classification framework, TRADES, extending it to the problem of robust OOD detection and discovering a novel objective function. Recognising the critical importance of a strong clean/robust trade-off for OOD detection, we introduce an additional loss term which boosts classification and detection performance. Our approach, called HALO (Helper-based AdversariaL OOD detection), surpasses existing methods and achieves state-of-the-art performance across a number of datasets and attack settings. Extensive experiments demonstrate an average AUROC improvement of 3.15 in clean settings and 7.07 under adversarial attacks when compared to the next best method. Furthermore, HALO exhibits resistance to transferred attacks, offers tuneable performance through hyperparameter selection, and is compatible with existing OOD detection frameworks out-of-the-box, leaving open the possibility of future performance gains. Code is available at: https://github.com/hugo0076/HALO
• Abstract（参考訳）: リアルタイムシナリオにおける機械学習モデルの安全なデプロイには、効果的なアウト・オブ・ディストリビューション(OOD)検出が不可欠である。 しかし、最近の研究により、OOD検出手法は敵攻撃に弱いことが示され、高い精度のアプリケーションにおいて致命的な障害を引き起こす可能性がある。 この発見は、様々なアタック設定下でパフォーマンスを維持することのできる堅牢なOOD検出方法の開発を動機付けている。 OODデータに対する攻撃に対して堅牢性を示すことや、強いクリーンパフォーマンスの維持に失敗したことなどだ。 本研究では,既存のロバストな分類フレームワークであるTRADESを適用し,ロバストなOOD検出と新たな目的関数の発見という問題に拡張する。 OOD検出における強いクリーン/ロバストトレードオフの重要性を認識し、分類と検出性能を高める新たな損失項を導入する。 我々のアプローチはHALO(Helper-based AdversariaL OOD detection)と呼ばれ、既存の手法を超越し、多くのデータセットとアタック設定で最先端のパフォーマンスを実現しています。 大規模な実験では、クリーンな環境での平均3.15のAUROC改善と、次の最良の方法と比較して敵の攻撃下で7.07のAUROC改善が示されている。 さらにHALOは、転送攻撃に対する耐性を示し、ハイパーパラメータ選択によるチューニング可能なパフォーマンスを提供し、既存のOOD検出フレームワークと互換性を持ち、将来的なパフォーマンス向上の可能性を広げている。 コードは、https://github.com/hugo0076/HALOで入手できる。

関連論文リスト

• Out-of-Distribution Detection using Synthetic Data Generation [21.612592503592143]
  In- and out-of-distriion (OOD) 入力は、分類システムの信頼性の高いデプロイに不可欠である。 本稿では,Large Language Models (LLMs) の生成能力を利用して,高品質なOODプロキシを生成する手法を提案する。
  論文  参考訳（メタデータ） (2025-02-05T16:22:09Z)
• The Best of Both Worlds: On the Dilemma of Out-of-distribution Detection [75.65876949930258]
  アウト・オブ・ディストリビューション(OOD)検出はモデル信頼性に不可欠である。 我々は,OODの一般化能力を秘かに犠牲にすることで,最先端手法のOOD検出性能が向上することを示す。
  論文  参考訳（メタデータ） (2024-10-12T07:02:04Z)
• AUTO: Adaptive Outlier Optimization for Online Test-Time OOD Detection [81.49353397201887]
  オープンソースアプリケーションに機械学習モデルをデプロイするには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。 我々は、未ラベルのオンラインデータをテスト時に直接利用してOOD検出性能を向上させる、テスト時OOD検出と呼ばれる新しいパラダイムを導入する。 本稿では,入出力フィルタ,IDメモリバンク,意味的に一貫性のある目的からなる適応外乱最適化(AUTO)を提案する。
  論文  参考訳（メタデータ） (2023-03-22T02:28:54Z)
• Rainproof: An Umbrella To Shield Text Generators From Out-Of-Distribution Data [41.62897997865578]
  安全なシステム動作を保証するための重要な要素は、Out-Of-Distribution Detectionである。 ほとんどのメソッドはエンコーダが出力する隠れた機能に依存している。 本研究では,ブラックボックスフレームワークにおけるソフト確率の活用に焦点をあてる。
  論文  参考訳（メタデータ） (2022-12-18T21:22:28Z)
• Diffusion Denoising Process for Perceptron Bias in Out-of-distribution Detection [67.49587673594276]
  我々は、識別器モデルが入力の特定の特徴に対してより敏感であることを示唆する新しいパーセプトロンバイアスの仮定を導入し、過度な問題を引き起こした。 DMの拡散分解過程 (DDP) が非対称の新たな形態として機能し, 入力を高め, 過信問題を緩和するのに適していることを示す。 CIFAR10, CIFAR100, ImageNetによる実験により, 提案手法がSOTA手法より優れていることが示された。
  論文  参考訳（メタデータ） (2022-11-21T08:45:08Z)
• How to Exploit Hyperspherical Embeddings for Out-of-Distribution Detection? [22.519572587827213]
  CIDERは、OOD検出に超球面埋め込みを利用する表現学習フレームワークである。 CIDERは優れたパフォーマンスを確立し、FPR95では19.36%で最新のライバルを上回った。
  論文  参考訳（メタデータ） (2022-03-08T23:44:01Z)
• Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
  ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。 本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。 このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
  論文  参考訳（メタデータ） (2021-06-08T11:40:49Z)
• ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
  インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。 ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-06-26T20:58:05Z)
• Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
  既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
  論文  参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。