論文の概要: Three Factors to Improve Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2308.01030v1
- Date: Wed, 2 Aug 2023 09:27:11 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-03 13:29:44.172544
- Title: Three Factors to Improve Out-of-Distribution Detection
- Title(参考訳): アウトオブディストリビューション検出を改善する3つの要因
- Authors: Hyunjun Choi, JaeHo Chung, Hawook Jeong, Jin Young Choi
- Abstract要約: 分類精度とOOD検出性能のトレードオフに対処する。
i) 自己知識蒸留損失を取り入れることでネットワークの精度が向上し, (ii) トレーニング用半ハード・アウトレイアデータをサンプリングすることで, OOD検出性能を最小限の精度で向上させることができる; (iii) 新たな教師付きコントラスト学習の導入により,OOD検出性能とネットワークの精度が向上する。
- 参考スコア(独自算出の注目度): 7.26801177661482
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the problem of out-of-distribution (OOD) detection, the usage of auxiliary
data as outlier data for fine-tuning has demonstrated encouraging performance.
However, previous methods have suffered from a trade-off between classification
accuracy (ACC) and OOD detection performance (AUROC, FPR, AUPR). To improve
this trade-off, we make three contributions: (i) Incorporating a self-knowledge
distillation loss can enhance the accuracy of the network; (ii) Sampling
semi-hard outlier data for training can improve OOD detection performance with
minimal impact on accuracy; (iii) The introduction of our novel supervised
contrastive learning can simultaneously improve OOD detection performance and
the accuracy of the network. By incorporating all three factors, our approach
enhances both accuracy and OOD detection performance by addressing the
trade-off between classification and OOD detection. Our method achieves
improvements over previous approaches in both performance metrics.
- Abstract(参考訳): out-of-distribution (ood) 検出の問題では, 微調整のための異常データとしての補助データの利用が有益であった。
しかし,従来の手法は分類精度(ACC)とOOD検出性能(AUROC,FPR,AUPR)のトレードオフに悩まされている。
このトレードオフを改善するために、私たちは3つの貢献をします。
(i)自己認識蒸留損失を組み込むことで、ネットワークの精度を高めることができる。
二 訓練用半硬外乱データをサンプリングすることにより、精度に最小限の影響でOOD検出性能を向上させることができる。
3)新しい教師付きコントラスト学習の導入は,OOD検出性能とネットワークの精度を同時に向上させることができる。
これら3つの要因をすべて取り入れることで,分類とOOD検出のトレードオフに対処し,精度とOOD検出性能の両立を図る。
本手法は,従来の手法よりも性能指標が向上する。
関連論文リスト
- Self-Calibrated Tuning of Vision-Language Models for Out-of-Distribution Detection [24.557227100200215]
オープンソースアプリケーションに信頼性の高い機械学習モデルをデプロイするには、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。
近年のCLIPによるOOD検出の進歩は,IDデータから抽出したOOD特徴に即時調整を施すことによって有望な結果を示した。
提案手法は,SCT(Self-Calibrated Tuning)と呼ばれる新しいフレームワークで,与えられた数ショットのIDデータのみを用いて効果的なOOD検出を行う。
論文 参考訳(メタデータ) (2024-11-05T02:29:16Z) - Advancing Out-of-Distribution Detection through Data Purification and
Dynamic Activation Function Design [12.45245390882047]
OOD-R(Out-of-Distribution-Rectified)は,ノイズ低減特性が向上したオープンソースデータセットの集合体である。
OOD-Rはノイズフィルタリング技術を導入してデータセットを洗練し、OOD検出アルゴリズムのより正確で信頼性の高い評価を確実にする。
本稿では,多様な入力に対するモデルの応答を微調整し,特徴抽出の安定性を向上させる革新的な方法であるActFunを提案する。
論文 参考訳(メタデータ) (2024-03-06T02:39:22Z) - Continual Evidential Deep Learning for Out-of-Distribution Detection [20.846788009755183]
不確実性に基づくディープラーニングモデルは、正確で信頼性の高い予測を提供する能力に対して、大きな関心を集めている。
Evidential Deep Learningは、単一決定論的ニューラルネットワークによるアウト・オブ・ディストリビューション(OOD)データの検出において、優れたパフォーマンスを実現している。
本稿では,オブジェクト分類とOOD検出を同時に行うために,明らかなディープラーニング手法を連続的な学習フレームワークに統合することを提案する。
論文 参考訳(メタデータ) (2023-09-06T13:36:59Z) - Out-of-distribution Detection with Implicit Outlier Transformation [72.73711947366377]
外周露光(OE)は、オフ・オブ・ディストリビューション(OOD)検出において強力である。
我々は,未確認のOOD状況に対してモデルの性能を良くする,新しいOEベースのアプローチを提案する。
論文 参考訳(メタデータ) (2023-03-09T04:36:38Z) - Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is
All You Need [52.88953913542445]
簡単な再構築手法を用いることで,OOD検出の性能が大幅に向上する可能性が示唆された。
我々は、OOD検出フレームワーク(MOOD)のプリテキストタスクとして、マスケ画像モデリング(Masked Image Modeling)を採用する。
論文 参考訳(メタデータ) (2023-02-06T08:24:41Z) - Exploring Covariate and Concept Shift for Detection and Calibration of
Out-of-Distribution Data [77.27338842609153]
キャラクタリゼーションにより、OODデータの検出と信頼性校正には、それぞれのシフトに対する感度が重要であることが明らかになった。
分布内データのみを用いて両シフトでのOOD検出を改善するために,幾何学的に着想を得た手法を提案する。
我々は,OOD検出とキャリブレーションの両面で,異なるタイプのシフトの下でうまく機能する手法を最初に提案する。
論文 参考訳(メタデータ) (2021-10-28T15:42:55Z) - On the Impact of Spurious Correlation for Out-of-distribution Detection [14.186776881154127]
我々は、不変性と環境特性の両方を考慮して、データシフトをモデル化し、新しい形式化を提案する。
その結果, トレーニングセットにおいて, 突発的特徴とラベルの相関が大きくなると, 検出性能が著しく悪化することが示唆された。
論文 参考訳(メタデータ) (2021-09-12T23:58:17Z) - Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。
本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。
このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
論文 参考訳(メタデータ) (2021-06-08T11:40:49Z) - Contrastive Training for Improved Out-of-Distribution Detection [36.61315534166451]
本稿では,OOD検出性能向上のためのコントラストトレーニングを提案する。
コントラストトレーニングは,多くのベンチマークにおいてOOD検出性能を著しく向上させることを示す。
論文 参考訳(メタデータ) (2020-07-10T18:40:37Z) - ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。
ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-06-26T20:58:05Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-21T17:46:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。