論文の概要: ImageNet-OOD: Deciphering Modern Out-of-Distribution Detection
Algorithms
- arxiv url: http://arxiv.org/abs/2310.01755v1
- Date: Tue, 3 Oct 2023 02:37:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-04 17:55:45.478465
- Title: ImageNet-OOD: Deciphering Modern Out-of-Distribution Detection
Algorithms
- Title(参考訳): ImageNet-OOD:現代のアウトオブディストリビューション検出アルゴリズムの解読
- Authors: William Yang, Byron Zhang, Olga Russakovsky
- Abstract要約: アウト・オブ・ディストリビューション(OOD)検出は、未定義で悪名高い。
最近の研究は、障害検出に焦点をあてている。
以前は最先端と見なされていた複雑なOOD検出器は、単純な最大ソフトマックス確率ベースラインと同じような、あるいはそれ以上に機能している。
- 参考スコア(独自算出の注目度): 31.10771806981613
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The task of out-of-distribution (OOD) detection is notoriously ill-defined.
Earlier works focused on new-class detection, aiming to identify label-altering
data distribution shifts, also known as "semantic shift." However, recent works
argue for a focus on failure detection, expanding the OOD evaluation framework
to account for label-preserving data distribution shifts, also known as
"covariate shift." Intriguingly, under this new framework, complex OOD
detectors that were previously considered state-of-the-art now perform
similarly to, or even worse than the simple maximum softmax probability
baseline. This raises the question: what are the latest OOD detectors actually
detecting? Deciphering the behavior of OOD detection algorithms requires
evaluation datasets that decouples semantic shift and covariate shift. To aid
our investigations, we present ImageNet-OOD, a clean semantic shift dataset
that minimizes the interference of covariate shift. Through comprehensive
experiments, we show that OOD detectors are more sensitive to covariate shift
than to semantic shift, and the benefits of recent OOD detection algorithms on
semantic shift detection is minimal. Our dataset and analyses provide important
insights for guiding the design of future OOD detectors.
- Abstract(参考訳): out-of-distribution (ood) 検出のタスクは悪名高い。
初期の研究は、ラベル変更によるデータ分散シフト(semantic shift)の特定を目的とした、新しいクラス検出に焦点を当てていた。
しかし、最近の研究は、障害検出に焦点を当て、OOD評価フレームワークを拡張して、ラベル保存データ分散シフト("covariate shift"とも呼ばれる)を考慮に入れている。
興味深いことに、この新しい枠組みでは、以前最先端と見なされていた複雑なood検出器が、単純な最大ソフトマックス確率ベースラインと同様に、あるいはさらに悪いことに機能する。
最新のOOD検出器は何が実際に検出されているのか?
OOD検出アルゴリズムの振る舞いを解読するには、セマンティックシフトと共変量シフトを分離する評価データセットが必要である。
本研究では,共変量シフトの干渉を最小限に抑えるクリーンなセマンティックシフトデータセットであるImageNet-OODを提案する。
総合的な実験を通して、OOD検出器は意味シフトよりも共変量シフトに敏感であることを示し、最近のOOD検出アルゴリズムのセマンティックシフト検出に対する利点は最小限である。
我々のデータセットと分析は、将来のOOD検出器の設計を導く上で重要な洞察を提供する。
関連論文リスト
- Semantic or Covariate? A Study on the Intractable Case of Out-of-Distribution Detection [70.57120710151105]
ID分布のセマンティック空間をより正確に定義する。
また,OOD と ID の区別性を保証する "Tractable OOD" の設定も定義する。
論文 参考訳(メタデータ) (2024-11-18T03:09:39Z) - Rethinking the Evaluation of Out-of-Distribution Detection: A Sorites Paradox [70.57120710151105]
既存のアウト・オブ・ディストリビューション(OOD)検出ベンチマークは、サンプルを新しいラベルでOODデータとして分類する。
いくつかの限界OODサンプルは、実際には分布内(ID)サンプルに密接なセマンティック内容を持ち、OODサンプルをソリテスパラドックス(英語版)と判定する。
この問題に対処するため,Incremental Shift OOD (IS-OOD) というベンチマークを構築した。
論文 参考訳(メタデータ) (2024-06-14T09:27:56Z) - Beyond AUROC & co. for evaluating out-of-distribution detection
performance [50.88341818412508]
安全(r)AIとの関連性を考えると,OOD検出法の比較の基礎が実用的ニーズと整合しているかどうかを検討することが重要である。
我々は,IDとOODの分離が不十分なことを明示する新しい指標であるAUTC(Area Under the Threshold Curve)を提案する。
論文 参考訳(メタデータ) (2023-06-26T12:51:32Z) - Is Fine-tuning Needed? Pre-trained Language Models Are Near Perfect for
Out-of-Domain Detection [28.810524375810736]
アウト・オブ・ディストリビューション(OOD)検出は、テキスト上の信頼できる予測にとって重要なタスクである。
事前訓練された言語モデルによる微調整は、OOD検出器を導出するための事実上の手順である。
距離に基づく検出手法を用いて、事前学習した言語モデルは、分布シフトがドメイン変更を伴う場合、ほぼ完璧なOOD検出器であることを示す。
論文 参考訳(メタデータ) (2023-05-22T17:42:44Z) - Augmenting Softmax Information for Selective Classification with
Out-of-Distribution Data [7.221206118679026]
既存のポストホック法はOOD検出でのみ評価した場合とは大きく異なる性能を示す。
本稿では,特徴に依存しない情報を用いて,ソフトマックスに基づく信頼度を向上するSCOD(Softmax Information Retaining Combination, SIRC)の新たな手法を提案する。
多様なImageNetスケールのデータセットと畳み込みニューラルネットワークアーキテクチャの実験は、SIRCがSCODのベースラインを一貫して一致または上回っていることを示している。
論文 参考訳(メタデータ) (2022-07-15T14:39:57Z) - Exploring Covariate and Concept Shift for Detection and Calibration of
Out-of-Distribution Data [77.27338842609153]
キャラクタリゼーションにより、OODデータの検出と信頼性校正には、それぞれのシフトに対する感度が重要であることが明らかになった。
分布内データのみを用いて両シフトでのOOD検出を改善するために,幾何学的に着想を得た手法を提案する。
我々は,OOD検出とキャリブレーションの両面で,異なるタイプのシフトの下でうまく機能する手法を最初に提案する。
論文 参考訳(メタデータ) (2021-10-28T15:42:55Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳(メタデータ) (2020-12-10T16:55:13Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-21T17:46:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。