論文の概要: Task-agnostic Out-of-Distribution Detection Using Kernel Density
Estimation
- arxiv url: http://arxiv.org/abs/2006.10712v4
- Date: Tue, 30 Mar 2021 21:55:47 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-19 13:14:05.130060
- Title: Task-agnostic Out-of-Distribution Detection Using Kernel Density
Estimation
- Title(参考訳): カーネル密度推定を用いたタスク非依存分布検出
- Authors: Ertunc Erdil, Krishna Chaitanya, Neerav Karani, Ender Konukoglu
- Abstract要約: 本稿では,ディープニューラルネットワーク(DNN)におけるアウト・オブ・ディストリビューション(OOD)検出のためのタスク非依存手法を提案する。
我々は、トレーニングデータセット上でカーネル密度推定(KDE)を行うことにより、事前学習したDNNの中間特徴の確率密度関数(pdfs)を推定する。
テスト時には,試験試料のpdfを評価し,その試料がOODであることを示す信頼スコアを生成する。
- 参考スコア(独自算出の注目度): 10.238403787504756
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the recent years, researchers proposed a number of successful methods to
perform out-of-distribution (OOD) detection in deep neural networks (DNNs). So
far the scope of the highly accurate methods has been limited to image level
classification tasks. However, attempts for generally applicable methods beyond
classification did not attain similar performance. In this paper, we address
this limitation by proposing a simple yet effective task-agnostic OOD detection
method. We estimate the probability density functions (pdfs) of intermediate
features of a pre-trained DNN by performing kernel density estimation (KDE) on
the training dataset. As direct application of KDE to feature maps is hindered
by their high dimensionality, we use a set of lower-dimensional marginalized
KDE models instead of a single high-dimensional one. At test time, we evaluate
the pdfs on a test sample and produce a confidence score that indicates the
sample is OOD. The use of KDE eliminates the need for making simplifying
assumptions about the underlying feature pdfs and makes the proposed method
task-agnostic. We perform extensive experiments on classification tasks using
benchmark datasets for OOD detection. Additionally, we perform experiments on
medical image segmentation tasks using brain MRI datasets. The results
demonstrate that the proposed method consistently achieves high OOD detection
performance in both classification and segmentation tasks and improves
state-of-the-art in almost all cases. Code is available at
\url{https://github.com/eerdil/task_agnostic_ood}
- Abstract(参考訳): 近年、ディープニューラルネットワーク(DNN)でOOD(out-of-distribution)検出を成功させる方法が提案されている。
これまでのところ、高精度な手法の範囲は画像レベルの分類タスクに限られている。
しかし、分類以外の一般的な適用方法に対する試みは、同様の性能を得られなかった。
本稿では,OOD検出法を提案することで,この制限に対処する。
トレーニングデータセット上でカーネル密度推定(KDE)を行うことにより,事前学習DNNの中間特性の確率密度関数(pdfs)を推定する。
特徴写像へのKDEの直接適用は、その高次元性によって妨げられるため、1つの高次元モデルではなく、一組の低次元化KDEモデルを用いる。
テスト時には,試験試料のpdfを評価し,その試料がOODであることを示す信頼スコアを生成する。
KDEの使用により、基礎となる機能 pdfs に関する仮定を単純化する必要がなくなり、提案手法はタスクに依存しない。
OOD検出のためのベンチマークデータセットを用いて分類タスクの広範な実験を行う。
また,脳MRIデータセットを用いた医療画像分割タスクの実験を行った。
その結果,提案手法は分類タスクとセグメンテーションタスクの両方において高いOOD検出性能を一貫して達成し,ほぼすべてのケースにおいて最先端の手法を改良することを示した。
コードは \url{https://github.com/eerdil/task_agnostic_ood} で利用可能である。
関連論文リスト
- Margin-bounded Confidence Scores for Out-of-Distribution Detection [2.373572816573706]
本稿では,非自明なOOD検出問題に対処するため,Margin bounded Confidence Scores (MaCS) と呼ばれる新しい手法を提案する。
MaCS は ID と OOD のスコアの差を拡大し、決定境界をよりコンパクトにする。
画像分類タスクのための様々なベンチマークデータセットの実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2024-09-22T05:40:25Z) - A noisy elephant in the room: Is your out-of-distribution detector robust to label noise? [49.88894124047644]
我々は、最先端のOOD検出方法20について詳しく検討する。
不正に分類されたIDサンプルとOODサンプルの分離が不十分であることを示す。
論文 参考訳(メタデータ) (2024-04-02T09:40:22Z) - EAT: Towards Long-Tailed Out-of-Distribution Detection [55.380390767978554]
本稿では,長い尾を持つOOD検出の課題に対処する。
主な困難は、尾クラスに属するサンプルとOODデータを区別することである。
本稿では,(1)複数の禁制クラスを導入して分布内クラス空間を拡大すること,(2)コンテキストリッチなOODデータに画像をオーバーレイすることでコンテキスト限定のテールクラスを拡大すること,の2つの簡単な考え方を提案する。
論文 参考訳(メタデータ) (2023-12-14T13:47:13Z) - Nearest Neighbor Guidance for Out-of-Distribution Detection [18.851275688720108]
そこで本研究では,最寄りのNearest Neighbor Guidance (NNGuide) を用いて,オフ・オブ・ディストリビューション(OOD) サンプルの検出を行う。
NNGuideは、分類器ベースのスコアのきめ細かい機能を維持しながら、OODサンプルの過信を低減する。
この結果から,NNGuideはベース検出スコアを大幅に向上することがわかった。
論文 参考訳(メタデータ) (2023-09-26T12:40:35Z) - Beyond AUROC & co. for evaluating out-of-distribution detection
performance [50.88341818412508]
安全(r)AIとの関連性を考えると,OOD検出法の比較の基礎が実用的ニーズと整合しているかどうかを検討することが重要である。
我々は,IDとOODの分離が不十分なことを明示する新しい指標であるAUTC(Area Under the Threshold Curve)を提案する。
論文 参考訳(メタデータ) (2023-06-26T12:51:32Z) - Augmenting Softmax Information for Selective Classification with
Out-of-Distribution Data [7.221206118679026]
既存のポストホック法はOOD検出でのみ評価した場合とは大きく異なる性能を示す。
本稿では,特徴に依存しない情報を用いて,ソフトマックスに基づく信頼度を向上するSCOD(Softmax Information Retaining Combination, SIRC)の新たな手法を提案する。
多様なImageNetスケールのデータセットと畳み込みニューラルネットワークアーキテクチャの実験は、SIRCがSCODのベースラインを一貫して一致または上回っていることを示している。
論文 参考訳(メタデータ) (2022-07-15T14:39:57Z) - Meta-learning for Out-of-Distribution Detection via Density Estimation
in Latent Space [40.58524521473793]
そこで本研究では,OoD を目標タスク内の小さな分布データで検出する,シンプルで効果的なメタ学習手法を提案する。
すべてのタスク間で共有されるニューラルネットワークは、元の空間のインスタンスを潜在空間に柔軟にマッピングするために使用される。
6つのデータセットを用いた実験において,提案手法は既存のメタラーニング法やOoD検出法よりも優れた性能が得られることを示した。
論文 参考訳(メタデータ) (2022-06-20T02:44:42Z) - On the Practicality of Deterministic Epistemic Uncertainty [106.06571981780591]
決定論的不確実性法(DUM)は,分布外データの検出において高い性能を達成する。
DUMが十分に校正されており、現実のアプリケーションにシームレスにスケールできるかどうかは不明だ。
論文 参考訳(メタデータ) (2021-07-01T17:59:07Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳(メタデータ) (2021-05-30T22:07:13Z) - Entropy Maximization and Meta Classification for Out-Of-Distribution
Detection in Semantic Segmentation [7.305019142196585]
自動運転など多くのアプリケーションにおいて,OoD(Out-of-Distribution)サンプルが不可欠である。
OoD検出の自然なベースラインアプローチは、ピクセル回りのソフトマックスエントロピーのしきい値です。
そのアプローチを大幅に改善する2段階の手順を提案する。
論文 参考訳(メタデータ) (2020-12-09T11:01:06Z) - NADS: Neural Architecture Distribution Search for Uncertainty Awareness [79.18710225716791]
機械学習(ML)システムは、トレーニングデータとは異なるディストリビューションから来るテストデータを扱う場合、しばしばOoD(Out-of-Distribution)エラーに遭遇する。
既存のOoD検出アプローチはエラーを起こしやすく、時にはOoDサンプルに高い確率を割り当てることもある。
本稿では,すべての不確実性を考慮したアーキテクチャの共通構築ブロックを特定するために,ニューラルアーキテクチャ分布探索(NADS)を提案する。
論文 参考訳(メタデータ) (2020-06-11T17:39:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。