論文の概要: Concept-based Explanations for Out-Of-Distribution Detectors
- arxiv url: http://arxiv.org/abs/2203.02586v1
- Date: Fri, 4 Mar 2022 22:11:40 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-08 15:23:57.162637
- Title: Concept-based Explanations for Out-Of-Distribution Detectors
- Title(参考訳): 分布検出器の概念に基づく説明
- Authors: Jihye Choi, Jayaram Raghuram, Ryan Feng, Jiefeng Chen, Somesh Jha,
Atul Prakash
- Abstract要約: Out-of-Distribution(OOD)検出は、ディープニューラルネットワーク(DNN)分類器の安全なデプロイを保証する上で、重要な役割を果たす。
我々は、学習された高レベル概念に基づいたOOD検出器の説明を提供することで、このギャップを埋める手助けをする。
- 参考スコア(独自算出の注目度): 23.727597814358525
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Out-of-distribution (OOD) detection plays a crucial role in ensuring the safe
deployment of deep neural network (DNN) classifiers. While a myriad of methods
have focused on improving the performance of OOD detectors, a critical gap
remains in interpreting their decisions. We help bridge this gap by providing
explanations for OOD detectors based on learned high-level concepts. We first
propose two new metrics for assessing the effectiveness of a particular set of
concepts for explaining OOD detectors: 1) detection completeness, which
quantifies the sufficiency of concepts for explaining an OOD-detector's
decisions, and 2) concept separability, which captures the distributional
separation between in-distribution and OOD data in the concept space. Based on
these metrics, we propose a framework for learning a set of concepts that
satisfy the desired properties of detection completeness and concept
separability and demonstrate the framework's effectiveness in providing
concept-based explanations for diverse OOD techniques. We also show how to
identify prominent concepts that contribute to the detection results via a
modified Shapley value-based importance score.
- Abstract(参考訳): Out-of-Distribution(OOD)検出は、ディープニューラルネットワーク(DNN)分類器の安全なデプロイを保証する上で重要な役割を果たす。
OOD検出器の性能向上に多くの手法が注がれているが、決定を解釈する上で重要なギャップが残っている。
我々は、学習された高レベル概念に基づいたOOD検出器の説明を提供することで、このギャップを埋める手助けをする。
まず,ood検出器を説明するための概念セットの有効性を評価するための2つの新しい指標を提案する。
1)OOD検出者の判断を説明するための概念の充実度を定量化する検出完全性、及び
2) 概念分離性は, 概念空間における分配データとOODデータの分散分離を捉える。
これらの指標に基づいて,検出完全性と概念分離性の望ましい特性を満たす概念の集合を学習するフレームワークを提案し,多様なOOD技術に対する概念ベースの説明を提供する上でのフレームワークの有効性を実証する。
また,修正したshapley値に基づく重要度スコアを用いて,検出結果に寄与する重要な概念を特定する方法を示す。
関連論文リスト
- Fast Decision Boundary based Out-of-Distribution Detector [8.324938763661295]
レイテンシクリティカルなアプリケーションにおけるAIの安全なデプロイには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。
近年の研究では,特徴空間情報に基づくOODの検出が有効であることが判明している。
有効性にもかかわらず、特徴空間を離脱するOOD法は、非無視的な計算オーバーヘッドを引き起こす可能性がある。
論文 参考訳(メタデータ) (2023-12-15T19:50:32Z) - Out-of-Distribution Knowledge Distillation via Confidence Amendment [50.56321442948141]
標準ネットワークがトレーニングされるIDデータから逸脱するテストサンプルを特定するためには、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。
本稿では,IDデータのトレーニングが可能であるか否かを問う,先駆的な学習フレームワークであるOODナレッジ蒸留について紹介する。
このフレームワークは、標準ネットワークからOODに敏感な知識を活用し、IDとOODサンプルの識別に適したバイナリ分類器を構築する。
論文 参考訳(メタデータ) (2023-11-14T08:05:02Z) - Continual Evidential Deep Learning for Out-of-Distribution Detection [20.846788009755183]
不確実性に基づくディープラーニングモデルは、正確で信頼性の高い予測を提供する能力に対して、大きな関心を集めている。
Evidential Deep Learningは、単一決定論的ニューラルネットワークによるアウト・オブ・ディストリビューション(OOD)データの検出において、優れたパフォーマンスを実現している。
本稿では,オブジェクト分類とOOD検出を同時に行うために,明らかなディープラーニング手法を連続的な学習フレームワークに統合することを提案する。
論文 参考訳(メタデータ) (2023-09-06T13:36:59Z) - Beyond AUROC & co. for evaluating out-of-distribution detection
performance [50.88341818412508]
安全(r)AIとの関連性を考えると,OOD検出法の比較の基礎が実用的ニーズと整合しているかどうかを検討することが重要である。
我々は,IDとOODの分離が不十分なことを明示する新しい指標であるAUTC(Area Under the Threshold Curve)を提案する。
論文 参考訳(メタデータ) (2023-06-26T12:51:32Z) - Out-of-Domain Intent Detection Considering Multi-Turn Dialogue Contexts [91.43701971416213]
我々は,OODインテント検出タスクにおけるマルチターンコンテキストをモデル化するためのコンテキスト認識型OODインテント検出(Caro)フレームワークを提案する。
CaroはF1-OODスコアを29%以上改善することで、マルチターンOOD検出タスクの最先端性能を確立している。
論文 参考訳(メタデータ) (2023-05-05T01:39:21Z) - Background Matters: Enhancing Out-of-distribution Detection with Domain
Features [90.32910087103744]
OODサンプルは任意の分布から引き出すことができ、様々な次元における分布内(ID)データからの偏差を示す。
既存の方法は、ドメインの特徴のような他の次元を無視しながら、意味的特徴に基づいてOODサンプルを検出することに重点を置いている。
本稿では,IDトレーニングサンプルからドメインの特徴を高密度な予測手法により学習することのできる,新しい汎用フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-15T16:12:14Z) - WDiscOOD: Out-of-Distribution Detection via Whitened Linear Discriminant
Analysis [21.023001428704085]
本稿では,クラス固有情報とクラス非依存情報に基づく新しい特徴空間OOD検出スコアを提案する。
WDiscOODという手法の有効性を,大規模なImageNet-1kベンチマークで検証した。
論文 参考訳(メタデータ) (2023-03-14T00:13:57Z) - Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is
All You Need [52.88953913542445]
簡単な再構築手法を用いることで,OOD検出の性能が大幅に向上する可能性が示唆された。
我々は、OOD検出フレームワーク(MOOD)のプリテキストタスクとして、マスケ画像モデリング(Masked Image Modeling)を採用する。
論文 参考訳(メタデータ) (2023-02-06T08:24:41Z) - Triggering Failures: Out-Of-Distribution detection by learning from
local adversarial attacks in Semantic Segmentation [76.2621758731288]
セグメンテーションにおけるアウト・オブ・ディストリビューション(OOD)オブジェクトの検出に取り組む。
私たちの主な貢献は、ObsNetと呼ばれる新しいOOD検出アーキテクチャであり、ローカル・アタック(LAA)に基づく専用トレーニングスキームと関連付けられています。
3つの異なるデータセットの文献の最近の10つの手法と比較して,速度と精度の両面で最高の性能が得られることを示す。
論文 参考訳(メタデータ) (2021-08-03T17:09:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。