論文の概要: NERO: Explainable Out-of-Distribution Detection with Neuron-level Relevance

• arxiv url: http://arxiv.org/abs/2506.15404v1
• Date: Wed, 18 Jun 2025 12:22:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-19 19:35:51.658543
• Title: NERO: Explainable Out-of-Distribution Detection with Neuron-level Relevance
• Title（参考訳）: NERO:ニューロンレベルの関連性による説明可能なアウト・オブ・ディストリビューション検出
• Authors: Anju Chhetri, Jari Korhonen, Prashnna Gyawali, Binod Bhattarai,
• Abstract要約: 機能層におけるニューロンレベルの関連性を利用した新しいOODスコアリング機構NEROを提案する。 具体的には、各分布内(ID)クラスに対するニューロンレベルの関連性をクラスタリングし、代表的なセントロイドを形成する。 バイアス項にスケールした関連性を取り入れ、特徴ノルムを組み合わせることで性能を向上する。
• 参考スコア（独自算出の注目度）: 13.36825494924134
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Ensuring reliability is paramount in deep learning, particularly within the domain of medical imaging, where diagnostic decisions often hinge on model outputs. The capacity to separate out-of-distribution (OOD) samples has proven to be a valuable indicator of a model's reliability in research. In medical imaging, this is especially critical, as identifying OOD inputs can help flag potential anomalies that might otherwise go undetected. While many OOD detection methods rely on feature or logit space representations, recent works suggest these approaches may not fully capture OOD diversity. To address this, we propose a novel OOD scoring mechanism, called NERO, that leverages neuron-level relevance at the feature layer. Specifically, we cluster neuron-level relevance for each in-distribution (ID) class to form representative centroids and introduce a relevance distance metric to quantify a new sample's deviation from these centroids, enhancing OOD separability. Additionally, we refine performance by incorporating scaled relevance in the bias term and combining feature norms. Our framework also enables explainable OOD detection. We validate its effectiveness across multiple deep learning architectures on the gastrointestinal imaging benchmarks Kvasir and GastroVision, achieving improvements over state-of-the-art OOD detection methods.
• Abstract（参考訳）: 信頼性の確保は深層学習において最重要であり、特に医療画像の領域では、診断決定がしばしばモデル出力にヒンジされる。 オフ・オブ・ディストリビューション(OOD)サンプルを分離する能力は、研究におけるモデルの信頼性を示す貴重な指標であることが証明されている。 医学画像では、OOD入力を識別することは、検出されない可能性のある潜在的な異常をフラグするのに役立つため、これは特に重要である。 多くのOOD検出法は特徴空間やロジット空間の表現に依存しているが、最近の研究はOODの多様性を完全に把握していないことを示唆している。 そこで我々は,機能層におけるニューロンレベルの関連性を利用した新しいOODスコアリング機構NEROを提案する。 具体的には、各分布内(ID)クラスに対するニューロンレベルの関連性をクラスタ化して、代表セントロイドを形成するとともに、これらのセントロイドからの新しい試料の偏差を定量化するための関連距離指標を導入し、OOD分離性を高めた。 さらに、バイアス項にスケールした関連性を取り入れ、特徴ノルムを組み合わせることで性能を向上する。 私たちのフレームワークは、説明可能なOOD検出も可能にします。 我々は,Kvasir と GastroVision の消化器画像ベンチマークを用いて,複数のディープラーニングアーキテクチャにまたがってその効果を検証し,最先端の OOD 検出法の改善を実現した。

関連論文リスト

• Advancing Out-of-Distribution Detection via Local Neuroplasticity [60.53625435889467]
  本稿では,コルモゴロフ・アルノルドネットワーク(KAN)の局所神経可塑性特性を利用した新しいOOD検出法を提案する。 本手法は,トレーニング対象のカンの活性化パターンとトレーニング対象のOOD検出パターンを比較した。 画像および医用領域のベンチマークに対するアプローチを検証し、最先端技術と比較して優れた性能と堅牢性を示す。
  論文  参考訳（メタデータ） (2025-02-20T11:13:41Z)
• What If the Input is Expanded in OOD Detection? [77.37433624869857]
  Out-of-distriion (OOD) 検出は未知のクラスからのOOD入力を特定することを目的としている。 In-distriion(ID)データと区別するために,様々なスコアリング関数を提案する。 入力空間に異なる共通の汚職を用いるという、新しい視点を導入する。
  論文  参考訳（メタデータ） (2024-10-24T06:47:28Z)
• Detecting Out-of-Distribution Through the Lens of Neural Collapse [7.04686607977352]
  Out-of-Distribution (OOD) 検出は安全なデプロイメントに不可欠である。 ニューラル・コラプス現象に触発されて,我々は多目的かつ効率的なOOD検出法を提案する。
  論文  参考訳（メタデータ） (2023-11-02T05:18:28Z)
• Beyond AUROC & co. for evaluating out-of-distribution detection performance [50.88341818412508]
  安全(r)AIとの関連性を考えると,OOD検出法の比較の基礎が実用的ニーズと整合しているかどうかを検討することが重要である。 我々は,IDとOODの分離が不十分なことを明示する新しい指標であるAUTC(Area Under the Threshold Curve)を提案する。
  論文  参考訳（メタデータ） (2023-06-26T12:51:32Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)
• Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
  既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
  論文  参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。