論文の概要: EPA: Neural Collapse Inspired Robust Out-of-Distribution Detector

• arxiv url: http://arxiv.org/abs/2401.01710v1
• Date: Wed, 3 Jan 2024 12:25:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-04 14:10:06.904941
• Title: EPA: Neural Collapse Inspired Robust Out-of-Distribution Detector
• Title（参考訳）: EPA:神経崩壊を誘発した分布検出装置
• Authors: Jiawei Zhang, Yufan Chen, Cheng Jin, Lei Zhu, Yuantao Gu
• Abstract要約: アウト・オブ・ディストリビューション(OOD)検出は、ニューラルネットワークのセキュリティを確保する上で重要な役割を果たす。 我々はEntropy-enhanced principal Angle(EPA)という新しい$mathcalNC$-inspired OODスコアリング関数を提案する。
• 参考スコア（独自算出の注目度）: 30.7272948590369
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Out-of-distribution (OOD) detection plays a crucial role in ensuring the security of neural networks. Existing works have leveraged the fact that In-distribution (ID) samples form a subspace in the feature space, achieving state-of-the-art (SOTA) performance. However, the comprehensive characteristics of the ID subspace still leave under-explored. Recently, the discovery of Neural Collapse ($\mathcal{NC}$) sheds light on novel properties of the ID subspace. Leveraging insight from $\mathcal{NC}$, we observe that the Principal Angle between the features and the ID feature subspace forms a superior representation for measuring the likelihood of OOD. Building upon this observation, we propose a novel $\mathcal{NC}$-inspired OOD scoring function, named Entropy-enhanced Principal Angle (EPA), which integrates both the global characteristic of the ID subspace and its inner property. We experimentally compare EPA with various SOTA approaches, validating its superior performance and robustness across different network architectures and OOD datasets.
• Abstract（参考訳）: out-of-distribution (ood)検出は、ニューラルネットワークのセキュリティを確保する上で重要な役割を果たす。 既存の作品では、in-distribution(id)サンプルが機能空間のサブスペースを形成し、最先端(sota)のパフォーマンスを実現している。 しかし、idサブスペースの包括的特徴は未検討のままである。 近年、Neural Collapse(\mathcal{NC}$)の発見は、ID部分空間の新たな性質に光を当てている。 我々は$\mathcal{NC}$から洞察を得て、特徴とID特徴部分空間の間の主角がOODの可能性を測る上で優れた表現となることを観察する。 そこで本研究では,id部分空間のグローバル特性と内部特性の両方を統合した,エントロピーエンハンスド主角 (epa) という,新たなoodスコアリング関数を提案する。 EPAと様々なSOTAアプローチを実験的に比較し、異なるネットワークアーキテクチャとOODデータセットにまたがる優れた性能と堅牢性を検証した。

関連論文リスト

• Pursuing Feature Separation based on Neural Collapse for Out-of-Distribution Detection [21.357620914949624]
  オープンな世界では、ラベルが分布内(ID)サンプルと相容れないOOD(out-of-distriion)データを検出することは、信頼できるディープニューラルネットワーク(DNN)にとって重要である。 我々はOrthLossと呼ばれるシンプルだが効果的な損失を提案し、これはサブ空間内のOODデータの特徴をNCによって形成されたID特徴の主部分空間に結合する。 我々の検出は、追加のデータ拡張やサンプリングなしに、CIFARベンチマーク上でのSOTA性能を達成する。
  論文  参考訳（メタデータ） (2024-05-28T04:24:38Z)
• GROOD: GRadient-aware Out-Of-Distribution detection in interpolated manifolds [12.727088216619386]
  ディープニューラルネットワーク(DNN)におけるアウト・オブ・ディストリビューション検出は、現実世界のデプロイメントにおいてリスクを引き起こす可能性がある。 グラディエント・アウェア・アウトオフ・ディストリビューション検出を導入。 ネイティブ多様体(Internative manifold, GROOD)は、勾配空間の識別力に依存する新しいフレームワークである。 GRODが最先端のベースラインの確立された堅牢性を上回ることを示す。
  論文  参考訳（メタデータ） (2023-12-22T04:28:43Z)
• Detecting Out-of-Distribution Through the Lens of Neural Collapse [7.04686607977352]
  安全なデプロイメントには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。 既存の検出器は、一般化の相違とコストの懸念を示す。 我々はニューラル崩壊の傾向にインスパイアされた、高度に多用途で効率的なOOD検出器を提案する。
  論文  参考訳（メタデータ） (2023-11-02T05:18:28Z)
• WDiscOOD: Out-of-Distribution Detection via Whitened Linear Discriminant Analysis [21.023001428704085]
  本稿では,クラス固有情報とクラス非依存情報に基づく新しい特徴空間OOD検出スコアを提案する。 WDiscOODという手法の有効性を,大規模なImageNet-1kベンチマークで検証した。
  論文  参考訳（メタデータ） (2023-03-14T00:13:57Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)
• AGO-Net: Association-Guided 3D Point Cloud Object Detection Network [86.10213302724085]
  ドメイン適応によるオブジェクトの無傷な特徴を関連付ける新しい3D検出フレームワークを提案する。 我々は,KITTIの3D検出ベンチマークにおいて,精度と速度の両面で最新の性能を実現する。
  論文  参考訳（メタデータ） (2022-08-24T16:54:38Z)
• Semi-signed neural fitting for surface reconstruction from unoriented point clouds [53.379712818791894]
  より優れた符号付き距離場を再構成するためのSN-Fittingを提案する。 SSNフィッティングは半署名の監督と損失に基づく領域サンプリング戦略で構成されている。 我々は,SSN-Fittingが,異なる設定下で最先端の性能を達成することを示す実験を行う。
  論文  参考訳（メタデータ） (2022-06-14T09:40:17Z)
• Exploring the Common Principal Subspace of Deep Features in Neural Networks [50.37178960258464]
  我々は、同じデータセットでトレーニングされた異なるディープニューラルネットワーク(DNN)が、潜在空間において共通の主部分空間を共有することを発見した。 具体的には、DNNで学んだ深い機能の主部分空間を表すために、$mathcalP$-vectorを新たに設計する。 異なるアルゴリズム/アーキテクチャで訓練された2つのDNNの比較では、小さな角度(コサインが1.0ドルに近い)が見つかっている。
  論文  参考訳（メタデータ） (2021-10-06T15:48:32Z)
• Out-Of-Distribution Detection With Subspace Techniques And Probabilistic Modeling Of Features [7.219077740523682]
  本論文では,DNN(Deep Neural Network)におけるOOD(Out-of- Distributionion)サンプル検出の原理的手法を提案する。 深部特徴量に基づく確率分布のモデル化は,近年,DNNにおけるOODサンプルの検出方法として,効率的かつ安価に実現されている。 線形統計的次元還元法と非線形多様体学習法を高次元的特徴に適用し、その特徴にまたがる真の部分空間を捕捉する。
  論文  参考訳（メタデータ） (2020-12-08T07:07:11Z)
• Global Context-Aware Progressive Aggregation Network for Salient Object Detection [117.943116761278]
  我々は,低レベルな外観特徴,高レベルな意味特徴,グローバルな文脈特徴を統合化するための新しいネットワークGCPANetを提案する。 提案手法は, 定量的かつ定性的に, 最先端の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-03-02T04:26:10Z)
• Dense Residual Network: Enhancing Global Dense Feature Flow for Character Recognition [75.4027660840568]
  本稿では,すべての畳み込み層から階層的特徴をフルに活用することにより,局所的・大域的特徴フローを改善する方法について検討する。 技術的には、テキスト認識のための効率的で効果的なCNNフレームワークであるFDRN(Fast Dense Residual Network)を提案する。
  論文  参考訳（メタデータ） (2020-01-23T06:55:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。