論文の概要: Hyperdimensional Feature Fusion for Out-Of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2112.05341v1
- Date: Fri, 10 Dec 2021 05:21:18 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-13 23:48:34.469016
- Title: Hyperdimensional Feature Fusion for Out-Of-Distribution Detection
- Title(参考訳): 分布外検出のための超次元特徴融合
- Authors: Samuel Wilson, Niko S\"underhauf and Feras Dayoub
- Abstract要約: 我々は超次元コンピューティングの強力なアイデアを、アウト・オブ・ディストリビューション(OOD)検出の挑戦分野に導入する。
類似性保存半直交射影行列を用いて、複数の層から共通ベクトル空間へ特徴写像を射影する。
テスト時に、記述子ベクトル間の単純で効率的なコサイン類似性計算は、現在の最先端技術よりも優れた性能を持つOODサンプルを一貫して識別する。
- 参考スコア(独自算出の注目度): 5.514061718048807
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce powerful ideas from Hyperdimensional Computing into the
challenging field of Out-of-Distribution (OOD) detection. In contrast to most
existing work that performs OOD detection based on only a single layer of a
neural network, we use similarity-preserving semi-orthogonal projection
matrices to project the feature maps from multiple layers into a common vector
space. By repeatedly applying the bundling operation $\oplus$, we create
expressive class-specific descriptor vectors for all in-distribution classes.
At test time, a simple and efficient cosine similarity calculation between
descriptor vectors consistently identifies OOD samples with better performance
than the current state-of-the-art. We show that the hyperdimensional fusion of
multiple network layers is critical to achieve best general performance.
- Abstract(参考訳): 我々は超次元コンピューティングの強力なアイデアを、アウト・オブ・ディストリビューション(OOD)検出の挑戦分野に導入する。
ニューラルネットワークの単一層のみに基づいてOOD検出を行う既存の作業とは対照的に、類似性保存半直交射影行列を用いて複数の層から共通ベクトル空間に特徴写像を投影する。
バンドル操作を $\oplus$ で繰り返し適用することにより、すべての分散クラスに対して表現型クラス固有の記述子ベクトルを生成する。
テスト時、ディスクリプタベクトル間のcosine類似度計算は、現在の状態よりも優れた性能でoodサンプルを一貫して識別する。
本稿では,複数のネットワーク層の超次元融合が最良性能を達成する上で重要であることを示す。
関連論文リスト
- On Layer-wise Representation Similarity: Application for Multi-Exit Models with a Single Classifier [20.17288970927518]
本研究では,各変圧器の隠蔽層間の表現の類似性について検討する。
本稿では,内部表現の類似性を高めるための協調学習手法を提案する。
論文 参考訳(メタデータ) (2024-06-20T16:41:09Z) - Out-of-distribution detection based on subspace projection of high-dimensional features output by the last convolutional layer [5.902332693463877]
本稿では,リッチな画像特徴を含む最終畳み込み層によって出力される高次元特徴に焦点をあてる。
我々のキーとなるアイデアは、これらの高次元特徴を2つの特定の特徴部分空間に投影し、事前定義された均一分布クラス Centroids (PEDCC)-Loss で訓練することです。
本手法では,入力前処理や特定のOODデータの事前チューニングの必要性を排除し,分類ネットワークモデルのトレーニングのみを必要とする。
論文 参考訳(メタデータ) (2024-05-02T18:33:02Z) - Detecting Out-of-Distribution Through the Lens of Neural Collapse [7.04686607977352]
アウト・オブ・ディストリビューション(OOD)検出は、AIの安全なデプロイに不可欠である。
ニューラル・コラプス(Neural Collapse)に触発されて、OOD試料の特徴と比較して重量ベクトルに近づいた分布内分布(ID)サンプルの特徴が明らかになった。
我々は,OOD検出における重みベクトルへの特徴近接を利用して,OODサンプルをフィルタする特徴ノルムを用いて,この視点を補うことを提案する。
論文 参考訳(メタデータ) (2023-11-02T05:18:28Z) - Multilayer Multiset Neuronal Networks -- MMNNs [55.2480439325792]
本研究は,2層以上の類似性ニューロンを組み込んだ多層神経回路網について述べる。
また,回避すべき画像領域に割り当てられる反プロトタイプ点の利用についても検討した。
論文 参考訳(メタデータ) (2023-08-28T12:55:13Z) - Dynamic Perceiver for Efficient Visual Recognition [87.08210214417309]
特徴抽出手順と早期分類タスクを分離する動的知覚器(Dyn-Perceiver)を提案する。
特徴ブランチは画像の特徴を抽出し、分類ブランチは分類タスクに割り当てられた遅延コードを処理する。
早期出口は分類枝に限られており、低レベルの特徴において線形分離性は不要である。
論文 参考訳(メタデータ) (2023-06-20T03:00:22Z) - Hamming Similarity and Graph Laplacians for Class Partitioning and
Adversarial Image Detection [2.960821510561423]
ニューラルネットワークの動作の理解と解釈を支援するために,ReLUアクティベーションパターン(ビットベクトルとして符号化)の可能性を検討する。
本稿では、Representational Dissimilarity Matrices(RDM)を用いて、ディープニューラルネットワークの埋め込み空間におけるデータのコヒーレンスについて検討する。
我々は,ビットベクトルが逆画像検出に役立ち,逆画像と非逆画像の分離において95%以上の精度を達成できることを実証した。
論文 参考訳(メタデータ) (2023-05-02T22:16:15Z) - Vector Quantized Wasserstein Auto-Encoder [57.29764749855623]
生成的視点から深層離散表現を学習する。
我々は,コードワード列上の離散分布を付与し,コードワード列上の分布をデータ分布に伝達する決定論的デコーダを学習する。
WS 距離のクラスタリングの観点と結びつけて,より優れた,より制御可能なクラスタリングソリューションを実現するための,さらなる理論を開発しています。
論文 参考訳(メタデータ) (2023-02-12T13:51:36Z) - Meta Learning Low Rank Covariance Factors for Energy-Based Deterministic
Uncertainty [58.144520501201995]
ニューラルネットワーク層のBi-Lipschitz正規化は、各レイヤの特徴空間におけるデータインスタンス間の相対距離を保存する。
注意セットエンコーダを用いて,タスク固有の共分散行列を効率的に構築するために,対角的,対角的,低ランクな要素のメタ学習を提案する。
また,最終的な予測分布を達成するために,スケールしたエネルギーを利用する推論手法を提案する。
論文 参考訳(メタデータ) (2021-10-12T22:04:19Z) - Out-Of-Distribution Detection With Subspace Techniques And Probabilistic
Modeling Of Features [7.219077740523682]
本論文では,DNN(Deep Neural Network)におけるOOD(Out-of- Distributionion)サンプル検出の原理的手法を提案する。
深部特徴量に基づく確率分布のモデル化は,近年,DNNにおけるOODサンプルの検出方法として,効率的かつ安価に実現されている。
線形統計的次元還元法と非線形多様体学習法を高次元的特徴に適用し、その特徴にまたがる真の部分空間を捕捉する。
論文 参考訳(メタデータ) (2020-12-08T07:07:11Z) - Fine-Grained Dynamic Head for Object Detection [68.70628757217939]
本稿では,各インスタンスの異なるスケールからfpn特徴の画素レベルの組み合わせを条件付きで選択する,きめ細かい動的ヘッドを提案する。
実験は,いくつかの最先端検出ベンチマークにおける提案手法の有効性と有効性を示す。
論文 参考訳(メタデータ) (2020-12-07T08:16:32Z) - Recursive Multi-model Complementary Deep Fusion forRobust Salient Object
Detection via Parallel Sub Networks [62.26677215668959]
完全畳み込みネットワークは、正体検出(SOD)分野において優れた性能を示している。
本稿では,全く異なるネットワークアーキテクチャを持つ並列サブネットワークからなる,より広いネットワークアーキテクチャを提案する。
いくつかの有名なベンチマークの実験では、提案されたより広範なフレームワークの優れた性能、優れた一般化、強力な学習能力が明らかに示されている。
論文 参考訳(メタデータ) (2020-08-07T10:39:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。