論文の概要: Subspace Modeling for Fast Out-Of-Distribution and Anomaly Detection
- arxiv url: http://arxiv.org/abs/2203.10422v1
- Date: Sun, 20 Mar 2022 00:55:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 18:16:15.786340
- Title: Subspace Modeling for Fast Out-Of-Distribution and Anomaly Detection
- Title(参考訳): 高速アウトオフ分布と異常検出のための部分空間モデリング
- Authors: Ibrahima J. Ndiour, Nilesh A. Ahuja, Omesh Tickoo
- Abstract要約: 本稿では、ディープニューラルネットワーク(DNN)における異常および分布外サンプルを検出するための原則的アプローチを提案する。
本稿では,DNN が生成する意味的特徴に対する線形統計量次元削減手法の適用を提案する。
高次元空間における原特徴と低次元縮小埋め込みの前像との差の$ell$-normの「機能再構成誤差」(FRE)はOODと異常検出に極めて有効であることを示す。
- 参考スコア(独自算出の注目度): 5.672132510411465
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper presents a fast, principled approach for detecting anomalous and
out-of-distribution (OOD) samples in deep neural networks (DNN). We propose the
application of linear statistical dimensionality reduction techniques on the
semantic features produced by a DNN, in order to capture the low-dimensional
subspace truly spanned by said features. We show that the "feature
reconstruction error" (FRE), which is the $\ell_2$-norm of the difference
between the original feature in the high-dimensional space and the pre-image of
its low-dimensional reduced embedding, is highly effective for OOD and anomaly
detection. To generalize to intermediate features produced at any given layer,
we extend the methodology by applying nonlinear kernel-based methods.
Experiments using standard image datasets and DNN architectures demonstrate
that our method meets or exceeds best-in-class quality performance, but at a
fraction of the computational and memory cost required by the state of the art.
It can be trained and run very efficiently, even on a traditional CPU.
- Abstract(参考訳): 本稿では,ディープニューラルネットワーク(DNN)における異常および分布外(OOD)サンプルを高速かつ原理的に検出する手法を提案する。
本研究では,dnnが生成する意味的特徴に対する線形統計次元低減手法の応用を提案し,その特徴に真にまたがる低次元部分空間を捉える。
高次元空間における原特徴と低次元縮小埋め込みの事前像との差の$\ell_2$-normである「機能再構成誤差」(FRE)がOODと異常検出に極めて有効であることを示す。
任意の層で生成された中間的特徴を一般化するために,非線形カーネル法を適用して方法論を拡張する。
標準画像データセットとDNNアーキテクチャを用いた実験により、我々の手法は最高の品質性能を達成または超えるが、最先端技術で必要とされる計算コストとメモリコストのごく一部を達成できることを示した。
従来のcpuでも、非常に効率的にトレーニングや実行が可能です。
関連論文リスト
- Adaptive Error-Bounded Hierarchical Matrices for Efficient Neural Network Compression [0.0]
本稿では,物理インフォームドニューラルネットワーク(PINN)に適した動的,エラーバウンドな階層行列 (H-matrix) 圧縮手法を提案する。
提案手法は,ニューラル・タンジェント・カーネル(NTK)の本質的性質を保ちながら,大規模物理モデルにおける計算複雑性とメモリ要求を低減させる。
実験により, この手法は, 高精度を維持し, 一般化能力を向上させることにより, Singular Value Decomposition (SVD) やプルーニング, 量子化などの従来の圧縮手法よりも優れていることを示した。
論文 参考訳(メタデータ) (2024-09-11T05:55:51Z) - The Convex Landscape of Neural Networks: Characterizing Global Optima
and Stationary Points via Lasso Models [75.33431791218302]
ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。
本稿では,凸型神経回復モデルについて検討する。
定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
論文 参考訳(メタデータ) (2023-12-19T23:04:56Z) - Low-rank Tensor Assisted K-space Generative Model for Parallel Imaging
Reconstruction [14.438899814473446]
並列画像再構成のための低ランクテンソル支援k空間生成モデル(LR-KGM)を提案する。
これは、学習のための元の事前情報を高次元の事前情報に変換することを意味する。
実験により, LR-KGM法は高い性能を示した。
論文 参考訳(メタデータ) (2022-12-11T13:34:43Z) - FRE: A Fast Method For Anomaly Detection And Segmentation [5.0468312081378475]
本稿では,視覚異常検出とセグメンテーション問題を解決するための原理的アプローチを提案する。
本稿では,事前学習したDNNが生み出す中間特性に対する線形統計量次元削減手法の適用について述べる。
高次元空間における原特徴と低次元縮小埋め込みの前像との差の$ell$-normのEmphfeature reconstruction error (FRE) が異常検出に極めて有効であることを示す。
論文 参考訳(メタデータ) (2022-11-23T01:03:20Z) - DeepDC: Deep Distance Correlation as a Perceptual Image Quality
Evaluator [53.57431705309919]
ImageNet Pre-trained Deep Neural Network (DNN)は、効果的な画像品質評価(IQA)モデルを構築するための顕著な転送性を示す。
我々は,事前学習DNN機能のみに基づく新しいフル参照IQA(FR-IQA)モデルを開発した。
5つの標準IQAデータセット上で,提案した品質モデルの優位性を示すため,包括的実験を行った。
論文 参考訳(メタデータ) (2022-11-09T14:57:27Z) - Distributed Dynamic Safe Screening Algorithms for Sparse Regularization [73.85961005970222]
本稿では,分散動的安全スクリーニング(DDSS)手法を提案し,共有メモリアーキテクチャと分散メモリアーキテクチャにそれぞれ適用する。
提案手法は, 線形収束率を低次複雑度で達成し, 有限個の繰り返しにおいてほとんどすべての不活性な特徴をほぼ確実に除去できることを示す。
論文 参考訳(メタデータ) (2022-04-23T02:45:55Z) - Hybridization of Capsule and LSTM Networks for unsupervised anomaly
detection on multivariate data [0.0]
本稿では,Long-Short-Term-Memory(LSTM)とCapsule Networksを1つのネットワークに結合した新しいNNアーキテクチャを提案する。
提案手法は教師なし学習手法を用いて大量のラベル付きトレーニングデータを見つける際の問題を克服する。
論文 参考訳(メタデータ) (2022-02-11T10:33:53Z) - A novel Deep Neural Network architecture for non-linear system
identification [78.69776924618505]
非線形システム識別のための新しいDeep Neural Network (DNN)アーキテクチャを提案する。
メモリシステムにインスパイアされたインダクティブバイアス(アーキテクチャ)と正規化(損失関数)を導入する。
このアーキテクチャは、利用可能なデータのみに基づいて、自動的な複雑性の選択を可能にする。
論文 参考訳(メタデータ) (2021-06-06T10:06:07Z) - Rank-R FNN: A Tensor-Based Learning Model for High-Order Data
Classification [69.26747803963907]
Rank-R Feedforward Neural Network (FNN)は、そのパラメータにCanonical/Polyadic分解を課すテンソルベースの非線形学習モデルである。
まず、入力をマルチリニアアレイとして扱い、ベクトル化の必要性を回避し、すべてのデータ次元に沿って構造情報を十分に活用することができる。
Rank-R FNNの普遍的な近似と学習性の特性を確立し、実世界のハイパースペクトルデータセットのパフォーマンスを検証する。
論文 参考訳(メタデータ) (2021-04-11T16:37:32Z) - Densely Nested Top-Down Flows for Salient Object Detection [137.74130900326833]
本稿では,物体検出におけるトップダウンモデリングの役割を再考する。
密度の高いトップダウンフロー(DNTDF)ベースのフレームワークを設計する。
DNTDFのすべての段階において、高いレベルの特徴はプログレッシブ圧縮ショートカットパス(PCSP)を介して読み込まれる。
論文 参考訳(メタデータ) (2021-02-18T03:14:02Z) - Out-Of-Distribution Detection With Subspace Techniques And Probabilistic
Modeling Of Features [7.219077740523682]
本論文では,DNN(Deep Neural Network)におけるOOD(Out-of- Distributionion)サンプル検出の原理的手法を提案する。
深部特徴量に基づく確率分布のモデル化は,近年,DNNにおけるOODサンプルの検出方法として,効率的かつ安価に実現されている。
線形統計的次元還元法と非線形多様体学習法を高次元的特徴に適用し、その特徴にまたがる真の部分空間を捕捉する。
論文 参考訳(メタデータ) (2020-12-08T07:07:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。