論文の概要: Outlier Detection through Null Space Analysis of Neural Networks
- arxiv url: http://arxiv.org/abs/2007.01263v1
- Date: Thu, 2 Jul 2020 17:17:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-14 13:24:49.267879
- Title: Outlier Detection through Null Space Analysis of Neural Networks
- Title（参考訳）: ニューラルネットワークのヌル空間解析による外乱検出
- Authors: Matthew Cook, Alina Zare, Paul Gader
- Abstract要約: 我々は、ヌル空間の概念を用いて、外れ値検出法を直接、分類に使用されるニューラルネットワークに統合する。
ニューラルネットワークのNull Space Analysis(NuSA)と呼ばれるこの手法は、データがネットワークを通過するときのヌル空間投影の大きさを計算し、制御する。
その結果、NuSAでトレーニングされたネットワークは、分類性能を維持しつつ、一般的に使用される外れ値検出アルゴリズムと同様の速度で外れ値を検出することができることが示された。
- 参考スコア（独自算出の注目度）: 3.220347094114561
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Many machine learning classification systems lack competency awareness.
Specifically, many systems lack the ability to identify when outliers (e.g.,
samples that are distinct from and not represented in the training data
distribution) are being presented to the system. The ability to detect outliers
is of practical significance since it can help the system behave in an
reasonable way when encountering unexpected data. In prior work, outlier
detection is commonly carried out in a processing pipeline that is distinct
from the classification model. Thus, for a complete system that incorporates
outlier detection and classification, two models must be trained, increasing
the overall complexity of the approach. In this paper we use the concept of the
null space to integrate an outlier detection method directly into a neural
network used for classification. Our method, called Null Space Analysis (NuSA)
of neural networks, works by computing and controlling the magnitude of the
null space projection as data is passed through a network. Using these
projections, we can then calculate a score that can differentiate between
normal and abnormal data. Results are shown that indicate networks trained with
NuSA retain their classification performance while also being able to detect
outliers at rates similar to commonly used outlier detection algorithms.
- Abstract（参考訳）: 多くの機械学習分類システムは能力の認知を欠いている。
特に、多くのシステムは、異常値(例えば、トレーニングデータ分布で表現されていない、異なるサンプル)がシステムに提示されたときに識別する能力が欠如している。
予期せぬデータに遭遇するとき、システムが合理的な方法で振る舞うのを助けることができるため、外れ値を検出する能力は実用上重要である。
先行研究では, 分類モデルとは異なる処理パイプラインにおいて, 異常検出を行うのが一般的である。
したがって、外れ値の検出と分類を組み込んだ完全なシステムでは、2つのモデルをトレーニングし、アプローチの全体的な複雑さを増大させる必要がある。
本稿では,ヌル空間の概念を用いて,異常検出手法を分類に用いるニューラルネットワークに直接統合する。
ニューラルネットワークのヌル空間解析(nusa)と呼ばれる手法は、データがネットワークを通過するときにヌル空間投影の大きさを計算し制御することで動作する。
これらの投影を用いて、正常データと異常データとを区別できるスコアを計算できる。
その結果,nusaで訓練されたネットワークは分類性能を維持しつつ,一般の異常検出アルゴリズムと同様の速度で異常値を検出することができた。
関連論文リスト
- Mutual Information Learned Classifiers: an Information-theoretic
Viewpoint of Training Deep Learning Classification Systems [9.660129425150926]
クロスエントロピー損失は、重度のオーバーフィッティング動作を示すモデルを見つけるのに容易である。
本稿では,既存のDNN分類器のクロスエントロピー損失最小化が,基礎となるデータ分布の条件エントロピーを本質的に学習することを証明する。
ラベルと入力の相互情報を学習することで、DNN分類器を訓練する相互情報学習フレームワークを提案する。
論文 参考訳（メタデータ） (2022-10-03T15:09:19Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳（メタデータ） (2022-02-01T17:11:13Z) - SignalNet: A Low Resolution Sinusoid Decomposition and Estimation
Network [79.04274563889548]
本稿では,正弦波数を検出するニューラルネットワークアーキテクチャであるSignalNetを提案する。
基礎となるデータ分布と比較して,ネットワークの結果を比較するための最悪の学習しきい値を導入する。
シミュレーションでは、我々のアルゴリズムは常に3ビットデータのしきい値を超えることができるが、しばしば1ビットデータのしきい値を超えることはできない。
論文 参考訳（メタデータ） (2021-06-10T04:21:20Z) - Hyperdimensional Computing for Efficient Distributed Classification with
Randomized Neural Networks [5.942847925681103]
本研究では,データを中央に保存することも共有することもできない状況下で利用できる分散分類について検討する。
ローカルな分類器を他のエージェントと共有する場合に、ロッキーな圧縮アプローチを適用することにより、分散分類のためのより効率的な解を提案する。
論文 参考訳（メタデータ） (2021-06-02T01:33:56Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳（メタデータ） (2021-05-30T22:07:13Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳（メタデータ） (2021-02-27T03:17:20Z) - Learning from Incomplete Features by Simultaneous Training of Neural
Networks and Sparse Coding [24.3769047873156]
本稿では,不完全な特徴を持つデータセット上で分類器を訓練する問題に対処する。
私たちは、各データインスタンスで異なる機能のサブセット(ランダムまたは構造化)が利用できると仮定します。
新しい教師付き学習法が開発され、サンプルあたりの機能のサブセットのみを使用して、一般的な分類器を訓練する。
論文 参考訳（メタデータ） (2020-11-28T02:20:39Z) - Category-Learning with Context-Augmented Autoencoder [63.05016513788047]
実世界のデータの解釈可能な非冗長表現を見つけることは、機械学習の鍵となる問題の一つである。
本稿では,オートエンコーダのトレーニングにデータ拡張を利用する新しい手法を提案する。
このような方法で変分オートエンコーダを訓練し、補助ネットワークによって変換結果を予測できるようにする。
論文 参考訳（メタデータ） (2020-10-10T14:04:44Z) - Analysing Risk of Coronary Heart Disease through Discriminative Neural
Networks [18.124078832445967]
診断のような重要なアプリケーションでは、このクラス不均衡は見過ごせない。
我々は、識別モデルと対照的な損失を用いて、ニューラルネットワークを介して、このクラス不均衡をどう扱えるかを説明する。
論文 参考訳（メタデータ） (2020-06-17T06:30:00Z) - Learning with Out-of-Distribution Data for Audio Classification [60.48251022280506]
我々は,OODインスタンスを破棄するよりも,特定のOODインスタンスを検出・復号化することで,学習に肯定的な影響を及ぼすことを示す。
提案手法は,畳み込みニューラルネットワークの性能を著しく向上させる。
論文 参考訳（メタデータ） (2020-02-11T21:08:06Z) - GIM: Gaussian Isolation Machines [40.7916016364212]
多くの場合、ニューラルネットワーク分類器は、トレーニング配布データの外にある入力データに露出する。
OODデータに遭遇した場合に発生する問題の解決を目的とした,新しいハイブリッド分類器を提案する。
提案されたGIMの新規性は、識別性能と生成能力にある。
論文 参考訳（メタデータ） (2020-02-06T09:51:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。