論文の概要: Targeted collapse regularized autoencoder for anomaly detection: black hole at the center
- arxiv url: http://arxiv.org/abs/2306.12627v2
- Date: Wed, 27 Mar 2024 23:54:26 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-29 22:02:51.262742
- Title: Targeted collapse regularized autoencoder for anomaly detection: black hole at the center
- Title（参考訳）: 異常検出のための目標崩壊正規化オートエンコーダ:中心にブラックホール
- Authors: Amin Ghafourian, Huanyi Shui, Devesh Upadhyay, Rajesh Gupta, Dimitar Filev, Iman Soltani Bozchalooi,
- Abstract要約: オートエンコーダは通常のクラスを超えて一般化することができ、いくつかの異常なサンプルに対して小さな再構成誤差を達成できる。
我々は、ニューラルネットワークコンポーネントの追加、計算の関与、煩雑なトレーニングの代わりに、再構成損失を計算的に軽い用語で補うという、驚くほど簡単な方法を提案する。
これは、オートエンコーダに基づく異常検出アルゴリズムのブラックボックスの性質を緩和し、さらなる利点、障害事例、潜在的な新しい方向の解明のための道筋を提供する。
- 参考スコア（独自算出の注目度）: 3.924781781769534
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autoencoders have been extensively used in the development of recent anomaly detection techniques. The premise of their application is based on the notion that after training the autoencoder on normal training data, anomalous inputs will exhibit a significant reconstruction error. Consequently, this enables a clear differentiation between normal and anomalous samples. In practice, however, it is observed that autoencoders can generalize beyond the normal class and achieve a small reconstruction error on some of the anomalous samples. To improve the performance, various techniques propose additional components and more sophisticated training procedures. In this work, we propose a remarkably straightforward alternative: instead of adding neural network components, involved computations, and cumbersome training, we complement the reconstruction loss with a computationally light term that regulates the norm of representations in the latent space. The simplicity of our approach minimizes the requirement for hyperparameter tuning and customization for new applications which, paired with its permissive data modality constraint, enhances the potential for successful adoption across a broad range of applications. We test the method on various visual and tabular benchmarks and demonstrate that the technique matches and frequently outperforms more complex alternatives. We further demonstrate that implementing this idea in the context of state-of-the-art methods can further improve their performance. We also provide a theoretical analysis and numerical simulations that help demonstrate the underlying process that unfolds during training and how it helps with anomaly detection. This mitigates the black-box nature of autoencoder-based anomaly detection algorithms and offers an avenue for further investigation of advantages, fail cases, and potential new directions.
- Abstract（参考訳）: オートエンコーダは、近年の異常検出技術の発展に広く利用されている。
それらの応用の前提は、通常の訓練データに基づいてオートエンコーダを訓練した後、異常な入力が重大な再構成誤差を示すという考え方に基づいている。
これにより、正常試料と異常試料との明確な区別が可能となる。
しかし、実際には、オートエンコーダは通常のクラスを超えて一般化でき、いくつかの異常サンプルに対して小さな再構成誤差を達成できる。
性能を向上させるために、様々な技術が追加のコンポーネントとより洗練された訓練手順を提案している。
本研究では,ニューラルネットワークコンポーネントの追加や計算処理,煩雑なトレーニングを行う代わりに,遅延空間における表現の規範を規定する計算的に軽量な用語で再構成損失を補うという,極めて簡単な方法を提案する。
このアプローチの単純さは、新しいアプリケーションに対するハイパーパラメータチューニングとカスタマイズの要件を最小化し、許容データモダリティ制約と組み合わせることで、幅広いアプリケーションにまたがって採用が成功する可能性を高める。
様々な視覚的および表型ベンチマークでテストを行い、その手法が一致し、しばしばより複雑な代替品よりも優れていることを示す。
さらに,この概念を最先端の手法の文脈で実装することで,その性能をさらに向上させることができることを実証する。
また、トレーニング中に展開する基礎的なプロセスと、それが異常検出にどのように役立つかを実証するための理論的解析と数値シミュレーションも提供する。
これは、オートエンコーダに基づく異常検出アルゴリズムのブラックボックスの性質を緩和し、さらなる利点、障害事例、潜在的な新しい方向の解明のための道筋を提供する。
関連論文リスト
- SINDER: Repairing the Singular Defects of DINOv2 [61.98878352956125]
大規模なデータセットでトレーニングされたビジョントランスフォーマーモデルは、抽出したパッチトークンにアーティファクトを表示することが多い。
本稿では,小さなデータセットのみを用いて構造欠陥を補正するスムーズなスムーズな正規化を提案する。
論文 参考訳（メタデータ） (2024-07-23T20:34:23Z) - A Comprehensive Library for Benchmarking Multi-class Visual Anomaly Detection [52.228708947607636]
本稿では,新しい手法のモジュラーフレームワークであるADerを包括的視覚異常検出ベンチマークとして紹介する。
このベンチマークには、産業ドメインと医療ドメインからの複数のデータセットが含まれており、15の最先端メソッドと9つの包括的なメトリクスを実装している。
我々は,異なる手法の長所と短所を客観的に明らかにし,多クラス視覚異常検出の課題と今後の方向性について考察する。
論文 参考訳（メタデータ） (2024-06-05T13:40:07Z) - Uncovering mesa-optimization algorithms in Transformers [61.06055590704677]
いくつかの自己回帰モデルは、入力シーケンスが処理されたときに学習でき、パラメータの変更を受けずに、それを行うように明示的に訓練されていない。
我々は,新しい入力が明らかになったときにモデルを調整するための補助学習アルゴリズムが,標準の次トーケン予測誤差最小化によって生まれることを示す。
本研究は、自己回帰損失最小化の産物としてコンテキスト内学習を説明し、新しい最適化ベースのトランスフォーマー層の設計を通知する。
論文 参考訳（メタデータ） (2023-09-11T22:42:50Z) - Reconstruction Error-based Anomaly Detection with Few Outlying Examples [1.011824113969195]
本研究では,正規データのドメイン記述の外部に既知の異常を配置するようにモデルに指示する,再構成エラーに基づくアーキテクチャのアプローチについて検討する。
特に,本手法では,正常例と未知例の双方に関連のある再現誤差の対比を増大させるために,限られた数の異常例を利用する。
論文 参考訳（メタデータ） (2023-05-17T08:20:29Z) - Anomaly Detection with Adversarially Learned Perturbations of Latent
Space [9.473040033926264]
異常検出は、正常なデータの分布に適合しないサンプルを特定することである。
本研究では,2つの競合するコンポーネント,Adversarial Distorter と Autoencoder で構成される対角的フレームワークを設計した。
提案手法は,画像およびビデオデータセットの異常検出において,既存の最先端手法よりも優れている。
論文 参考訳（メタデータ） (2022-07-03T19:32:00Z) - Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。
我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。
製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
論文 参考訳（メタデータ） (2022-06-23T14:16:30Z) - Relaxing the Constraints on Predictive Coding Models [62.997667081978825]
予測符号化(英: Predictive coding)は、脳が行う主計算が予測誤差の最小化であるとする皮質機能の影響力のある理論である。
アルゴリズムの標準的な実装は、同じ前方と後方の重み、後方の非線形微分、1-1エラーユニット接続といった、潜在的に神経的に予測できない特徴を含んでいる。
本稿では,これらの特徴はアルゴリズムに不可欠なものではなく,Hebbianの更新ルールを用いてパラメータセットを直接あるいは学習することで,学習性能に悪影響を及ぼすことなく除去可能であることを示す。
論文 参考訳（メタデータ） (2020-10-02T15:21:37Z) - Improving auto-encoder novelty detection using channel attention and
entropy minimization [36.58514518563204]
新規性検出のための自動エンコーダの性能向上のための注意機構を導入する。
注意機構の作用により、自己エンコーダは敵の訓練を通じて不整形標本の表現により多くの注意を払うことができる。
情報エントロピーを潜伏層に適用し,多様性の表現を疎外し,制約する。
論文 参考訳（メタデータ） (2020-07-03T13:41:34Z) - Interpreting Rate-Distortion of Variational Autoencoder and Using Model
Uncertainty for Anomaly Detection [5.491655566898372]
表現学習による教師なし異常検出のためのスケーラブルな機械学習システムを構築した。
本稿では,情報理論の観点からVAEを再考し,再構成誤差を用いた理論的基礎を提供する。
ベンチマークデータセットに対するアプローチの競合性能を実証的に示す。
論文 参考訳（メタデータ） (2020-05-05T00:03:48Z) - Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。
我々は,再建基準の代替として,異常スコアの代替尺度を提案した。
提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
論文 参考訳（メタデータ） (2020-03-24T08:26:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。