論文の概要: Dual-Modeling Decouple Distillation for Unsupervised Anomaly Detection

• arxiv url: http://arxiv.org/abs/2408.03888v2
• Date: Tue, 15 Oct 2024 05:51:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-08 12:22:45.660388
• Title: Dual-Modeling Decouple Distillation for Unsupervised Anomaly Detection
• Title（参考訳）: 教師なし異常検出のための二重モデル分離蒸留法
• Authors: Xinyue Liu, Jianyuan Wang, Biao Leng, Shuo Zhang,
• Abstract要約: 教師ネットワークへの学生ネットワークの過度な一般化は、異常の表現能力に無視できない違いをもたらす可能性がある。 既存の手法では, 生徒と教師を構造的観点から区別することで, オーバージェネリゼーションの可能性に対処する。 本稿では,非教師付き異常検出のためのDual-Modeling Deouple Distillation (DMDD)を提案する。
• 参考スコア（独自算出の注目度）: 15.89869857998053
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Knowledge distillation based on student-teacher network is one of the mainstream solution paradigms for the challenging unsupervised Anomaly Detection task, utilizing the difference in representation capabilities of the teacher and student networks to implement anomaly localization. However, over-generalization of the student network to the teacher network may lead to negligible differences in representation capabilities of anomaly, thus affecting the detection effectiveness. Existing methods address the possible over-generalization by using differentiated students and teachers from the structural perspective or explicitly expanding distilled information from the content perspective, which inevitably result in an increased likelihood of underfitting of the student network and poor anomaly detection capabilities in anomaly center or edge. In this paper, we propose Dual-Modeling Decouple Distillation (DMDD) for the unsupervised anomaly detection. In DMDD, a Decouple Student-Teacher Network is proposed to decouple the initial student features into normality and abnormality features. We further introduce Dual-Modeling Distillation based on normal-anomaly image pairs, fitting normality features of anomalous image and the teacher features of the corresponding normal image, widening the distance between abnormality features and the teacher features in anomalous regions. Synthesizing these two distillation ideas, we achieve anomaly detection which focuses on both edge and center of anomaly. Finally, a Multi-perception Segmentation Network is proposed to achieve focused anomaly map fusion based on multiple attention. Experimental results on MVTec AD show that DMDD surpasses SOTA localization performance of previous knowledge distillation-based methods, reaching 98.85% on pixel-level AUC and 96.13% on PRO.
• Abstract（参考訳）: 学生-教師ネットワークに基づく知識蒸留は、教師と学生のネットワークの表現能力の違いを利用して、異常な局所化を実装することによる、教師なしの異常検出タスクに挑戦する主要なソリューションパラダイムの1つである。 しかし、教師ネットワークへの学生ネットワークの過度な一般化は、異常の表現能力に無視できない違いをもたらし、検出の有効性に影響を及ぼす可能性がある。 既存の手法では, 生徒や教師を構造的視点から利用したり, コンテンツ的視点から蒸留情報を明示的に拡張することで, 生徒ネットワークの不適合の可能性が増大し, 異常中心やエッジにおける異常検出能力が低下する可能性がある。 本稿では,教師なし異常検出のためのDMDD(Dual-Modeling Deouple Distillation)を提案する。 DMDDでは、初等生の特徴を正規性と異常性の特徴に分離する2つの学生-教員ネットワークが提案されている。 さらに、異常画像の正常性特徴とそれに対応する正常画像の教師特徴とを適合させ、異常領域における異常特徴と教師特徴との距離を広げ、正常画像対に基づくデュアルモデル蒸留を導入する。 これら2つの蒸留のアイデアを合成し、異常の端と中心の両方に焦点をあてた異常検出を実現する。 最後に,マルチパーセプション・セグメンテーション・ネットワークを提案する。 MVTec AD実験の結果、DMDDは従来の知識蒸留法でSOTAのローカライゼーション性能を超え、ピクセルレベルのAUCでは98.85%、PROでは96.13%に達した。

関連論文リスト

• Structural Teacher-Student Normality Learning for Multi-Class Anomaly Detection and Localization [17.543208086457234]
  SNL(Structure Teacher-Student Normality Learning)と呼ばれる新しいアプローチを導入する。 提案手法をMVTecADとVisAの2つの異常検出データセットで評価した。 この方法では, MVTecADが3.9%, MVTecADが1.5%, VisAが1.2%, 2.5%と, 最先端の蒸留アルゴリズムをはるかに上回っている。
  論文  参考訳（メタデータ） (2024-02-27T00:02:24Z)
• Dual-Student Knowledge Distillation Networks for Unsupervised Anomaly Detection [2.06682776181122]
  学生教師ネットワーク(S-T)は教師なしの異常検出に好まれる。 しかし、バニラS-Tネットワークは安定ではない。 本稿では,新しい知識蒸留アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-02-01T09:32:39Z)
• DiAD: A Diffusion-based Framework for Multi-class Anomaly Detection [55.48770333927732]
  本稿では,拡散型異常検出(Difusion-based Anomaly Detection, DAD)フレームワークを提案する。 画素空間オートエンコーダ、安定拡散の復調ネットワークに接続する潜在空間セマンティックガイド(SG)ネットワーク、特徴空間事前学習機能抽出器から構成される。 MVTec-ADとVisAデータセットの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2023-12-11T18:38:28Z)
• Prototypical Residual Networks for Anomaly Detection and Localization [80.5730594002466]
  本稿では,PRN(Prototypeal Residual Network)というフレームワークを提案する。 PRNは、異常領域の分割マップを正確に再構築するために、異常領域と正常パターンの間の様々なスケールとサイズの特徴的残差を学習する。 異常を拡大・多様化するために,見かけの相違と外観の相違を考慮に入れた様々な異常発生戦略を提示する。
  論文  参考訳（メタデータ） (2022-12-05T05:03:46Z)
• ADPS: Asymmetric Distillation Post-Segmentation for Image Anomaly Detection [75.68023968735523]
  知識蒸留に基づく異常検出 (KDAD) 法は, 異常領域を検出し, セグメント化するために, 教師学生のパラダイムに頼っている。 非対称蒸留ポストセグメンテーション(ADPS)と呼ばれる革新的なアプローチを提案する。 我々のADPSは、教師-学生ネットワークの入力と同じイメージの異なる形態の非対称蒸留パラダイムを採用している。 ADPSは,MVTec ADとKolektorSDD2データセットで平均精度(AP)を9%,20%向上させることを示した。
  論文  参考訳（メタデータ） (2022-10-19T12:04:47Z)
• Asymmetric Student-Teacher Networks for Industrial Anomaly Detection [22.641661538154054]
  本研究は,学生・教員による異常検出手法の既知の問題点を明らかにする。 2つのニューラルネットワークがトレーニングされ、欠陥のないトレーニング例で同じ出力を生成する。 本手法は, MVTec AD と MVTec 3D-AD の2つの現在最も関連性の高い欠陥検出データセットに対して, 最先端の結果を生成する。
  論文  参考訳（メタデータ） (2022-10-14T13:56:50Z)
• Anomaly Detection via Reverse Distillation from One-Class Embedding [2.715884199292287]
  教師エンコーダと生徒デコーダからなる新しいT-Sモデルを提案する。 生画像を直接受信する代わりに、学生ネットワークは教師モデルの1クラス埋め込みを入力として取り込む。 さらに、T-Sモデルにトレーニング可能な1クラスボトルネック埋め込みモジュールを導入する。
  論文  参考訳（メタデータ） (2022-01-26T01:48:37Z)
• SLA$^2$P: Self-supervised Anomaly Detection with Adversarial Perturbation [77.71161225100927]
  異常検出は、機械学習の基本的な問題であるが、難しい問題である。 本稿では,非教師付き異常検出のための新しい強力なフレームワークであるSLA$2$Pを提案する。
  論文  参考訳（メタデータ） (2021-11-25T03:53:43Z)
• Wasserstein Contrastive Representation Distillation [114.24609306495456]
  We propose Wasserstein Contrastive Representation Distillation (WCoRD) which leverages both primal and dual form of Wasserstein distance for knowledge distillation。 二重形式はグローバルな知識伝達に使用され、教師と学生のネットワーク間の相互情報の低い境界を最大化する対照的な学習目標をもたらします。 実験では、提案されたWCoRD法が特権情報蒸留、モデル圧縮およびクロスモーダル転送における最先端のアプローチを上回ることを実証した。
  論文  参考訳（メタデータ） (2020-12-15T23:43:28Z)
• Differentiable Feature Aggregation Search for Knowledge Distillation [47.94874193183427]
  単教師蒸留フレームワークにおける多教師蒸留を模倣する特徴集約について紹介する。 DFAは、ニューラルネットワーク探索においてDARTSによって動機付けられた2段階の微分可能特徴集合探索法である。 実験の結果,DFAはCIFAR-100およびCINIC-10データセットの既存手法よりも優れていた。
  論文  参考訳（メタデータ） (2020-08-02T15:42:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。