論文の概要: Unsupervised Anomaly Detection in Medical Images with a Memory-augmented
Multi-level Cross-attentional Masked Autoencoder
- arxiv url: http://arxiv.org/abs/2203.11725v2
- Date: Tue, 22 Aug 2023 02:16:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-23 15:17:13.083534
- Title: Unsupervised Anomaly Detection in Medical Images with a Memory-augmented
Multi-level Cross-attentional Masked Autoencoder
- Title(参考訳): メモリ拡張型多レベルクロスアテンショナルマスクオートエンコーダを用いた医用画像の教師なし異常検出
- Authors: Yu Tian and Guansong Pang and Yuyuan Liu and Chong Wang and Yuanhong
Chen and Fengbei Liu and Rajvinder Singh and Johan W Verjans and Mengyu Wang
and Gustavo Carneiro
- Abstract要約: 教師なし異常検出(UAD)は、通常の画像のみを含むトレーニングセットを使用して検出器を最適化することにより、異常な画像を見つけることを目的としている。
UADアプローチは、再構成方法、自己教師付きアプローチ、およびImagenet事前訓練モデルに基づくことができる。
異常画像に対する低い再構成誤差問題に対処する新しい再構成に基づくUDA手法を提案する。
- 参考スコア(独自算出の注目度): 33.5760501931736
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised anomaly detection (UAD) aims to find anomalous images by
optimising a detector using a training set that contains only normal images.
UAD approaches can be based on reconstruction methods, self-supervised
approaches, and Imagenet pre-trained models. Reconstruction methods, which
detect anomalies from image reconstruction errors, are advantageous because
they do not rely on the design of problem-specific pretext tasks needed by
self-supervised approaches, and on the unreliable translation of models
pre-trained from non-medical datasets. However, reconstruction methods may fail
because they can have low reconstruction errors even for anomalous images. In
this paper, we introduce a new reconstruction-based UAD approach that addresses
this low-reconstruction error issue for anomalous images. Our UAD approach, the
memory-augmented multi-level cross-attentional masked autoencoder (MemMC-MAE),
is a transformer-based approach, consisting of a novel memory-augmented
self-attention operator for the encoder and a new multi-level cross-attention
operator for the decoder. MemMCMAE masks large parts of the input image during
its reconstruction, reducing the risk that it will produce low reconstruction
errors because anomalies are likely to be masked and cannot be reconstructed.
However, when the anomaly is not masked, then the normal patterns stored in the
encoder's memory combined with the decoder's multi-level cross attention will
constrain the accurate reconstruction of the anomaly. We show that our method
achieves SOTA anomaly detection and localisation on colonoscopy, pneumonia, and
covid-19 chest x-ray datasets.
- Abstract(参考訳): 教師なし異常検出(unsupervised anomaly detection, uad)は、通常画像のみを含むトレーニングセットを使用して検出器を最適化することで異常画像を見つけることを目的としている。
UADアプローチは、再構成方法、自己教師付きアプローチ、およびImagenet事前訓練モデルに基づくことができる。
画像再構成誤差から異常を検出するリコンストラクション手法は、自己監督的アプローチが必要とする問題固有のプリテキストタスクや、非医学的データセットから事前訓練されたモデルの信頼できない翻訳に依存しないため、有利である。
しかし, 異常画像においても再構成誤差が低いため, 再構成手法は失敗する可能性がある。
本稿では,この低再構成誤差問題に対処する再構成に基づく新しいUDA手法を提案する。
マルチレベルクロスアテンション・マスク・オートエンコーダ(memmc-mae, memory-augmented multi-level cross-attentional masked autoencoder, memmc-mae)は、エンコーダ用の新しいメモリアテンション・セルフ・アテンション・オペレータと、デコーダ用の新しいマルチレベル・クロス・アテンション・オペレータから構成されるトランスフォーマー方式である。
MemMCMAEは、その再構築中に入力画像の大部分をマスクし、異常が隠蔽され、再構成できないため、低い再構成エラーが発生するリスクを低減する。
しかし、異常が隠蔽されていない場合、エンコーダのメモリに格納される通常のパターンとデコーダの複数レベルのクロスアテンションが組み合わさって、異常の正確な再構築を制約する。
本手法は,大腸内視鏡,肺炎,コビッド19胸部X線データセットのSOTA異常検出と局在化を実現する。
関連論文リスト
- DiAD: A Diffusion-based Framework for Multi-class Anomaly Detection [55.48770333927732]
本稿では,拡散型異常検出(Difusion-based Anomaly Detection, DAD)フレームワークを提案する。
画素空間オートエンコーダ、安定拡散の復調ネットワークに接続する潜在空間セマンティックガイド(SG)ネットワーク、特徴空間事前学習機能抽出器から構成される。
MVTec-ADとVisAデータセットの実験は、我々のアプローチの有効性を実証している。
論文 参考訳(メタデータ) (2023-12-11T18:38:28Z) - Patch-wise Auto-Encoder for Visual Anomaly Detection [1.7546477549938133]
本稿では,AEのアノマリーに対する再構成能力を弱めることなく向上することを目的としたパッチワイド自動エンコーダフレームワークを提案する。
本手法は,Mvtec ADベンチマークの最先端性能を向上し,本モデルの有効性を実証する。
論文 参考訳(メタデータ) (2023-08-01T10:15:15Z) - ReContrast: Domain-Specific Anomaly Detection via Contrastive
Reconstruction [29.370142078092375]
殆どの高度な教師なし異常検出(UAD)手法は、大規模データセットで事前訓練された冷凍エンコーダネットワークの特徴表現をモデル化することに依存している。
本稿では,事前学習した画像領域に対するバイアスを低減するために,ネットワーク全体を最適化する新しい疫学的UAD手法であるReContrastを提案する。
2つの一般的な産業欠陥検出ベンチマークと3つの医用画像UADタスクで実験を行い、現在の最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-05T05:21:15Z) - Making Reconstruction-based Method Great Again for Video Anomaly
Detection [64.19326819088563]
ビデオの異常検出は重要な問題だが、難しい問題だ。
既存の再構成に基づく手法は、昔ながらの畳み込みオートエンコーダに依存している。
連続フレーム再構築のための新しいオートエンコーダモデルを提案する。
論文 参考訳(メタデータ) (2023-01-28T01:57:57Z) - Self-Supervised Masked Convolutional Transformer Block for Anomaly
Detection [122.4894940892536]
本稿では, 自己監督型マスク型畳み込み変圧器ブロック (SSMCTB) について述べる。
本研究では,従来の自己教師型予測畳み込み抑止ブロック(SSPCAB)を3次元マスク付き畳み込み層,チャンネルワイドアテンション用トランスフォーマー,およびハマーロスに基づく新たな自己教師型目標を用いて拡張する。
論文 参考訳(メタデータ) (2022-09-25T04:56:10Z) - Self-Supervised Predictive Convolutional Attentive Block for Anomaly
Detection [97.93062818228015]
本稿では,再建に基づく機能を,新たな自己監督型予測アーキテクチャビルディングブロックに統合することを提案する。
我々のブロックは、受容領域におけるマスク領域に対する再構成誤差を最小限に抑える損失を備える。
画像やビデオの異常検出のための最先端フレームワークに組み込むことで,ブロックの汎用性を実証する。
論文 参考訳(メタデータ) (2021-11-17T13:30:31Z) - Divide-and-Assemble: Learning Block-wise Memory for Unsupervised Anomaly
Detection [40.778313918994996]
再構成に基づく手法は、画像の教師なし異常検出において重要な役割を果たす。
本研究では,画像の再構成を分割組立手順として解釈する。
我々は、挑戦的なMVTec ADデータセット上で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2021-07-28T01:14:32Z) - Anomaly Detection By Autoencoder Based On Weighted Frequency Domain Loss [1.0312968200748116]
画像異常検出において、オートエンコーダは、異常を含む可能性のある入力イメージを再構築し、異常のないクリーンイメージを出力する一般的な方法である。
本稿では,従来のオートエンコーダ法と比較して,MVTec ADデータセット上でのAUROCとの比較により,提案手法の優位性を示す。
論文 参考訳(メタデータ) (2021-05-21T09:10:36Z) - CutPaste: Self-Supervised Learning for Anomaly Detection and
Localization [59.719925639875036]
通常のトレーニングデータのみを用いて異常検知器を構築するためのフレームワークを提案する。
まず、自己教師付き深層表現を学習し、学習した表現の上に生成的1クラス分類器を構築する。
MVTec異常検出データセットに関する実証研究は,提案アルゴリズムが実世界の様々な欠陥を検出可能であることを実証している。
論文 参考訳(メタデータ) (2021-04-08T19:04:55Z) - Improved anomaly detection by training an autoencoder with skip
connections on images corrupted with Stain-shaped noise [25.85927871251385]
異常検出は 復元の残留か もしくは 復元の不確実性に依存する
我々は,再設計のシャープさを改善するために,スキップ接続を備えたオートエンコーダアーキテクチャを検討する。
このモデルでは、実際の欠陥の有無にかかわらず、任意の実世界の画像からクリーンなイメージを復元することが好ましいことを示す。
論文 参考訳(メタデータ) (2020-08-29T13:50:49Z) - Improved Slice-wise Tumour Detection in Brain MRIs by Computing
Dissimilarities between Latent Representations [68.8204255655161]
磁気共鳴画像(MRI)の異常検出は教師なし手法で行うことができる。
本研究では,変分オートエンコーダの潜伏空間における相似関数の計算に基づいて,腫瘍検出のためのスライスワイズ半教師法を提案する。
本研究では,高解像度画像上でのモデルをトレーニングし,再現の質を向上させることにより,異なるベースラインに匹敵する結果が得られることを示す。
論文 参考訳(メタデータ) (2020-07-24T14:02:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。