論文の概要: MIM-OOD: Generative Masked Image Modelling for Out-of-Distribution
Detection in Medical Images
- arxiv url: http://arxiv.org/abs/2307.14701v2
- Date: Wed, 2 Aug 2023 20:20:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-04 16:27:20.853979
- Title: MIM-OOD: Generative Masked Image Modelling for Out-of-Distribution
Detection in Medical Images
- Title(参考訳): MIM-OOD:医療画像における分布外検出のためのマスク画像生成モデル
- Authors: Sergio Naval Marimont, Vasilis Siomos, Giacomo Tarroni
- Abstract要約: Unsupervised Out-of-Distribution (OOD) 検出は、正常な解剖学の画像に基づいて訓練されたモデルのみを活用する画像中の異常領域を特定することである。
我々の新しい手法MIM-OODは、ARモデルを2つのタスク固有ネットワークに置き換えることで、速度と誤差の蓄積問題を克服する。
- 参考スコア(独自算出の注目度): 0.532836690371986
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Unsupervised Out-of-Distribution (OOD) detection consists in identifying
anomalous regions in images leveraging only models trained on images of healthy
anatomy. An established approach is to tokenize images and model the
distribution of tokens with Auto-Regressive (AR) models. AR models are used to
1) identify anomalous tokens and 2) in-paint anomalous representations with
in-distribution tokens. However, AR models are slow at inference time and prone
to error accumulation issues which negatively affect OOD detection performance.
Our novel method, MIM-OOD, overcomes both speed and error accumulation issues
by replacing the AR model with two task-specific networks: 1) a transformer
optimized to identify anomalous tokens and 2) a transformer optimized to
in-paint anomalous tokens using masked image modelling (MIM). Our experiments
with brain MRI anomalies show that MIM-OOD substantially outperforms AR models
(DICE 0.458 vs 0.301) while achieving a nearly 25x speedup (9.5s vs 244s).
- Abstract(参考訳): Unsupervised Out-of-Distribution (OOD) 検出は、正常な解剖学の画像に基づいて訓練されたモデルのみを活用する画像中の異常領域を特定することである。
確立されたアプローチは、イメージをトークン化し、Auto-Regressive (AR)モデルでトークンの分散をモデル化することである。
ARモデルは使われています
1)異常トークンを特定して
2) in-distributionトークンを持つ in-paint 異常表現。
しかし、ARモデルは推定時間が遅いため、OOD検出性能に悪影響を及ぼすエラー蓄積問題が発生しやすい。
我々の新しい手法MIM-OODは、ARモデルを2つのタスク固有ネットワークに置き換えることで、速度と誤差の蓄積問題を克服する。
1)異常トークンの識別に最適化された変圧器
2) マスク画像モデリング(mim)を用いたインペイント異常トークンに最適化したトランス
脳MRIの異常による実験では、MIM-OODはARモデル(DICE 0.458 vs 0.301)を大幅に上回り、約25倍のスピードアップ(9.5s vs 244s)を達成した。
関連論文リスト
- Can Your Generative Model Detect Out-of-Distribution Covariate Shift? [2.0144831048903566]
条件付き正規化フロー(cNFs)を用いたOODセンサデータ検出のための新しい手法を提案する。
CIFAR10 対 CIFAR10-C と ImageNet200 対 ImageNet200-C では,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2024-09-04T19:27:56Z) - Benchmarking Out-of-Distribution Generalization Capabilities of DNN-based Encoding Models for the Ventral Visual Cortex [26.91313901714098]
textitMacaqueITBenchは、マカク下側頭葉(IT)皮質からの神経集団反応の大規模なデータセットである。
画像からOF-Distribution(OOD)トレインとテストスプリットに分割し,神経活動を予測するモデルに対する分布シフトの影響を検討した。
論文 参考訳(メタデータ) (2024-06-16T20:33:57Z) - Adapting Visual-Language Models for Generalizable Anomaly Detection in Medical Images [68.42215385041114]
本稿では,CLIPモデルを用いた医用異常検出のための軽量な多レベル適応と比較フレームワークを提案する。
提案手法では,複数の残像アダプタを事前学習した視覚エンコーダに統合し,視覚的特徴の段階的向上を実現する。
医学的異常検出ベンチマーク実験により,本手法が現在の最先端モデルを大幅に上回っていることが示された。
論文 参考訳(メタデータ) (2024-03-19T09:28:19Z) - AMAE: Adaptation of Pre-Trained Masked Autoencoder for Dual-Distribution
Anomaly Detection in Chest X-Rays [17.91123470181453]
我々は、事前訓練されたマスク付きオートエンコーダ(MAE)の適応のための2段階アルゴリズムであるAMAEを提案する。
AMAEは、競合する自己監督型および二重分布異常検出法よりも一貫した性能向上をもたらす。
論文 参考訳(メタデータ) (2023-07-24T12:03:50Z) - On Sensitivity and Robustness of Normalization Schemes to Input
Distribution Shifts in Automatic MR Image Diagnosis [58.634791552376235]
深層学習(DL)モデルは、再構成画像を入力として、複数の疾患の診断において最先端のパフォーマンスを達成した。
DLモデルは、トレーニングとテストフェーズ間の入力データ分布の変化につながるため、さまざまなアーティファクトに敏感である。
本稿では,グループ正規化やレイヤ正規化といった他の正規化手法を用いて,画像のさまざまなアーチファクトに対して,モデル性能にロバスト性を注入することを提案する。
論文 参考訳(メタデータ) (2023-06-23T03:09:03Z) - Masked Images Are Counterfactual Samples for Robust Fine-tuning [77.82348472169335]
微調整の深層学習モデルは、分布内(ID)性能と分布外(OOD)堅牢性の間のトレードオフにつながる可能性がある。
そこで本研究では,マスク付き画像を対物サンプルとして用いて,ファインチューニングモデルのロバスト性を向上させる新しいファインチューニング手法を提案する。
論文 参考訳(メタデータ) (2023-03-06T11:51:28Z) - The role of noise in denoising models for anomaly detection in medical
images [62.0532151156057]
病理脳病変は脳画像に多彩な外観を示す。
正規データのみを用いた教師なし異常検出手法が提案されている。
空間分解能の最適化と雑音の大きさの最適化により,異なるモデル学習体制の性能が向上することを示す。
論文 参考訳(メタデータ) (2023-01-19T21:39:38Z) - Fast Unsupervised Brain Anomaly Detection and Segmentation with
Diffusion Models [1.6352599467675781]
脳画像における異常検出とセグメント分割のための拡散モデルに基づく手法を提案する。
拡散モデルは,2次元CTおよびMRIデータを用いた一連の実験において,自己回帰的アプローチと比較して競争性能が向上する。
論文 参考訳(メタデータ) (2022-06-07T17:30:43Z) - A Hierarchical Transformation-Discriminating Generative Model for Few
Shot Anomaly Detection [93.38607559281601]
各トレーニングイメージのマルチスケールパッチ分布をキャプチャする階層的生成モデルを開発した。
この異常スコアは、スケール及び画像領域にわたる正しい変換のパッチベースの投票を集約して得られる。
論文 参考訳(メタデータ) (2021-04-29T17:49:48Z) - TSNAT: Two-Step Non-Autoregressvie Transformer Models for Speech
Recognition [69.68154370877615]
非自己回帰(NAR)モデルは、出力トークン間の時間的依存関係を排除し、少なくとも1ステップで出力トークン全体を予測することができる。
この2つの問題に対処するため,TSNATと呼ばれる新しいモデルを提案する。
以上の結果から,TSNATはARモデルと競合する性能を示し,複雑なNARモデルよりも優れていた。
論文 参考訳(メタデータ) (2021-04-04T02:34:55Z) - The Effects of Image Distribution and Task on Adversarial Robustness [4.597864989500202]
モデルの対比堅牢性を測定するために、曲線(AUC)メトリック下の領域への適応を提案する。
我々は、MNIST、CIFAR-10、およびFusionデータセットのモデルにこの逆の堅牢性メトリックを使用した。
論文 参考訳(メタデータ) (2021-02-21T07:15:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。