論文の概要: Transformer-based out-of-distribution detection for clinically safe segmentation

• arxiv url: http://arxiv.org/abs/2205.10650v2
• Date: Wed, 17 May 2023 21:38:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-19 21:00:16.986934
• Title: Transformer-based out-of-distribution detection for clinically safe segmentation
• Title（参考訳）: 臨床的安全なセグメンテーションのためのトランスフォーマーを用いたアウト・オブ・ディストリビューション検出
• Authors: Mark S Graham, Petru-Daniel Tudosiu, Paul Wright, Walter Hugo Lopez Pinaya, U Jean-Marie, Yee Mah, James Teo, Rolf H J\"ager, David Werring, Parashkev Nachev, Sebastien Ourselin, M Jorge Cardoso
• Abstract要約: 臨床環境では、デプロイされた画像処理システムが確実に間違った予測をしないことが不可欠である。 本研究では,画像分割に着目し,ネットワークの不確実性に対するいくつかのアプローチを評価する。 本稿では,VQ-GANを用いたフル3次元OOD検出を行い,圧縮された画像の潜時表現と変換器を用いてデータ確率を推定する手法を提案する。
• 参考スコア（独自算出の注目度）: 1.649654992058168
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In a clinical setting it is essential that deployed image processing systems are robust to the full range of inputs they might encounter and, in particular, do not make confidently wrong predictions. The most popular approach to safe processing is to train networks that can provide a measure of their uncertainty, but these tend to fail for inputs that are far outside the training data distribution. Recently, generative modelling approaches have been proposed as an alternative; these can quantify the likelihood of a data sample explicitly, filtering out any out-of-distribution (OOD) samples before further processing is performed. In this work, we focus on image segmentation and evaluate several approaches to network uncertainty in the far-OOD and near-OOD cases for the task of segmenting haemorrhages in head CTs. We find all of these approaches are unsuitable for safe segmentation as they provide confidently wrong predictions when operating OOD. We propose performing full 3D OOD detection using a VQ-GAN to provide a compressed latent representation of the image and a transformer to estimate the data likelihood. Our approach successfully identifies images in both the far- and near-OOD cases. We find a strong relationship between image likelihood and the quality of a model's segmentation, making this approach viable for filtering images unsuitable for segmentation. To our knowledge, this is the first time transformers have been applied to perform OOD detection on 3D image data. Code is available at github.com/marksgraham/transformer-ood.
• Abstract（参考訳）: 臨床環境では、デプロイされた画像処理システムは、彼らが遭遇する可能性のあるすべての入力に対して堅牢であり、特に確実に間違った予測をしないことが不可欠である。 安全な処理に対する最も一般的なアプローチは、不確実性の尺度を提供するネットワークをトレーニングすることだが、トレーニングデータ分布に遠く及ばない入力には失敗する傾向がある。 近年、データサンプルの可能性を明示的に定量化し、さらなる処理を行う前にOOD(out-of-distribution)サンプルをフィルタリングする手法が提案されている。 本研究では,頭部ctで出血を分別する作業において,画像分割に注目し,遠眼および近眼症例におけるネットワーク不確かさに対するいくつかのアプローチを評価した。 これらのアプローチは、OODを操作する際に確実に間違った予測を提供するため、安全なセグメンテーションには適さない。 本稿では,VQ-GANを用いたフル3次元OOD検出を行い,画像の圧縮潜在表現と変換器を用いてデータ可能性の推定を行う。 本手法は遠近法と近近法の両方で画像の同定に成功した。 画像の可読性とモデルのセグメンテーションの品質との間には強い関係があり、このアプローチはセグメンテーションに適さない画像のフィルタリングに有効である。 我々の知る限り、3D画像データ上でOOD検出を行うためにトランスフォーマーが適用されたのはこれが初めてである。 コードはgithub.com/marksgraham/transformer-oodで入手できる。

関連論文リスト

• NODI: Out-Of-Distribution Detection with Noise from Diffusion [45.68745522344308]
  アウト・オブ・ディストリビューション(OOD)検出は、マシンラーニングモデルを安全にデプロイする上で重要な部分である。 従来の方法では、分布内データセットの限られた使用量でOODスコアを計算していた。 MAEベースのイメージエンコーダでパフォーマンスが3.5%向上した。
  論文  参考訳（メタデータ） (2024-01-13T08:30:13Z)
• Improving Adversarial Robustness of Masked Autoencoders via Test-time Frequency-domain Prompting [133.55037976429088]
  BERTプリトレーニング(BEiT, MAE)を備えた視覚変換器の対向ロバスト性について検討する。 意外な観察は、MAEが他のBERT事前訓練法よりも敵の頑健さが著しく悪いことである。 我々は,MAEの対角的堅牢性を高めるための,シンプルで効果的な方法を提案する。
  論文  参考訳（メタデータ） (2023-08-20T16:27:17Z)
• Laplacian Segmentation Networks Improve Epistemic Uncertainty Quantification [21.154979285736268]
  イメージセグメンテーションは、過信であることが知られているニューラルネットワークに大きく依存している。 これは、機器、取得サイト、画像の破損などによって医療分野では一般的なシナリオである。 我々は,OOD検出のためのモデル(モデル)とデータ(データの不確実性)を共同でモデル化する手法であるLaplacian Networks (LSN)を提案する。
  論文  参考訳（メタデータ） (2023-03-23T09:23:57Z)
• Masked Images Are Counterfactual Samples for Robust Fine-tuning [77.82348472169335]
  微調整の深層学習モデルは、分布内(ID)性能と分布外(OOD)堅牢性の間のトレードオフにつながる可能性がある。 そこで本研究では,マスク付き画像を対物サンプルとして用いて,ファインチューニングモデルのロバスト性を向上させる新しいファインチューニング手法を提案する。
  論文  参考訳（メタデータ） (2023-03-06T11:51:28Z)
• Solving Sample-Level Out-of-Distribution Detection on 3D Medical Images [0.06117371161379209]
  アウト・オブ・ディストリビューション(OOD)検出はデータサンプルの識別に役立ち、モデルの信頼性を高める。 近年,2次元医用画像に有望な結果をもたらすDLベースのOOD検出技術が開発されている。 しかし、これらのアプローチのほとんどを3D画像に拡張することは、計算的に難解である。 本稿では,DLを必要としないヒストグラムに基づく手法を提案する。
  論文  参考訳（メタデータ） (2022-12-13T11:42:23Z)
• A Simple Test-Time Method for Out-of-Distribution Detection [45.11199798139358]
  本稿では,OOD検出のための簡易なテスト時間線形訓練法を提案する。 分布外である入力画像の確率は、ニューラルネットワークが抽出した特徴と驚くほど線形に相関していることがわかった。 本稿では,提案手法のオンライン版を提案し,実世界のアプリケーションでより実用的な性能を実現する。
  論文  参考訳（メタデータ） (2022-07-17T16:02:58Z)
• PDC-Net+: Enhanced Probabilistic Dense Correspondence Network [161.76275845530964]
  高度確率密度対応ネットワーク(PDC-Net+)は、精度の高い高密度対応を推定できる。 我々は、堅牢で一般化可能な不確実性予測に適したアーキテクチャと強化されたトレーニング戦略を開発する。 提案手法は,複数の挑戦的幾何マッチングと光学的フローデータセットに対して,最先端の結果を得る。
  論文  参考訳（メタデータ） (2021-09-28T17:56:41Z)
• OODformer: Out-Of-Distribution Detection Transformer [15.17006322500865]
  現実世界の安全クリティカルなアプリケーションでは、新しいデータポイントがOODであるかどうかを認識することが重要です。 本稿では,OODformer というファースト・オブ・ザ・キンドな OOD 検出アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-07-19T15:46:38Z)
• Scene Uncertainty and the Wellington Posterior of Deterministic Image Classifiers [68.9065881270224]
  Wellington Posteriorは、同じシーンで生成された可能性のあるデータに応答して得られるであろう結果の分布である。 We we explore the use of data augmentation, dropout, ensembling, single-view reconstruction and model linearization to compute a Wellington Posterior。 他にも、生成逆数ネットワーク、ニューラルレイディアンスフィールド、条件付き事前ネットワークなどの条件付き生成モデルの使用がある。
  論文  参考訳（メタデータ） (2021-06-25T20:10:00Z)
• Learn what you can't learn: Regularized Ensembles for Transductive Out-of-distribution Detection [76.39067237772286]
  ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。 本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。 本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
  論文  参考訳（メタデータ） (2020-12-10T16:55:13Z)
• RAIN: A Simple Approach for Robust and Accurate Image Classification Networks [156.09526491791772]
  既存の敵防衛手法の大部分は、予測精度を犠牲にして堅牢性を実現することが示されている。 本稿では,ロバストおよび高精度画像分類N(RAIN)と呼ぶ新しい前処理フレームワークを提案する。 RAINは入力に対してランダム化を適用して、モデルフォワード予測パスと後方勾配パスの関係を壊し、モデルロバスト性を改善する。 STL10 と ImageNet のデータセットを用いて、様々な種類の敵攻撃に対する RAIN の有効性を検証する。
  論文  参考訳（メタデータ） (2020-04-24T02:03:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。