論文の概要: A Field of Experts Prior for Adapting Neural Networks at Test Time
- arxiv url: http://arxiv.org/abs/2202.05271v1
- Date: Thu, 10 Feb 2022 11:44:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-15 09:35:30.647099
- Title: A Field of Experts Prior for Adapting Neural Networks at Test Time
- Title（参考訳）: テスト時にニューラルネットワークを適用するための専門家の分野
- Authors: Neerav Karani, Georg Brunner, Ertunc Erdil, Simin Fei, Kerem Tezcan,
Krishna Chaitanya, Ender Konukoglu
- Abstract要約: 画像解析タスクにおける畳み込みニューラルネットワーク(CNN)の性能は、しばしば、トレーニングとテストイメージの間の取得関連分布シフトによって損なわれる。
テスト画像ごとに訓練されたCNNを微調整することでこの問題に対処することが提案されている。
テスト時間適応(TTA)は,テスト画像とトレーニング画像の特徴分布を一致させて行う。
- 参考スコア（独自算出の注目度）: 8.244295783641396
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Performance of convolutional neural networks (CNNs) in image analysis tasks
is often marred in the presence of acquisition-related distribution shifts
between training and test images. Recently, it has been proposed to tackle this
problem by fine-tuning trained CNNs for each test image. Such
test-time-adaptation (TTA) is a promising and practical strategy for improving
robustness to distribution shifts as it requires neither data sharing between
institutions nor annotating additional data. Previous TTA methods use a helper
model to increase similarity between outputs and/or features extracted from a
test image with those of the training images. Such helpers, which are typically
modeled using CNNs, can be task-specific and themselves vulnerable to
distribution shifts in their inputs. To overcome these problems, we propose to
carry out TTA by matching the feature distributions of test and training
images, as modelled by a field-of-experts (FoE) prior. FoEs model complicated
probability distributions as products of many simpler expert distributions. We
use 1D marginal distributions of a trained task CNN's features as experts in
the FoE model. Further, we compute principal components of patches of the task
CNN's features, and consider the distributions of PCA loadings as additional
experts. We validate the method on 5 MRI segmentation tasks (healthy tissues in
4 anatomical regions and lesions in 1 one anatomy), using data from 17 clinics,
and on a MRI registration task, using data from 3 clinics. We find that the
proposed FoE-based TTA is generically applicable in multiple tasks, and
outperforms all previous TTA methods for lesion segmentation. For healthy
tissue segmentation, the proposed method outperforms other task-agnostic
methods, but a previous TTA method which is specifically designed for
segmentation performs the best for most of the tested datasets. Our code is
publicly available.
- Abstract（参考訳）: 画像解析タスクにおける畳み込みニューラルネットワーク(CNN)の性能は、しばしば、トレーニングとテストイメージの間の取得関連分布シフトの存在によって損なわれる。
近年,テスト画像ごとに訓練済みのCNNを微調整することで,この問題に対処することが提案されている。
このようなテストタイム適応(TTA)は、組織間でのデータ共有や付加的なデータアノテーションを必要としないため、分散シフトに対する堅牢性を改善するための有望かつ実践的な戦略である。
従来のTTA手法では、テスト画像から抽出した出力と/または特徴とトレーニング画像との類似性を高めるためにヘルパーモデルを用いていた。
このようなヘルパーは一般的にCNNを使ってモデル化されるが、タスク固有であり、入力の分散シフトに対して脆弱である。
これらの問題を解決するため,テスト画像とトレーニング画像の特徴分布をFoE(フィールド・オブ・エキスパート)でモデル化したTTAの実行を提案する。
foesモデル 複雑な確率分布を、より単純な専門家分布の積として扱う。
訓練されたタスクCNNの特徴をFoEモデルの専門家として1次元辺縁分布を用いる。
さらに,タスクCNNの特徴のパッチの主成分を計算し,PCA負荷の分布を新たな専門家として検討する。
5つのMRIセグメンテーションタスク(4つの解剖学的領域の健康組織と1つの解剖学的病変)、17の診療所のデータ、および3の診療所のデータを用いたMRI登録タスクについて検証を行った。
提案したFoEベースのTTAは,複数のタスクに汎用的に適用可能であることが判明した。
健全な組織セグメンテーションのために、提案手法は他のタスクに依存しない手法よりも優れているが、セグメンテーション用に特別に設計された以前のTTA法は、テストされたほとんどのデータセットで最良である。
私たちのコードは公開されています。
関連論文リスト
- Towards Clinician-Preferred Segmentation: Leveraging Human-in-the-Loop for Test Time Adaptation in Medical Image Segmentation [10.65123164779962]
深層学習に基づく医療画像セグメンテーションモデルは、様々な医療センターに展開すると、しばしば性能劣化に直面します。
本稿では,クリニカル修正予測のほとんど見落とされがちな可能性を生かした,新規なHuman-in-the-loop TTAフレームワークを提案する。
我々のフレームワークは、ドメインの格差によって生じる予測のばらつきを減らし、分散損失を想定する。
論文 参考訳（メタデータ） (2024-05-14T02:02:15Z) - Medical Image Segmentation with InTEnt: Integrated Entropy Weighting for
Single Image Test-Time Adaptation [6.964589353845092]
テスト時間適応(TTA)とは、テスト中にトレーニングされたモデルを新しいドメインに適応させることである。
そこで本研究では,単一の未ラベルテスト画像のみを用いて,医用画像分割モデルを適用することを提案する。
提案手法は, 平均2.9%のDice係数で, 3つの医用画像データセットにまたがる24のソース/ターゲット領域に分割して検証した。
論文 参考訳（メタデータ） (2024-02-14T22:26:07Z) - Each Test Image Deserves A Specific Prompt: Continual Test-Time Adaptation for 2D Medical Image Segmentation [14.71883381837561]
ドメイン間の分散シフトは、実世界のアプリケーションに事前訓練されたセマンティックセグメンテーションモデルをデプロイする上で重要な障害である。
テスト時間適応は、推論中にドメイン間の分布シフトに取り組むのに有効であることが証明されている。
本稿では,各テスト画像に対する特定のプロンプトをトレーニングし,バッチ正規化レイヤの統計値を調整するために,Visual Prompt-based Test-Time Adaptation (VPTTA)法を提案する。
論文 参考訳（メタデータ） (2023-11-30T09:03:47Z) - Diverse Data Augmentation with Diffusions for Effective Test-time Prompt
Tuning [73.75282761503581]
DiffTPTを提案する。DiffTPTは,事前学習した拡散モデルを用いて,多種多様な情報データを生成する。
DiffTPTがゼロショット精度を平均5.13%向上することを示す。
論文 参考訳（メタデータ） (2023-08-11T09:36:31Z) - PCA: Semi-supervised Segmentation with Patch Confidence Adversarial
Training [52.895952593202054]
医用画像セグメンテーションのためのPatch Confidence Adrial Training (PCA) と呼ばれる半教師付き対向法を提案する。
PCAは各パッチの画素構造とコンテキスト情報を学習し、十分な勾配フィードバックを得る。
本手法は, 医用画像のセグメンテーションにおいて, 最先端の半教師付き手法より優れており, その有効性を示している。
論文 参考訳（メタデータ） (2022-07-24T07:45:47Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳（メタデータ） (2022-06-01T03:02:07Z) - On-the-Fly Test-time Adaptation for Medical Image Segmentation [63.476899335138164]
ソースモデルをテスト時にターゲットデータに適応させることは、データシフト問題に対する効率的な解決策である。
本稿では、各畳み込みブロックに適応バッチ正規化層を設けるAdaptive UNetという新しいフレームワークを提案する。
テスト期間中、モデルは新しいテストイメージのみを取り込み、ドメインコードを生成して、テストデータに従ってソースモデルの特徴を適応させる。
論文 参考訳（メタデータ） (2022-03-10T18:51:29Z) - An Uncertainty-Driven GCN Refinement Strategy for Organ Segmentation [53.425900196763756]
本研究では,不確実性解析とグラフ畳み込みネットワークに基づくセグメンテーション改善手法を提案する。
半教師付きグラフ学習問題を定式化するために、特定の入力ボリュームにおける畳み込みネットワークの不確実性レベルを用いる。
本手法は膵臓で1%,脾臓で2%向上し,最先端のCRF改善法よりも優れていた。
論文 参考訳（メタデータ） (2020-12-06T18:55:07Z) - Self domain adapted network [6.040230864736051]
ドメインシフトは、臨床実践においてディープネットワークをデプロイする上で大きな問題である。
単体テスト対象に迅速に適応できる新しい自己ドメイン適応ネットワーク(SDA-Net)を提案する。
論文 参考訳（メタデータ） (2020-07-07T01:41:34Z) - Improving Calibration and Out-of-Distribution Detection in Medical Image
Segmentation with Convolutional Neural Networks [8.219843232619551]
畳み込みニューラルネットワーク(CNN)は強力な医用画像分割モデルであることが示されている。
マルチタスク学習、すなわち、複数の異なるデータセット上で単一のモデルをトレーニングすることを提唱する。
一つのCNNが、文脈を自動的に認識し、各文脈における関心の組織を正確に区分することを学ぶだけでなく、そのようなジョイントモデルの方が、より正確でより良い校正された予測を持つことも示している。
論文 参考訳（メタデータ） (2020-04-12T23:42:51Z) - Generalized ODIN: Detecting Out-of-distribution Image without Learning
from Out-of-distribution Data [87.61504710345528]
我々は,OoD検出性能を改善しつつ,ニューラルネットワークをOoDデータのチューニングから解放する2つの方法を提案する。
具体的には、信頼性スコアリングと修正された入力前処理法を分離することを提案する。
大規模画像データセットのさらなる解析により、セマンティックシフトと非セマンティックシフトの2種類の分布シフトが有意な差を示すことが示された。
論文 参考訳（メタデータ） (2020-02-26T04:18:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。