論文の概要: MDViT: Multi-domain Vision Transformer for Small Medical Image Segmentation Datasets

• arxiv url: http://arxiv.org/abs/2307.02100v3
• Date: Fri, 7 Jun 2024 08:44:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-10 21:06:02.205293
• Title: MDViT: Multi-domain Vision Transformer for Small Medical Image Segmentation Datasets
• Title（参考訳）: MDViT:小型医用画像分割データセット用マルチドメインビジョントランス
• Authors: Siyi Du, Nourhan Bayasi, Ghassan Hamarneh, Rafeef Garbi,
• Abstract要約: 医用画像セグメンテーション(MIS)を改善するための有望なソリューションとして、ビジョントランスフォーマー(ViT)が登場した。 ViTは通常、単一のデータソースを使用してトレーニングされ、他の利用可能なデータセットから活用できる貴重な知識を見落としている。 本稿では,データハンガーを緩和し,NKTと戦うドメインアダプタを含む,最初のマルチドメイン ViT である MDViT を提案する。
• 参考スコア（独自算出の注目度）: 19.44142290594537
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Despite its clinical utility, medical image segmentation (MIS) remains a daunting task due to images' inherent complexity and variability. Vision transformers (ViTs) have recently emerged as a promising solution to improve MIS; however, they require larger training datasets than convolutional neural networks. To overcome this obstacle, data-efficient ViTs were proposed, but they are typically trained using a single source of data, which overlooks the valuable knowledge that could be leveraged from other available datasets. Naivly combining datasets from different domains can result in negative knowledge transfer (NKT), i.e., a decrease in model performance on some domains with non-negligible inter-domain heterogeneity. In this paper, we propose MDViT, the first multi-domain ViT that includes domain adapters to mitigate data-hunger and combat NKT by adaptively exploiting knowledge in multiple small data resources (domains). Further, to enhance representation learning across domains, we integrate a mutual knowledge distillation paradigm that transfers knowledge between a universal network (spanning all the domains) and auxiliary domain-specific branches. Experiments on 4 skin lesion segmentation datasets show that MDViT outperforms state-of-the-art algorithms, with superior segmentation performance and a fixed model size, at inference time, even as more domains are added. Our code is available at https://github.com/siyi-wind/MDViT.
• Abstract（参考訳）: 臨床的有用性にもかかわらず、医用画像分割(MIS)は画像固有の複雑さと変動性のため、困難な作業である。 ビジョントランスフォーマー(ViT)は最近、MISを改善するための有望なソリューションとして登場したが、畳み込みニューラルネットワークよりも大規模なトレーニングデータセットを必要とする。 この障害を克服するために、データ効率のよいViTが提案されたが、通常は単一のデータソースを使用してトレーニングされている。 異なるドメインからのデータセットを組み合わせることは、負の知識伝達(NKT)、すなわち、無視できないドメイン間不均一性を持ついくつかのドメインにおけるモデル性能の低下をもたらす。 本稿では,複数の小さなデータリソース(ドメイン)の知識を適応的に活用することにより,データハンガーを緩和し,NKTと戦うためのドメインアダプタを含む,最初のマルチドメイン ViT である MDViT を提案する。 さらに、ドメイン間の表現学習を強化するために、普遍的なネットワーク(全てのドメインを拡大する)と補助的なドメイン固有のブランチの間で知識を伝達する相互知識蒸留パラダイムを統合する。 4つの皮膚病変セグメンテーションデータセットの実験により、MDViTは、より多くのドメインを追加しても推論時に、より優れたセグメンテーション性能と固定モデルサイズで最先端のアルゴリズムより優れていることが示された。 私たちのコードはhttps://github.com/siyi-wind/MDViT.comで利用可能です。

関連論文リスト

• Model-Contrastive Federated Domain Adaptation [3.9435648520559177]
  フェデレートされたドメイン適応(FDA)は、ソースクライアント(ドメイン)から関連するが異なるターゲットクライアントに知識を協調的に転送することを目的としています。 我々は、bfコントラスト学習と視覚変換器(ViT)に基づくbfフェデレーションbfドメインbf適応に対処することを目的とした、FDACというモデルベース手法を提案する。 我々の知る限りでは、FDACはViTの潜在アーキテクチャをフェデレートされた環境下で操作することで、転送可能な表現を学習する最初の試みである。
  論文  参考訳（メタデータ） (2023-05-07T23:48:03Z)
• AADG: Automatic Augmentation for Domain Generalization on Retinal Image Segmentation [1.0452185327816181]
  AADG(Automated Augmentation for Domain Generalization)と呼ばれるデータ操作に基づくドメイン一般化手法を提案する。 我々のAADGフレームワークは、新しいドメインを生成するデータ拡張ポリシーを効果的にサンプリングすることができる。 提案するAADGは,最先端の一般化性能を示し,既存手法より優れている。
  論文  参考訳（メタデータ） (2022-07-27T02:26:01Z)
• Data Augmentation for Cross-Domain Named Entity Recognition [22.66649873447105]
  名前付きエンティティ認識タスクのためのドメイン間データ拡張について検討する。 本稿では,データ表現を高リソースから低リソース領域に変換する新しいニューラルアーキテクチャを提案する。 本研究では,低リソース領域の表現にデータを変換することで,高リソース領域のデータのみを使用することによる大幅な改善を実現することを示す。
  論文  参考訳（メタデータ） (2021-09-04T00:50:55Z)
• Variational Attention: Propagating Domain-Specific Knowledge for Multi-Domain Learning in Crowd Counting [75.80116276369694]
  群集カウントでは, 激しいラベル付けの問題により, 新しい大規模データセットを収集する難易度が知覚される。 マルチドメイン共同学習を活用し,DKPNet(Domain-specific Knowledge Propagating Network)を提案する。 主に、異なるドメインに対する注意分布を明示的にモデル化する、新しい変動注意法(VA)技術を提案する。
  論文  参考訳（メタデータ） (2021-08-18T08:06:37Z)
• DARCNN: Domain Adaptive Region-based Convolutional Neural Network for Unsupervised Instance Segmentation in Biomedical Images [4.3171602814387136]
  ベンチマークコンピュータビジョンデータセットのアノテーションを多用し、多様なバイオメディカルデータセットに対して教師なしのインスタンスセグメンテーションを実行することを提案する。 本研究では,COCOからのオブジェクト定義の知識を複数のバイオメディカルデータセットに適用するドメイン適応型領域ベース畳み込みニューラルネットワーク(DARCNN)を提案する。 多数のバイオメディカルデータセット上での教師なしインスタンスセグメンテーションにおけるDARCNNの性能を示す。
  論文  参考訳（メタデータ） (2021-04-03T06:54:33Z)
• Adapt Everywhere: Unsupervised Adaptation of Point-Clouds and Entropy Minimisation for Multi-modal Cardiac Image Segmentation [10.417009344120917]
  マルチモーダル心臓画像分割のための新しいUDA法を提案する。 提案手法は、逆学習に基づいて、異なる空間におけるソースとターゲットドメイン間のネットワーク特徴を適応する。 本手法はannotated source domainからunannotated target domainへの適応により2つの心データセットで検証した。
  論文  参考訳（メタデータ） (2021-03-15T08:59:44Z)
• Domain Adaptation for Learning Generator from Paired Few-Shot Data [72.04430033118426]
  十分なソースデータと少数のターゲットデータを持つジェネレータを学習するためのペアドフェーショットGAN(PFS-GAN)モデルを提案する。 提案手法は,複数のベースラインと比較して,より多様性の高い生成対象ドメインデータに対して,定量的,定性的な結果が得られる。
  論文  参考訳（メタデータ） (2021-02-25T10:11:44Z)
• DoFE: Domain-oriented Feature Embedding for Generalizable Fundus Image Segmentation on Unseen Datasets [96.92018649136217]
  対象ドメインに対するCNNの一般化能力を向上させるために,新しいドメイン指向特徴埋め込み(DoFE)フレームワークを提案する。 私たちのDoFEフレームワークは、マルチソースドメインから学んだ追加のドメイン事前知識で、画像機能を動的に強化します。 本フレームワークは、未確認データセットのセグメンテーション結果を満足して生成し、他の領域の一般化やネットワークの正規化手法を超越する。
  論文  参考訳（メタデータ） (2020-10-13T07:28:39Z)
• Learning to Combine: Knowledge Aggregation for Multi-Source Domain Adaptation [56.694330303488435]
  マルチソースドメイン適応(LtC-MSDA)フレームワークを併用する学習法を提案する。 簡単に言うと、知識グラフは様々なドメインのプロトタイプ上に構築され、セマンティックに隣接した表現間の情報伝達を実現する。 我々のアプローチは、既存の手法よりも顕著なマージンで優れています。
  論文  参考訳（メタデータ） (2020-07-17T07:52:44Z)
• Supervised Domain Adaptation using Graph Embedding [86.3361797111839]
  領域適応法は、2つの領域間の分布がシフトし、それを認識しようとすると仮定する。 グラフ埋め込みに基づく汎用フレームワークを提案する。 提案手法が強力なドメイン適応フレームワークにつながることを示す。
  論文  参考訳（メタデータ） (2020-03-09T12:25:13Z)
• MS-Net: Multi-Site Network for Improving Prostate Segmentation with Heterogeneous MRI Data [75.73881040581767]
  本稿では,ロバスト表現を学習し,前立腺のセグメンテーションを改善するための新しいマルチサイトネットワーク(MS-Net)を提案する。 当社のMS-Netは,すべてのデータセットのパフォーマンスを一貫して改善し,マルチサイト学習における最先端の手法よりも優れています。
  論文  参考訳（メタデータ） (2020-02-09T14:11:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。