論文の概要: MFM-DA: Instance-Aware Adaptor and Hierarchical Alignment for Efficient Domain Adaptation in Medical Foundation Models
- arxiv url: http://arxiv.org/abs/2503.00802v1
- Date: Sun, 02 Mar 2025 08:54:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-05 19:18:52.506665
- Title: MFM-DA: Instance-Aware Adaptor and Hierarchical Alignment for Efficient Domain Adaptation in Medical Foundation Models
- Title(参考訳): MFM-DA:医療ファウンデーションモデルにおける効率的なドメイン適応のためのインスタンス認識適応と階層的アライメント
- Authors: Jia-Xuan Jiang, Wenhui Lei, Yifeng Wu, Hongtao Wu, Furong Li, Yining Xie, Xiaofan Zhang, Zhong Wang,
- Abstract要約: 医療ファウンデーションモデル(MFM)は、様々なタスクにおいて優れたパフォーマンスを示している。
MFMは実践的な応用においてドメインギャップと戦っている。
MFMのドメイン適応フレームワークとして,MFM-DAを提案する。
- 参考スコア(独自算出の注目度): 5.814157038186569
- License:
- Abstract: Medical Foundation Models (MFMs), trained on large-scale datasets, have demonstrated superior performance across various tasks. However, these models still struggle with domain gaps in practical applications. Specifically, even after fine-tuning on source-domain data, task-adapted foundation models often perform poorly in the target domain. To address this challenge, we propose a few-shot unsupervised domain adaptation (UDA) framework for MFMs, named MFM-DA, which only leverages a limited number of unlabeled target-domain images. Our approach begins by training a Denoising Diffusion Probabilistic Model (DDPM), which is then adapted to the target domain using a proposed dynamic instance-aware adaptor and a distribution direction loss, enabling the DDPM to translate source-domain images into the target domain style. The adapted images are subsequently processed through the MFM, where we introduce a designed channel-spatial alignment Low-Rank Adaptation (LoRA) to ensure effective feature alignment. Extensive experiments on optic cup and disc segmentation tasks demonstrate that MFM-DA outperforms state-of-the-art methods. Our work provides a practical solution to the domain gap issue in real-world MFM deployment. Code will be available at here.
- Abstract(参考訳): 大規模データセットでトレーニングされたMFM(Messical Foundation Models)は、さまざまなタスクにおいて優れたパフォーマンスを示している。
しかし、これらのモデルは、実用アプリケーションにおけるドメインギャップといまだに苦労している。
具体的には、ソースドメインデータを微調整した後でも、タスク適応基盤モデルはターゲットドメインでよく機能しない。
この課題に対処するために, MFM-DA という名前の MFM のための数発のunsupervised domain adaptation (UDA) フレームワークを提案する。
提案手法は,提案した動的インスタンス認識型適応器と分布方向損失を用いて,対象ドメインに適応した拡散確率モデル(DDPM)をトレーニングすることから始まる。
適応画像は, MFMによって処理され, 効率的な特徴アライメントを確保するために, チャネル空間アライメント (Low-Rank Adaptation, LoRA) を設計した。
光カップとディスクセグメンテーションタスクの広範な実験により、MFM-DAは最先端の手法より優れていることが示された。
私たちの研究は、実世界のFMデプロイメントにおけるドメインギャップ問題に対する実践的な解決策を提供します。
コードはここで入手できる。
関連論文リスト
- Steering Masked Discrete Diffusion Models via Discrete Denoising Posterior Prediction [88.65168366064061]
本稿では,確率論的推論の課題として,事前学習したMDMを操る作業を行う新しいフレームワークであるDDPPを紹介する。
私たちのフレームワークは、3つの新しい目標のファミリーにつながります。
Wet-lab Validation(ウェット・ラブ・バリデーション)を用いて,報酬最適化タンパク質配列の過渡的発現を観察する。
論文 参考訳(メタデータ) (2024-10-10T17:18:30Z) - Prompt-based Distribution Alignment for Unsupervised Domain Adaptation [42.77798810726824]
教師なし学習型視覚言語モデル(VLM)は、ソースドメインとターゲットドメイン間の分布差を著しく低減できることを示す。
このようなモデルを下流のUDAタスクに直接デプロイする上での大きな課題は、迅速なエンジニアリングである。
本稿では,ドメイン知識を素早い学習に組み込むためのPDA手法を提案する。
論文 参考訳(メタデータ) (2023-12-15T06:15:04Z) - Subject-Based Domain Adaptation for Facial Expression Recognition [51.10374151948157]
ディープラーニングモデルを特定の対象個人に適用することは、難しい表情認識タスクである。
本稿では、FERにおける主観的ドメイン適応のための新しいMSDA手法を提案する。
複数の情報源からの情報を効率的に利用して、ディープFERモデルを単一のターゲット個人に適応させる。
論文 参考訳(メタデータ) (2023-12-09T18:40:37Z) - Domain-Guided Conditional Diffusion Model for Unsupervised Domain
Adaptation [23.668005880581248]
本研究では,DomAin-guided Conditional Diffusion Model (DACDM)を提案する。
生成されたサンプルは、既存のUDAメソッドがソースドメインからターゲットドメインへの転送をより容易にするのに役立つため、転送性能が向上する。
論文 参考訳(メタデータ) (2023-09-23T07:09:44Z) - Spectral Adversarial MixUp for Few-Shot Unsupervised Domain Adaptation [72.70876977882882]
臨床応用においては、トレーニング画像(ソース領域)とテスト画像(ターゲット領域)が異なる分布下にある場合、ドメインシフトは一般的な問題である。
本稿では,Few-Shot Unsupervised Domain Adaptation (FSUDA) の新たな手法を提案する。
論文 参考訳(メタデータ) (2023-09-03T16:02:01Z) - Unsupervised Domain Adaptation via Domain-Adaptive Diffusion [31.802163238282343]
非教師付きドメイン適応(UDA)は、ソースドメインとターゲットドメインの間に大きな分散不一致があるため、非常に難しい。
大規模なギャップをまたいでデータ分散を段階的に変換する能力を持つ拡散モデルに着想を得て,その課題に対処する拡散手法について検討する。
提案手法は, 広く使用されている3つのUDAデータセットに対して, 現在の最先端技術よりも大きなマージンを達成している。
論文 参考訳(メタデータ) (2023-08-26T14:28:18Z) - Open-Set Domain Adaptation with Visual-Language Foundation Models [51.49854335102149]
非教師なしドメイン適応(UDA)は、ソースドメインからラベルのないデータを持つターゲットドメインへの知識の転送に非常に効果的であることが証明されている。
オープンセットドメイン適応(ODA)は、トレーニングフェーズ中にこれらのクラスを識別する潜在的なソリューションとして登場した。
論文 参考訳(メタデータ) (2023-07-30T11:38:46Z) - Graphical Modeling for Multi-Source Domain Adaptation [56.05348879528149]
マルチソースドメイン適応(MSDA)は、複数のソースドメインからターゲットドメインへの知識の転送に焦点を当てている。
我々は2種類のグラフィカルモデルを提案する。
MSDAの条件付きランダムフィールド(CRF-MSDA)とMSDAのマルコフランダムフィールド(MRF-MSDA)
これらの2つのモデルを、ドメインシフトとデータの複雑さが異なるMSDAの4つの標準ベンチマークデータセットで評価します。
論文 参考訳(メタデータ) (2021-04-27T09:04:22Z) - Adapt Everywhere: Unsupervised Adaptation of Point-Clouds and Entropy
Minimisation for Multi-modal Cardiac Image Segmentation [10.417009344120917]
マルチモーダル心臓画像分割のための新しいUDA法を提案する。
提案手法は、逆学習に基づいて、異なる空間におけるソースとターゲットドメイン間のネットワーク特徴を適応する。
本手法はannotated source domainからunannotated target domainへの適応により2つの心データセットで検証した。
論文 参考訳(メタデータ) (2021-03-15T08:59:44Z) - MADAN: Multi-source Adversarial Domain Aggregation Network for Domain
Adaptation [58.38749495295393]
ドメイン適応は、あるラベル付きソースドメインと、わずかにラベル付けまたはラベル付けされていないターゲットドメインの間のドメインシフトをブリッジするために、転送可能なモデルを学ぶことを目的としています。
近年のマルチソース領域適応法(MDA)では,ソースとターゲット間の画素レベルのアライメントは考慮されていない。
これらの課題に対処するための新しいMDAフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-19T21:22:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。