論文の概要: Contrastive Adapter Training and Consensus Knowledge Distillation for Multi-Source-Free Domain Adaptation in Skin Cancer Diagnosis
- arxiv url: http://arxiv.org/abs/2611.03528v1
- Date: Mon, 02 Nov 2026 17:58:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 04:02:47.220385
- Title: Contrastive Adapter Training and Consensus Knowledge Distillation for Multi-Source-Free Domain Adaptation in Skin Cancer Diagnosis
- Title(参考訳): 皮膚癌診断におけるマルチソースフリードメイン適応のためのコントラスト適応訓練とコンセンサス知識蒸留
- Abstract要約: 皮膚癌,特に良性頸部悪性黒色腫の鑑別は,病変間の視覚的類似性により困難である。
本稿では,(1)コントラスト適応訓練(CAT)と(2)コントラスト学習(SCL)と(2)コンセンサス知識蒸留(CKD)の2つのコンポーネントからなるCAT-CKDを提案する。
CAT-CKDは平均86.1%のAUROCを達成し、既存のMSFDA法を上回り、トレーニング可能なパラメータは4.3Mしか必要としていない。
- 参考スコア(独自算出の注目度): 22.166354842758764
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Skin cancer diagnosis, particularly differentiating melanoma from benign nevi, is challenging due to the visual similarity between lesions. Although convolutional neural networks (CNNs) and vision transformers (ViTs) have shown promising performance, their effectiveness often deteriorates on data from heterogeneous clinical sources. Conventional domain adaptation methods address domain shift but require access to source data during adaptation, which is often infeasible due to privacy regulations. Multi-source-free unsupervised domain adaptation (MSFDA) addresses this limitation by leveraging multiple labeled source domains to generalize to an unlabeled target domain without requiring access to source data. However, existing MSFDA methods rely on full backbone fine-tuning, leading to catastrophic forgetting and overfitting on small clinical datasets, and address domain shift at the aggregation stage without establishing a shared domain-invariant feature space. Furthermore, their reliance on hard pseudo-labels or confidence-weighted aggregation introduces noisy supervision signals under domain shift. To address these limitations, we propose CAT-CKD, consisting of two components: (1) contrastive adapter training (CAT), which trains lightweight ConvPass adapters within a frozen ViT backbone using supervised contrastive learning (SCL) to establish a shared domain-invariant feature space before source-specific model training, and (2) consensus knowledge distillation (CKD), which aggregates logits from multiple source models into a consensus supervisory signal and adapts a student model on unlabeled target data using KL divergence. Experiments on five publicly available skin lesion datasets show that CAT-CKD achieves an average AUROC of 86.1%, outperforming existing MSFDA methods while requiring only 4.3M trainable parameters. The code is available at https://github.com/A-Abedi/CAT_CKD.
- Abstract(参考訳): 皮膚癌,特に良性頸部悪性黒色腫の鑑別は,病変間の視覚的類似性から困難である。
畳み込みニューラルネットワーク(CNN)とビジョントランスフォーマー(ViT)は有望な性能を示したが、その効果は異種臨床ソースのデータにしばしば悪影響を及ぼす。
従来のドメイン適応手法はドメインシフトに対処するが、適応中にソースデータにアクセスする必要がある。
マルチソースフリーな非教師なしドメイン適応(MSFDA)は、複数のラベル付きソースドメインを活用して、ソースデータへのアクセスを必要とせずに、ラベルなしのターゲットドメインに一般化することで、この制限に対処する。
しかし、既存のMSFDA法は、完全なバックボーンの微調整に依存しており、小さな臨床データセットを忘れ、過剰に適合し、共有ドメイン不変の特徴空間を確立することなく、集約段階でドメインシフトに対処する。
さらに、ハードな擬似ラベルや信頼度重み付けへの依存は、ドメインシフトの下でノイズの多い監視信号をもたらす。
これらの制約に対処するため,(1)教師付きコントラスト学習(SCL)を用いて冷凍VTバックボーン内で軽量なConvPassアダプタをトレーニングし,ソース固有モデルトレーニングの前に共有ドメイン不変の機能空間を確立するCAT-CKD,(2)コンセンサス知識蒸留(CKD)という2つのコンポーネントからなるCAT-CKDを提案する。
公開された5つの皮膚病変データセットの実験によると、CAT-CKDは平均86.1%のAUROCを達成しており、既存のMSFDA法よりも優れており、トレーニング可能なパラメータは4.3Mしか必要としていない。
コードはhttps://github.com/A-Abedi/CAT_CKD.comで公開されている。
関連論文リスト
- Domain-Aware Hierarchical Contrastive Learning for Semi-Supervised Generalization Fault Diagnosis [49.89578655034085]
本稿では,障害診断のためのドメイン認識型階層的コントラスト学習(DAHCL)という統合フレームワークを提案する。
DAHCLは、ソースドメインの幾何学的特徴を捉え、異種ソースドメイン間の擬似ラベル予測を校正する。
また,動的信頼層化とファジィコントラスト監視を組み合わせた階層型コントラスト学習モジュールを開発した。
論文 参考訳(メタデータ) (2026-04-22T08:41:27Z) - Learning from Heterogeneous Structural MRI via Collaborative Domain Adaptation for Late-Life Depression Assessment [24.340328016766183]
T1強調MRIを用いたLDD検出のための協調的ドメイン適応フレームワークを提案する。
このフレームワークは、ラベル付きソースデータに対する教師付きトレーニング、自己教師付きターゲット特徴適応、ラベルなしターゲットデータに対する協調トレーニングの3段階で構成されている。
マルチサイトT1強調MRIデータを用いて行った実験により、このフレームワークは最先端の非教師なし領域適応法より一貫して優れていることが示された。
論文 参考訳(メタデータ) (2025-07-30T01:38:32Z) - An Uncertainty-guided Tiered Self-training Framework for Active Source-free Domain Adaptation in Prostate Segmentation [10.061310311839856]
Source-free Domain Adaptation (SFDA)は、プライバシとセキュリティ上の問題に対処するために、深いセグメンテーションモデルを適用するための有望なテクニックである。
安定したドメイン適応を実現するための新しい不確実性誘導型自己学習(UGTST)フレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-03T08:13:16Z) - Multi-source-free Domain Adaptation via Uncertainty-aware Adaptive
Distillation [8.791916654073088]
ソースフリードメイン適応(SFDA)は、データプライバシの認識のためにデータにアクセスすることなく、ドメインから取得したデータ間のドメインの不一致を軽減する。
マルチソースフリーな非教師付きドメイン適応設定のための不確実性認識適応蒸留(UAD)を提案する。
論文 参考訳(メタデータ) (2024-02-09T06:48:04Z) - Source-Free Domain Adaptation for Medical Image Segmentation via
Prototype-Anchored Feature Alignment and Contrastive Learning [57.43322536718131]
医用画像セグメンテーションのための2段階のソースフリードメイン適応(SFDA)フレームワークを提案する。
プロトタイプアンコールされた特徴アライメントの段階では,まず,事前学習した画素ワイド分類器の重みを原プロトタイプとして利用する。
そこで,本研究では,目標となる特徴とクラスプロトタイプとの整合性を期待するコストを最小化し,双方向輸送を導入する。
論文 参考訳(メタデータ) (2023-07-19T06:07:12Z) - Contrastive Model Adaptation for Cross-Condition Robustness in Semantic
Segmentation [58.17907376475596]
意味的セグメンテーションのための正規-逆条件モデル適応について検討する。
提案手法は, コントラスト学習を通じて条件不変の特徴を学習するために, このような画像ペアを利用する。
いくつかの正規-逆適応ベンチマークにおけるモデル適応のための最先端セマンティックセマンティックセマンティクス性能を実現する。
論文 参考訳(メタデータ) (2023-03-09T11:48:29Z) - Cross-Modality Brain Tumor Segmentation via Bidirectional
Global-to-Local Unsupervised Domain Adaptation [61.01704175938995]
本論文では,UDAスキームに基づくBiGL(Bidirectional Global-to-Local)適応フレームワークを提案する。
具体的には、脳腫瘍をセグメント化するために、双方向画像合成およびセグメンテーションモジュールを提案する。
提案手法は, 最先端の非教師なし領域適応法を大きなマージンで上回っている。
論文 参考訳(メタデータ) (2021-05-17T10:11:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。