Fugu-MT 論文翻訳(概要): Federated CLIP for Resource-Efficient Heterogeneous Medical Image Classification

論文の概要: Federated CLIP for Resource-Efficient Heterogeneous Medical Image Classification

arxiv url: http://arxiv.org/abs/2511.07929v1
Date: Wed, 12 Nov 2025 01:28:57 GMT
ステータス: 翻訳完了
システム内更新日: 2025-11-12 20:17:03.550859
Title: Federated CLIP for Resource-Efficient Heterogeneous Medical Image Classification
Title（参考訳）: 資源効率の良い不均一な医用画像分類のためのフェデレートCLIP
Authors: Yihang Wu, Ahmad Chaddad,
Abstract要約: 医用画像分類(FedMedCLIP)のための対照的言語画像事前訓練(CLIP)に基づくFLアプローチを提案する。具体的には、通信モジュールとしてマスク付き特徴適応モジュール(FAM)を導入し、通信負荷を低減し、CLIPエンコーダを凍結して計算オーバーヘッドを低減する。最後に、分類にアンサンブル予測を用いてFAMパラメータを伝達するためにモデル圧縮を組み込む。
参考スコア（独自算出の注目度）: 6.844618776091757
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Despite the remarkable performance of deep models in medical imaging, they still require source data for training, which limits their potential in light of privacy concerns. Federated learning (FL), as a decentralized learning framework that trains a shared model with multiple hospitals (a.k.a., FL clients), provides a feasible solution. However, data heterogeneity and resource costs hinder the deployment of FL models, especially when using vision language models (VLM). To address these challenges, we propose a novel contrastive language-image pre-training (CLIP) based FL approach for medical image classification (FedMedCLIP). Specifically, we introduce a masked feature adaptation module (FAM) as a communication module to reduce the communication load while freezing the CLIP encoders to reduce the computational overhead. Furthermore, we propose a masked multi-layer perceptron (MLP) as a private local classifier to adapt to the client tasks. Moreover, we design an adaptive Kullback-Leibler (KL) divergence-based distillation regularization method to enable mutual learning between FAM and MLP. Finally, we incorporate model compression to transmit the FAM parameters while using ensemble predictions for classification. Extensive experiments on four publicly available medical datasets demonstrate that our model provides feasible performance (e.g., 8\% higher compared to second best baseline on ISIC2019) with reasonable resource cost (e.g., 120$\times$ faster than FedAVG).
Abstract（参考訳）: 医療画像におけるディープモデルの性能は目立ってはいるものの、トレーニングにはソースデータが必要であるため、プライバシー上の懸念からその可能性を制限することができる。複数の病院(FLクライアント)で共有モデルをトレーニングする分散学習フレームワークであるフェデレートラーニング(FL)は、実現可能なソリューションを提供する。しかし、データの不均一性と資源コストは、特に視覚言語モデル(VLM)を使用する場合、FLモデルの展開を妨げる。これらの課題に対処するため,医療画像分類(FedMedCLIP)のためのCLIPベースのFLアプローチを提案する。具体的には、通信モジュールとしてマスク付き特徴適応モジュール(FAM)を導入し、通信負荷を低減し、CLIPエンコーダを凍結して計算オーバーヘッドを低減する。さらに、クライアントタスクに適応するプライベートローカル分類器として、マスク付き多層パーセプトロン(MLP)を提案する。さらに,FAMとMLPの相互学習を実現するために,適応的なKL分散蒸留法を設計する。最後に、モデル圧縮を組み込んでFAMパラメータを送信し、アンサンブル予測を用いて分類する。 4つの公開医療データセットに対する大規模な実験により、我々のモデルは、適切なリソースコスト(例えば、FedAVGよりも120$\times$速い)で、実現可能なパフォーマンス(ISIC2019の2番目に良いベースラインよりも8\%高い)を提供することを示した。

関連論文リスト

A New One-Shot Federated Learning Framework for Medical Imaging Classification with Feature-Guided Rectified Flow and Knowledge Distillation [13.353672721534627]
ワンショットフェデレートラーニング(OSFL)は,通信オーバーヘッドの低さから注目を集めている。既存の生成モデルベースのOSFLメソッドは、トレーニング効率の低下と、医療領域における潜在的なプライバシー漏洩に悩まされている。本稿では,新しいFG-RF(Feature-Guided Rectified Flow Model)とDLKD(Dual-Layer Knowledge Distillation)アグリゲーション手法を開発したOSFLフレームワークを提案する。
論文参考訳（メタデータ） (2025-07-25T08:05:47Z)
FedSKD: Aggregation-free Model-heterogeneous Federated Learning using Multi-dimensional Similarity Knowledge Distillation [7.944298319589845]
フェデレートラーニング(FL)は、直接データを共有することなく、プライバシー保護のための協調モデルトレーニングを可能にする。 MHFL(Model-heterogeneous FL)は、クライアントが計算資源やアプリケーション固有のニーズに合わせて、不均一なアーキテクチャでパーソナライズされたモデルを訓練することを可能にする。ピアツーピア(P2P)FLはサーバ依存を除去するが、モデルドリフトと知識の希釈に悩まされ、不均一な設定での有効性が制限される。ラウンドロビンモデル循環による直接知識交換を容易にする新しいMHFLフレームワークであるFedSKDを提案する。
論文参考訳（メタデータ） (2025-03-23T05:33:10Z)
FedSCA: Federated Tuning with Similarity-guided Collaborative Aggregation for Heterogeneous Medical Image Segmentation [14.113755905200009]
トランスフォーマーベースファンデーションモデル (FM) は近年, 医用画像のセグメンテーションにおいて顕著な性能を示した。しかし、分離病院内の医療画像データセットが限られているため、これらのモデルをスケールすることは困難である。本稿では,UnderlinetextbfCollaborative UnderlinetextbfAggregation (FedSCA)を用いたFLFMファインチューニングフレームワークを提案する。
論文参考訳（メタデータ） (2025-03-19T16:27:29Z)
FAA-CLIP: Federated Adversarial Adaptation of CLIP [10.380503502697039]
本稿では,CLIPのFederated Adrial Adaptation(FAA)の新しい手法を提案する。 FAA-CLIPは、集約のための軽量機能適応モジュール(FAM)を使用して、CLIPの大規模な通信コストを処理する。 CLIP を凍結させ,FAM パラメータのみを更新することにより,計算効率も向上する。
論文参考訳（メタデータ） (2025-02-26T01:51:11Z)
Over-the-Air Fair Federated Learning via Multi-Objective Optimization [52.295563400314094]
本稿では,公平なFLモデルを訓練するためのOTA-FFL(Over-the-air Fair Federated Learning Algorithm)を提案する。 OTA-FFLの公正性とロバストな性能に対する優位性を示す実験を行った。
論文参考訳（メタデータ） (2025-01-06T21:16:51Z)
FACMIC: Federated Adaptative CLIP Model for Medical Image Classification [12.166024140377337]
本稿では,CLIPモデルを用いた適応型コントラスト言語画像の分類処理について紹介する。私たちはCLIP用の軽量で効率的な機能アテンションモジュールを採用し、各クライアントのデータに適した機能を選択します。本稿では,クライアント間のデータ分散の差異を低減するためのドメイン適応手法を提案する。
論文参考訳（メタデータ） (2024-10-08T13:24:10Z)
ZooPFL: Exploring Black-box Foundation Models for Personalized Federated Learning [95.64041188351393]
本稿では,限られた資源とパーソナライゼーションの両課題を解決しようと試みる。個人化フェデレート学習におけるゼロ階最適化を用いたZOOPFLという手法を提案する。計算コストの削減とパーソナライゼーションの向上を目的として,低次元およびクライアント固有の埋め込みを持つオートエンコーダを組み込む入力手術を提案する。
論文参考訳（メタデータ） (2023-10-08T12:26:13Z)
Learnable Weight Initialization for Volumetric Medical Image Segmentation [66.3030435676252]
本稿では,学習可能な重みに基づくハイブリッド医療画像セグメンテーション手法を提案する。我々のアプローチはどんなハイブリッドモデルにも簡単に統合でき、外部のトレーニングデータを必要としない。多臓器・肺がんセグメンテーションタスクの実験は、我々のアプローチの有効性を実証している。
論文参考訳（メタデータ） (2023-06-15T17:55:05Z)
FedDM: Iterative Distribution Matching for Communication-Efficient Federated Learning [87.08902493524556]
フェデレートラーニング(FL)は近年、学術や産業から注目を集めている。我々は,複数の局所的代理関数からグローバルなトレーニング目標を構築するためのFedDMを提案する。そこで本研究では,各クライアントにデータ集合を構築し,元のデータから得られた損失景観を局所的にマッチングする。
論文参考訳（メタデータ） (2022-07-20T04:55:18Z)
Efficient Split-Mix Federated Learning for On-Demand and In-Situ Customization [107.72786199113183]
フェデレートラーニング(FL)は、複数の参加者が生データを共有せずに学習をコラボレーションするための分散ラーニングフレームワークを提供する。本稿では, モデルサイズとロバスト性をその場でカスタマイズできる, 不均一な参加者のための新しいスプリット・ミクス・FL戦略を提案する。
論文参考訳（メタデータ） (2022-03-18T04:58:34Z)
Differentially private federated deep learning for multi-site medical image segmentation [56.30543374146002]
フェデレートラーニング(FL)のような協調機械学習技術は、データ転送なしで効果的に大規模なデータセット上でモデルのトレーニングを可能にする。近年のイニシアチブでは、FLで訓練されたセグメンテーションモデルが、局所的に訓練されたモデルと同様のパフォーマンスを達成できることが示されている。しかし、FLは完全なプライバシ保護技術ではなく、プライバシ中心の攻撃は秘密の患者データを開示することができる。
論文参考訳（メタデータ） (2021-07-06T12:57:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。