論文の概要: Federated LoRA Adaptation of BiomedCLIP Across Four International Chest X-Ray Cohorts
- arxiv url: http://arxiv.org/abs/2609.02101v1
- Date: Wed, 02 Sep 2026 04:40:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.087283
- Title: Federated LoRA Adaptation of BiomedCLIP Across Four International Chest X-Ray Cohorts
- Title(参考訳): 4つの国際胸部X線コホートにおけるバイオメディカルCLIPのフェデレートLORA適応
- Abstract要約: フェデレートされた学習は、データを交換することなく、組織が共有モデルを訓練することを可能にする。
Low-Rank Adaptation (LoRA)は、コンパクトな低ランク更新のみを通信することで、これを大規模に実現している。
- 参考スコア(独自算出の注目度): 3.8298947210288374
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL) lets institutions train a shared model without exchanging data, and Low-Rank Adaptation (LoRA) makes this practical at scale by communicating only compact low-rank updates. Biomedical imaging is a compelling setting for this combination: patient data are archived behind privacy regulations, and institutions differ widely in scanners, protocols, and compute. Such heterogeneity raises the question of how federated LoRA updates should be aggregated, increasingly pressing as multimodal vision-language models become central to medical image analysis. We benchmark federated Parameter-efficient fine-tuning (PEFT) of BiomedCLIP for chest radiograph classification across four public cohorts on three continents (USA, Vietnam, Spain). Federated LoRA adaptation improves shared-class AUC on all four cohorts over the unadapted BiomedCLIP backbone (mean 0.687 to 0.802), showing that the gains come from federated adaptation rather than from the pretrained model's zero-shot ability. Relative to isolated single-cohort training, federation improves the weaker cohorts while largely preserving the strongest and approaches a centralized reference (0.812) that pools all data. The singular value decomposition (SVD)-based product-space aggregation introduced by FlexLoRA is essential to this gain (naive factor averaging drops mean AUC by 0.097), whereas a drift-correcting optimizer (FedProx) shows no benefit over FedAvg in our single-seed runs, consistent with LoRA's low-rank updates already limiting client drift. Biomedical vision-language models can thus be adapted collaboratively across heterogeneous, geographically distributed institutions without centralizing data.
- Abstract(参考訳): フェデレートラーニング(FL)は、データを交換せずに共有モデルをトレーニングし、ローランク適応(LoRA)は、コンパクトな低ランク更新のみを通信することで、これを大規模に実践する。
患者のデータはプライバシー規制の裏でアーカイブされ、組織はスキャナー、プロトコル、計算で大きく異なる。
このような異質性は、フェデレーションされたLoRA更新をどのように集約すべきかという疑問を提起し、マルチモーダル視覚言語モデルが医療画像解析の中心となるにつれて、ますます強まる。
我々は,3大陸(米国,ベトナム,スペイン)の4つの公的なコホートにまたがる胸部X線写真分類のために,BiomedCLIPのPEFTをベンチマークした。
フェデレートされたLoRA適応は、未適応のBiomedCLIPバックボーン(平均0.687から0.802)の4つのコホートの共有クラスAUCを改善し、事前訓練されたモデルのゼロショット能力からではなく、フェデレートされた適応から得られる利益を示している。
孤立した単一コホートトレーニングとは対照的に、フェデレーションはより弱いコホートを改善すると同時に、すべてのデータをプールする最強で集中的な参照(0.812)をほとんど保存する。
FlexLoRAが導入した特異値分解(SVD)ベースの製品空間集約は、このゲインには不可欠である(平均的なドロップ率の平均値(AUC)を0.097で上回ります)。
したがって、バイオメディカルビジョン言語モデルは、データを集中化することなく、異質で地理的に分散した機関間で協調的に適応することができる。
関連論文リスト
- Federated Multi-Task Learning for Bladder Tumor Segmentation and MIBC Classification Using a Hybrid CNN-Transformer Architecture [0.0]
関節膀胱腫瘍の分節化とMIBC/NMIBC分類を4つの臨床センターで行うための多タスク学習フレームワークを提案する。
提案したSwin Hybridモデルでは,局所テクスチャと境界情報のためのResNet-34ブランチと,グローバルなアナトミカルコンテキストのためのSwin-Tiny変換器を組み合わせた。
論文 参考訳(メタデータ) (2026-08-31T08:45:05Z) - FedPref: Federated Preference Learning for Structured Radiology Report Extraction [69.11739400975445]
ラジオロジーレポートでは、自由テキストで発見と位置を記述しているが、下流の検索と分析では、これらの関係を固定スキーマで記述する必要がある。
我々はFedPrefを紹介します: 凍結した公開言語モデルは代替の抽出を提案し、ローカルアノテーションはそれらをランク付けし、サイトはプールされたコンパクトQwen3-8Bアダプタを協調訓練します。
不平等なデータ量と病気の有病率を持つ6つのシミュレートされた病院の開発データに基づき、FedPrefはクライアント平均F1を2.49ポイント、最悪のサイトF1を9.10ポイント改善する。
論文 参考訳(メタデータ) (2026-08-17T12:29:42Z) - FedCC: A Low-Resource Federated Adaptation of Foundation Models for Robust Corpus Callosum localization in Fetal Ultrasound Images [34.592227505836156]
胎児US画像におけるコーパス・カロサム(CC)の局在化のためのフレームワークであるFedCCを提案する。
このフレームワークは凍結したDINOv2バックボーンと軽量なYOLOベースの検出ヘッドを統合している。
計算と通信のオーバーヘッドを大幅に減らし、低リソース環境に適したフレームワークとなる。
論文 参考訳(メタデータ) (2026-06-30T09:02:13Z) - FederatedRSF : Federated Random Survival Forests for Partially Overlapping Medical Data [1.0303353919699785]
フェデレートRSFは、ランダムサバイバル森林を実装し、地元で訓練されたサバイバルツリーを集約し、各場所に特徴互換の木のみを再配布する。
GBSG2乳がんコホートにおけるFederatedRSFとScikit-survival packageの併用効果について検討した。
論文 参考訳(メタデータ) (2026-05-21T18:32:25Z) - Embedding-Based Federated Learning with Runtime Governance for Iron Deficiency Prediction [1.690444853538344]
通常の全血液量データから鉄欠乏予測のための埋込み型FLパイプラインを開発した。
アムステルダム大学医療センター(AUMC)とNHSBT(NHSBT)の実際の施設環境に展開した。
凍結したドメイン固有造血基盤モデルであるDeepCBCは、サイト局所的な表現抽出を行う。
論文 参考訳(メタデータ) (2026-05-20T16:31:53Z) - FedPDPO: Federated Personalized Direct Preference Optimization for Large Language Model Alignment [55.97027207627]
Fed PDPO(Federated Personalized Direct Preference Optimization)は、大規模言語モデル(LLM)の優先順位調整のためのパーソナライズされたフレームワークである。
パラメータ効率の良い微調整アーキテクチャを採用し、各クライアントはLow-Rank Adaptation (LoRA)アダプタで拡張された凍結したLLMバックボーンを維持し、通信効率のよいアグリゲーションを可能にする。
複数の嗜好データセットの実験では、最先端のパフォーマンスを示し、フェデレーション付きドメイン内およびクロスドメイン設定の平均精度が4.80%向上した。
論文 参考訳(メタデータ) (2026-03-20T08:24:49Z) - Med-DualLoRA: Local Adaptation of Foundation Models for 3D Cardiac MRI [1.2782432265370094]
Med-DualLoRAは,グローバルな共有およびローカルなローランク適応(LoRA)を加法分解によって分散する,クライアント対応パラメータ効率の高い微調整フレームワークである。
ACDCとM&Msデータセットを併用した多心式3次元CMR FMによる疾患検出法について検討した。
論文 参考訳(メタデータ) (2026-03-11T16:52:21Z) - A Federated and Parameter-Efficient Framework for Large Language Model Training in Medicine [59.78991974851707]
大規模言語モデル(LLM)は、質問応答や診断など、医療ベンチマークにおいて強力なパフォーマンスを示している。
ほとんどの医療用LDMは、異種システムの一般化性と安全性の制限に直面している単一の機関のデータに基づいて訓練されている。
本稿では, LLMを医療応用に適用するためのモデルに依存しない, パラメータ効率のよいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-29T18:48:21Z) - Towards Communication-efficient Federated Learning via Sparse and Aligned Adaptive Optimization [90.08459757321405]
Federated Adam (FedAdam) アルゴリズムはアップリンク通信オーバーヘッドの3倍の増大に悩まされている。
我々はFedAdam-SSMと呼ばれる新しいスパースなFedAdamアルゴリズムを提案する。
我々は,FedAdam-SSMが訓練したモデルと集中型Adamの差異を最小化することにより,スペーシフィケーションエラーによる学習性能劣化を軽減するためにSSMを最適化する。
論文 参考訳(メタデータ) (2024-05-28T07:56:49Z) - Learning Federated Visual Prompt in Null Space for MRI Reconstruction [83.71117888610547]
我々はMRI再建のためのグローバルプロンプトのヌル空間におけるフェデレートされた視覚的プロンプトを学習するための新しいアルゴリズムであるFedPRを提案する。
FedPRは、ローカルトレーニングデータの限られた量を与えられた場合、通信コストの6%で最先端のFLアルゴリズムを著しく上回っている。
論文 参考訳(メタデータ) (2023-03-28T17:46:16Z) - Heterogeneous Federated Learning via Grouped Sequential-to-Parallel
Training [60.892342868936865]
フェデレートラーニング(Federated Learning, FL)は、プライバシ保護のためのコラボレーション機械学習パラダイムである。
本稿では,この課題に対処するため,データヘテロジニアス・ロバストFLアプローチであるFedGSPを提案する。
その結果,FedGSPは7つの最先端アプローチと比較して平均3.7%の精度向上を実現していることがわかった。
論文 参考訳(メタデータ) (2022-01-31T03:15:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。